近期，國際頂級學(xué)術(shù)會(huì)議 The Web Conference 2025（簡稱 WWW 2025）在澳大利亞悉尼召開，華東師范大學(xué)陳岑副教授實(shí)驗(yàn)室與魔搭社區(qū)合作的論文 Responsible Diffusion Models via Constraining Text Embeddings within Safe Regions 在該會(huì)議中榮獲唯一最佳學(xué)生論文獎(jiǎng)（Best Student Paper Award），這是中國學(xué)術(shù)研究機(jī)構(gòu)第三次獲得該獎(jiǎng)項(xiàng)。
WWW 是互聯(lián)網(wǎng)、人工智能和交叉綜合領(lǐng)域最具影響力的國際學(xué)術(shù)會(huì)議之一，同時(shí)也是中國計(jì)算機(jī)學(xué)會(huì)推薦的 A 類國際學(xué)術(shù)會(huì)議，至 2025 年已成功舉辦 34 屆。該會(huì)議每年匯聚全球互聯(lián)網(wǎng)、人工智能、數(shù)據(jù)挖掘和信息檢索等領(lǐng)域的頂尖學(xué)者與專家，圍繞前沿理論與技術(shù)展開深入交流與思想碰撞。今年會(huì)議上的 Research Track 共計(jì)收到 2062 篇投稿，其中 409 篇論文被錄用，經(jīng)過對論文創(chuàng)新性、影響力、清晰度等方面的嚴(yán)格評估，從錄用論文中篩選出了在學(xué)術(shù)價(jià)值和應(yīng)用潛力上均有出眾表現(xiàn)的獲獎(jiǎng)?wù)撐摹?/p>
此次最佳學(xué)生論文獎(jiǎng)的獲獎(jiǎng)?wù)撐尼槍ξ纳鷪D擴(kuò)散模型（如 Stable Diffusion）存在的兩大核心安全與倫理問題，包括有害內(nèi)容生成和社會(huì)偏見，提出了一種新的解決方案，即利用擴(kuò)散模型自身的知識(shí)學(xué)習(xí)文本嵌入空間中的安全語義方向，將提示詞的文本嵌入約束在安全語義區(qū)域內(nèi)，從而顯著減少不適宜內(nèi)容生成并緩解其潛在社會(huì)偏見。該方法具備可觀的應(yīng)用潛力和不同場景的通用性。
據(jù)悉，魔搭社區(qū)是中國最大的 AI 模型社區(qū)，秉承 " 模型即服務(wù) "（MaaS，Model as a Service）理念，為 AI 開發(fā)者提供模型體驗(yàn)、下載、調(diào)優(yōu)、訓(xùn)練、推理、部署等一站式服務(wù)。魔搭堅(jiān)持與大模型研發(fā)機(jī)構(gòu)和 AI 開發(fā)者共建生態(tài)，該獲獎(jiǎng)?wù)撐氖悄Т钆c學(xué)術(shù)界合作的重要成果，也是魔搭推動(dòng)人工智能產(chǎn)學(xué)研融合的階段性勝利。截至目前，魔搭上的模型總量超過 6 萬個(gè)，涵蓋 LLM、對話、語音、文生圖、圖生視頻等多個(gè)領(lǐng)域，支持 3000+MCP 服務(wù)，已服務(wù)超過 1500 萬全球開發(fā)者。
