【資料圖】
2023年年初,聊天機(jī)器人ChatGPTt迅速席卷網(wǎng)絡(luò),火爆全球。同時(shí),中國版ChatGPT的競爭也愈演愈烈,成為業(yè)界焦點(diǎn)。
2月20日,上觀新聞從復(fù)旦大學(xué)自然語言處理實(shí)驗(yàn)室獲悉,國內(nèi)第一個(gè)對話式大型語言模型MOSS已由邱錫鵬教授團(tuán)隊(duì)發(fā)布至公開平臺(tái)(https://moss.fastnlp.top/),歡迎公眾參與內(nèi)測。
與《流浪地球》中的AI同名,MOSS可執(zhí)行對話生成、編程、事實(shí)問答等一系列任務(wù),打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術(shù)路徑。
邱錫鵬表示,盡管MOSS還有很大改善空間,但它的問世證明了在開發(fā)類ChatGPT產(chǎn)品的路上,國內(nèi)科研團(tuán)隊(duì)有能力克服技術(shù)上的重要挑戰(zhàn)。MOSS研發(fā)項(xiàng)目得到了上海人工智能實(shí)驗(yàn)室的有力支持。后期,這項(xiàng)工作將通過開源方式和業(yè)界社區(qū)分享。
不過邱錫鵬教授坦言,MOSS 的參數(shù)量比 ChatGPT 小一個(gè)數(shù)量級(jí),在任務(wù)完成度和知識(shí)儲(chǔ)備量上,還有很大提升空間,并且由于訓(xùn)練數(shù)據(jù)中的多語言語料庫有限,MOSS 在理解和生成非英語文本方面表現(xiàn)不佳。
此外,MOSS 和 ChatGPT 之間還有什么區(qū)別?MOSS 通過與人類和其他 AI 模型交談來學(xué)習(xí),而 ChatGPT 通過人類反饋強(qiáng)化學(xué)習(xí) (RLHF) 進(jìn)行訓(xùn)練。MOSS 將開源以促進(jìn)未來研究,但 ChatGPT 可能不會(huì)。由于ChatGPT并未開源,其技術(shù)方案細(xì)節(jié)也未公開,科研人員對此有諸多猜測。有專家認(rèn)為,ChatGPT是一套復(fù)雜的組合系統(tǒng),無法由單一的生成式語言模型實(shí)現(xiàn);也有專家認(rèn)為,國內(nèi)外在這個(gè)方向上的技術(shù)差距正在拉大。
MOSS的研發(fā)為國內(nèi)學(xué)術(shù)界和產(chǎn)業(yè)界提供了重要經(jīng)驗(yàn),并將助力大語言模型的進(jìn)一步探索和應(yīng)用。
前瞻經(jīng)濟(jì)學(xué)人APP資訊組
參考資料:https://txsun1997.github.io/blogs/moss.html
更多本行業(yè)研究分析詳見前瞻產(chǎn)業(yè)研究院《中國人工智能產(chǎn)業(yè)鏈布局全景梳理與招商策略建議深度研究報(bào)告》同時(shí)前瞻產(chǎn)業(yè)研究院還提供產(chǎn)業(yè)大數(shù)據(jù)、產(chǎn)業(yè)研究、政策研究、產(chǎn)業(yè)鏈咨詢、產(chǎn)業(yè)圖譜、產(chǎn)業(yè)規(guī)劃、園區(qū)規(guī)劃、產(chǎn)業(yè)招商指南、IPO募投可研、IPO業(yè)務(wù)與技術(shù)撰寫、IPO工作底稿咨詢等解決方案。
標(biāo)簽: 人工智能