由復(fù)旦大學(xué)管理學(xué)院舉辦的大型語(yǔ)言模型引發(fā)的時(shí)代變革為主題的復(fù)旦科創(chuàng)先鋒論壇近日開(kāi)啟，在論壇上復(fù)旦大學(xué)計(jì)算機(jī)科學(xué)技術(shù)學(xué)院教授、MOSS系統(tǒng)負(fù)責(zé)人邱錫鵬詳細(xì)的講解大型語(yǔ)言模擬的構(gòu)造細(xì)節(jié)，表示現(xiàn)在正在加緊的來(lái)研發(fā)MOSS系統(tǒng)，將在今年4月份中旬預(yù)計(jì)開(kāi)源，還宣稱將MOSS系統(tǒng)中文與英文的數(shù)據(jù)訓(xùn)練公開(kāi)，截止目前超過(guò)200億的參數(shù)，可以具備與人類對(duì)話的能力水平，完全能實(shí)現(xiàn)與人類相互溝通，并且MOSS系統(tǒng)的語(yǔ)言能力與之前推出的ChatGPT水瓶已經(jīng)非常的相似，但是就是MOSS系統(tǒng)完整性并不高，主要是在于訓(xùn)練和部署方面的投資受到限制。 一大難題
自從美國(guó)OpenAI公司在2022年推出人工智能ChatGPT，僅僅60天內(nèi)直接使用的用戶突破上億，也是目前為止用戶增長(zhǎng)最快的應(yīng)用程序，其主要的功能就是可以與人來(lái)進(jìn)行對(duì)話，這是在人工智能技術(shù)上最新的一次突破，對(duì)此邱錫鵬表示現(xiàn)在我們?nèi)斯ぶ悄艿陌l(fā)展遇到一個(gè)難題，就是要獲取大量的文本數(shù)據(jù)，這個(gè)空間非常的大，解決的方案就是將其概念全部的拆解成每一個(gè)詞，每一個(gè)詞的條件概念又需要連乘，才可以降低建立模型的難度。并且如果想要?jiǎng)?chuàng)建一個(gè)優(yōu)質(zhì)的語(yǔ)言模型，預(yù)測(cè)的非常的準(zhǔn)確，也就是要十分的理解人類世界的語(yǔ)言和常規(guī)的知識(shí)內(nèi)容。 建立大型語(yǔ)言模型
邱錫鵬表示在充分的了解ChatGPT之后就可以完全的建立大型語(yǔ)言模型，嘗試實(shí)現(xiàn)語(yǔ)言的基本，然后不斷的強(qiáng)化其功能關(guān)鍵的步驟目前已經(jīng)十分的明確，每一個(gè)步驟的細(xì)節(jié)需要自己來(lái)仔細(xì)的探索，在未來(lái)充滿著很大的挑戰(zhàn)性。