中新網(wǎng)上海4月4日電(記者 陳靜)復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授、MOSS系統(tǒng)負責(zé)人邱錫鵬4日對記者表示，好的語言模型需要更好地理解語言與常識。情景學(xué)習(xí)、思維鏈和自然指令學(xué)習(xí)是語言模型的關(guān)鍵技術(shù)。

邱錫鵬教授認為，大型語言模型技術(shù)的快速演進，已經(jīng)給人類展現(xiàn)出一個通向“通用人工智能”未來的大框架，下一步最重要的是讓大模型和現(xiàn)實世界“對齊”，保證模型對人類的可信、誠實、有助、無害至關(guān)重要。

邱錫鵬解釋，情景學(xué)習(xí)，即在上下文語境中學(xué)習(xí)的能力。語言模型會在“提示詞”(prompt)中附帶一些例子作為“上文”輸入，再預(yù)測并輸出下文，這就改變了傳統(tǒng)的學(xué)習(xí)范式，可以大幅降低下游開發(fā)成本。

思維鏈，指的是做大模型示例的時候不要只給答案，也要給它推導(dǎo)過程，語言模型學(xué)習(xí)這個推導(dǎo)過程，最終給出一個正確的答案。他認為，這是突破模型參數(shù)約束、實現(xiàn)“涌現(xiàn)”能力的關(guān)鍵技術(shù)。自然指令學(xué)習(xí)，則是讓模型能直接理解人類指令，模型從指令中學(xué)習(xí)判斷能力，不斷“對齊”人類的真實意圖。

邱錫鵬教授主持研發(fā)的MOSS系統(tǒng)將于4月中旬開源。他直言，該系統(tǒng)在推理能力和事實類知識方面還需提升。這主要是由于參數(shù)規(guī)模不足造成的，可以通過擴大模型規(guī)模來實現(xiàn)。這位學(xué)者指出：“首先是對語言模型基座進行架構(gòu)優(yōu)化，將面臨輸入長度、中文編碼、多模態(tài)接入等幾重挑戰(zhàn)；其次是指令微調(diào)，難度遠高于預(yù)訓(xùn)練，而讓模型的回答‘對齊’人類思維習(xí)慣也非常困難；再次是能力強化。”

“在讓模型自我學(xué)習(xí)、自我迭代的過程中，最重要的就是人必須參與其中，以保持機器與人類價值觀、思維方式的對齊，否則就可能會離我們?nèi)祟惖钠迷絹碓竭h。”他指出，當(dāng)語言模型向人類的價值觀和思維方式對齊，并應(yīng)用于真實世界，無疑將顛覆各個行業(yè)生態(tài)。

記者了解到，在由復(fù)旦大學(xué)管理學(xué)院主辦的復(fù)旦科創(chuàng)先鋒論壇上，嘉賓們聚焦“大型語言模型引發(fā)的時代變革”，就人工智能的現(xiàn)狀和未來展開對話，進一步討論了人類可能將要面臨的時代變革。

作為從事人工智能技術(shù)產(chǎn)品化的業(yè)界人士，沈李斌看到的則更多是如何用AI替代掉簡單重復(fù)人類勞動的問題。他介紹，目前客服機器人已經(jīng)替代了不少的人工。“人類的精力就可以留做一些更積極主動的工作。”沈李斌認為，這種生成式能力將在企業(yè)里發(fā)揮非常重要的作用，提高各個流程的效率。同時，基于生產(chǎn)力的解放，很多企業(yè)與企業(yè)之間的上下游關(guān)系也將產(chǎn)生變化，大量結(jié)構(gòu)性的機會正孕育其中。

對此，邱錫鵬教授認為，人類具有適應(yīng)性和靈活性，更擅長的是利用AI的能力把工作做到更好。在這樣的背景下，人類的思考和判斷能力需要再度強化，變得更加明確。他表示，目前為止AI依然在可控范圍內(nèi)發(fā)展，但當(dāng)它成為某種基礎(chǔ)設(shè)施后，如何控制其能力就將變得十分關(guān)鍵，相關(guān)的法律法規(guī)、政府的重視、社會的認同，都將參與進整個生態(tài)中來。(完)