大語言模型發(fā)展瓶頸:文本訓(xùn)練無法實現(xiàn)人類級智能
隨著人工智能(AI)技術(shù)的飛速發(fā)展,大語言模型已成為當(dāng)前的研究熱點。然而,最近圖靈獎得主、Meta首席AI科學(xué)家楊立昆(Yann LeCun)對大語言模型的發(fā)展提出了新的看法,他認為現(xiàn)有的AI技術(shù),如大語言模型,本質(zhì)上是基于文本訓(xùn)練并通過統(tǒng)計規(guī)律生成答案,存在局限性。他認為,大語言模型的發(fā)展已經(jīng)接近瓶頸,進一步獲取數(shù)據(jù)不僅成本高昂,而且難以達到預(yù)期效果。
首先,我們需要明確一點:大語言模型是一種能夠處理大量文本數(shù)據(jù),并能夠生成自然語言的AI技術(shù)。然而,這種技術(shù)并沒有真正理解物理世界和其中的關(guān)系,也沒有真正的推理能力。它只是在大量文本數(shù)據(jù)上進行訓(xùn)練以進行檢索和生成,缺乏對物理世界的理解和抽象推理能力。
楊立昆指出,現(xiàn)有的AI技術(shù)無法像人類一樣運用常識和心理模型思考并解決新的問題。人類能夠通過觀察和理解現(xiàn)實世界來形成心理模型,并在新的情境中應(yīng)用這些模型。而現(xiàn)有的AI大模型只是在大量文本數(shù)據(jù)上進行訓(xùn)練以進行檢索和生成,缺乏對物理世界的理解和抽象推理能力。
此外,楊立昆還指出,大語言模型的訓(xùn)練數(shù)據(jù)增長帶來的回報正在逐漸遞減。僅僅通過擴大大語言模型的規(guī)模和訓(xùn)練更多數(shù)據(jù)無法實現(xiàn)人類水平的AI,因為大模型缺乏真正的推理能力和對物理世界的理解能力。這也就意味著,現(xiàn)有的AI技術(shù)無法真正地理解現(xiàn)實世界,也無法進行真正的推理和規(guī)劃。
然而,楊立昆也指出,真正的AI需要理解物理世界,擁有持久的記憶,支持推理和規(guī)劃。他相信,未來的AI系統(tǒng)需要能夠處理現(xiàn)實世界中的各種情況,并能夠根據(jù)已有的知識和經(jīng)驗進行推理和規(guī)劃。這樣的系統(tǒng)才能夠真正地理解現(xiàn)實世界,并具備真正的智能。
盡管如此,我們也不能忽視當(dāng)前AI技術(shù)的巨大進步。我們已經(jīng)看到AI在許多領(lǐng)域的應(yīng)用取得了顯著的成果,包括自然語言處理、計算機視覺、自動駕駛等。但是,我們也需要認識到AI技術(shù)的局限性,并努力探索新的方法和技術(shù)來克服這些限制。
楊立昆正在研究一種新的系統(tǒng),旨在通過建立一個模型來預(yù)測物理世界的行為,從而幫助AI“理解”現(xiàn)實。這種新的系統(tǒng)可能會為AI提供一種新的視角和方法,使其能夠更好地理解和預(yù)測現(xiàn)實世界中的各種情況。
總的來說,雖然大語言模型的發(fā)展已經(jīng)取得了一定的成果,但它們?nèi)匀淮嬖诰窒扌?。僅僅通過擴大規(guī)模和訓(xùn)練更多數(shù)據(jù)無法實現(xiàn)人類水平的AI,因為它們?nèi)狈φ嬲耐评砟芰蛯ξ锢硎澜绲睦斫饽芰?。真正的AI需要能夠理解和預(yù)測現(xiàn)實世界中的各種情況,并具備持久的記憶、推理和規(guī)劃的能力。未來的AI系統(tǒng)需要在這方面取得更大的進展,才能夠真正地成為人類的得力助手。
以上觀點僅供參考,未來發(fā)展還需要進一步的探索和研究。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )