AGI漸行漸近，該加速還是要踩剎車(chē)？

科技云報(bào)道原創(chuàng)。

人類(lèi)距離第一個(gè)AGI的出現(xiàn)已經(jīng)越來(lái)越近了！

馬斯克在今年早些時(shí)候預(yù)測(cè)，AGI可能會(huì)在2026年投入使用。DeepMind聯(lián)合創(chuàng)始人、首席AGI科學(xué)家Shane Legg在一次訪談中認(rèn)為，2028年，人類(lèi)有50%的概率開(kāi)發(fā)出第一個(gè)AGI。然而百度CEO李彥宏的觀點(diǎn)則更加審慎，他認(rèn)為AGI還需要10年以上的時(shí)間才能出現(xiàn)。

自1956年達(dá)特茅斯會(huì)議提出“人工智能”這一概念以來(lái)，實(shí)現(xiàn)人類(lèi)水平的智能一直是AI領(lǐng)域的圣杯。去年上半年，有主流研究者提出，大語(yǔ)言模型已經(jīng)表現(xiàn)出“通用人工智能的火花”（sparks of AGI）。這似乎表明，AGI已經(jīng)從哲學(xué)猜想變成了將來(lái)的未來(lái)。然而，關(guān)于AGI的觀點(diǎn)眾說(shuō)紛紜，大語(yǔ)言模型也常有愚蠢行為出現(xiàn)，這些都引發(fā)了對(duì)AGI的質(zhì)疑。

在此背景下，我們離實(shí)現(xiàn)真正的AGI還有多遠(yuǎn)？如何預(yù)防AGI帶來(lái)的潛在風(fēng)險(xiǎn)？

AGI，未到的黎明

從性能強(qiáng)度和通用性?xún)蓚€(gè)維度，可以將人類(lèi)和AI的關(guān)系劃分為6個(gè)階段：無(wú)AI、智能涌現(xiàn)、勝任、專(zhuān)家、大師、超人類(lèi)。而現(xiàn)在大語(yǔ)言模型的出現(xiàn)，正屬于第一個(gè)AGI的階段：AGI雛形。

AGI（Artificial General Intelligence），即通用人工智能，其目標(biāo)是實(shí)現(xiàn)人類(lèi)般的通用智能，這意味著AI可以像人類(lèi)一樣理解任意通用任務(wù)，并以人類(lèi)的智力水平執(zhí)行完成?；旧?，除了“自我意識(shí)”的生成，AGI就是人類(lèi)對(duì)人工智能的終極夢(mèng)想了。

AGI是要讓智能體像人一樣，不僅能夠獨(dú)立感知環(huán)境、進(jìn)行思考、作出決策、學(xué)習(xí)新技能、執(zhí)行任務(wù)，還能夠與人類(lèi)或其他智能體進(jìn)行有效的協(xié)作。同時(shí)，智能體能夠理解人類(lèi)的情感，并且遵循社會(huì)倫理和道德規(guī)范。

一個(gè)完整的AGI需要具備三個(gè)基本特征：第一，必須能完成無(wú)限的任務(wù)，而不是只能完成人定義的有限幾個(gè)任務(wù)。第二，要在場(chǎng)景中自主發(fā)現(xiàn)任務(wù)，這是通常所說(shuō)的要做到“眼里有活兒”。第三，要有自主的價(jià)值來(lái)驅(qū)動(dòng)，而不是被動(dòng)的被數(shù)據(jù)所驅(qū)動(dòng)。

同時(shí)，AGI還需要解決一些關(guān)鍵的技術(shù)問(wèn)題，比如構(gòu)建智能體的認(rèn)知架構(gòu)，讓智能體由價(jià)值驅(qū)動(dòng)，在現(xiàn)實(shí)世界中進(jìn)行有效的行動(dòng)，能夠與社會(huì)環(huán)境進(jìn)行互動(dòng)，使智能體決策過(guò)程透明可解釋?zhuān)约敖⒑腿祟?lèi)之間的信任關(guān)系等。

以O(shè)penAI的ChatGPT、谷歌Bard、Meta的Llama為代表的大模型，已經(jīng)在通用性上展示出了AGI的潛力。因?yàn)榇笳Z(yǔ)言模型已經(jīng)能完成范圍相當(dāng)廣的各類(lèi)任務(wù)，而且表現(xiàn)出了像學(xué)習(xí)新技能這樣的“元認(rèn)知”能力。

相比大模型的“鸚鵡范式”，AGI是以“小數(shù)據(jù)，大任務(wù)”為架構(gòu)的“烏鴉范式”，智能體表現(xiàn)為具有自主的智能，能夠自主感知、認(rèn)知、推理、學(xué)習(xí)和執(zhí)行，不依賴(lài)于大數(shù)據(jù)，基于無(wú)標(biāo)注數(shù)據(jù)進(jìn)行無(wú)監(jiān)督學(xué)習(xí)，并且智能系統(tǒng)低功耗。就像烏鴉喝水這一行為，看似簡(jiǎn)單，卻屬于自主推理行為，是由價(jià)值與因果驅(qū)動(dòng)的高級(jí)智能，也是AI的未來(lái)發(fā)展趨勢(shì)。

如果單從AI的性能維度上看，“窄AI（Narrow AI）”類(lèi)型的AI已經(jīng)達(dá)到了完全超越人類(lèi)認(rèn)知的水平。以AlphaFold、AlphaZero為代表的專(zhuān)業(yè)領(lǐng)域AI，在特定領(lǐng)域已經(jīng)能發(fā)現(xiàn)人類(lèi)智力無(wú)法發(fā)現(xiàn)的新事物了，此類(lèi)被成為“超人類(lèi)窄AI”。而在某些領(lǐng)域，AI能達(dá)到90%的人類(lèi)水平，比如文書(shū)糾正AI Grammarly，DALL·E 2，Imagen等生圖AI，這被稱(chēng)為“專(zhuān)家級(jí)窄AI”。在特定領(lǐng)域，能達(dá)到普通人的平均水平，比如Siri，谷助手這類(lèi)普通智能助理，其被稱(chēng)為“普通窄AI”。

所謂“窄AI”，是指那些特別擅長(zhǎng)處理單一任務(wù)或者特定范圍內(nèi)工作的系統(tǒng)。在大多數(shù)情況下，它們?cè)谔囟I(lǐng)域中的表現(xiàn)遠(yuǎn)優(yōu)于人類(lèi)。不過(guò)一旦它們遇到的問(wèn)題超過(guò)了適用空間，效果則急轉(zhuǎn)直下。換言之，它們無(wú)法將自己掌握的知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng)域。

盡管窄AI無(wú)法全面執(zhí)行需要人類(lèi)智能的任務(wù)，但在特定場(chǎng)景中仍然非常實(shí)用，而且已經(jīng)在諸多應(yīng)用之內(nèi)發(fā)揮著自己的作用。谷歌搜索查詢(xún)現(xiàn)在可以利用窄AI算法回答問(wèn)題，窄AI系統(tǒng)會(huì)在YouTube及Netflix中推薦用戶可能感興趣的視頻，并在Spotify中按喜好整理出周推音樂(lè)列表。

而在窄AI已經(jīng)覆蓋的能力維度上，AGI都還沒(méi)有出現(xiàn)對(duì)應(yīng)的實(shí)例，因?yàn)槟壳斑€沒(méi)有出現(xiàn)真正意義上的AGI，對(duì)于AGI的定義，人類(lèi)也還沒(méi)有達(dá)到統(tǒng)一的認(rèn)知。

誰(shuí)會(huì)是AGI的起點(diǎn)？

從信息時(shí)代走向智能時(shí)代，“語(yǔ)言”成為那把開(kāi)啟全新時(shí)代的鑰匙。著名的作家兼哲學(xué)家路德維希·維特根斯坦在其《邏輯哲學(xué)論》一書(shū)中提到：“我的語(yǔ)言的界限，意味著我的世界的界限?！?/p>

對(duì)人類(lèi)而言，承載世界的知識(shí)、思考、溝通和文化靠的是語(yǔ)言。語(yǔ)言本身的發(fā)明代表著每多一個(gè)詞匯就讓世界多了一個(gè)認(rèn)知維度，詞匯之間建立的邏輯關(guān)系和表達(dá)代表了人類(lèi)對(duì)世界完整的建模。這個(gè)模型不是在圖像里面，而是通過(guò)語(yǔ)言進(jìn)行承載，所以語(yǔ)言邊界就是世界邊界。AI核心就是把現(xiàn)實(shí)世界的現(xiàn)象翻譯成為數(shù)學(xué)模型，通過(guò)語(yǔ)言讓機(jī)器充分理解現(xiàn)實(shí)世界和數(shù)據(jù)的關(guān)系。

如今，人們已經(jīng)走出了原來(lái)物理學(xué)靠一個(gè)公式解釋世界的方法，更多是靠海量數(shù)據(jù)在不同層次單獨(dú)建模，上層建模就是由大量的數(shù)據(jù)驅(qū)動(dòng)。語(yǔ)言模型如此，生命建模也是如此，2021年最偉大的成就就是DeepMind的AlphaFord系統(tǒng)，針對(duì)基因到蛋白質(zhì)的三維結(jié)構(gòu)建模，通過(guò)這個(gè)模型預(yù)測(cè)基因被轉(zhuǎn)錄或者表達(dá)為蛋白質(zhì)以后擁有的形態(tài)，也是全世界轟動(dòng)的生命領(lǐng)域的突破，靠的也是數(shù)據(jù)和AI的驅(qū)動(dòng)。

雖然大模型已經(jīng)取得了一些驚人的進(jìn)展，但如果比較AGI的三個(gè)特征，就會(huì)發(fā)現(xiàn)大模型還不符合AGI的要求。

首先，大模型在處理任務(wù)方面的能力有限，它們只能處理文本領(lǐng)域的任務(wù)，無(wú)法與物理和社會(huì)環(huán)境進(jìn)行互動(dòng)。這意味著像ChatGPT這樣的模型不能真正“理解”語(yǔ)言的含義，因?yàn)樗鼈儧](méi)有身體來(lái)體驗(yàn)物理空間。

其次，大模型也不是自主的，它們需要人類(lèi)來(lái)具體定義好每一個(gè)任務(wù)，就像一只“鸚鵡”，只能模仿被訓(xùn)練過(guò)的話語(yǔ)。真正自主的智能應(yīng)該類(lèi)似于“烏鴉智能”，能夠自主完成比現(xiàn)如今AI更加智能的任務(wù)，當(dāng)下的AI系統(tǒng)還不具備這種潛能。

第三，雖然ChatGPT已經(jīng)在不同的文本數(shù)據(jù)語(yǔ)料庫(kù)上進(jìn)行了大規(guī)模訓(xùn)練，包括隱含人類(lèi)價(jià)值觀的文本，但它并不具備理解人類(lèi)價(jià)值或與人類(lèi)價(jià)值保持一致的能力，即缺乏所謂的道德指南針。

但這并不妨礙科技巨頭對(duì)于大模型的推崇。OpenAI、谷歌在內(nèi)的科技巨頭，都將大模型視為邁向AGI的關(guān)鍵一步。OpenAI CEO Sam Altman就曾多次表示，GPT模型是朝著AGI方向發(fā)展的重要突破。

不過(guò)，Meta人工智能首席科學(xué)家楊立昆（Yann LeCun）認(rèn)為，目前的大模型路線無(wú)法通往AGI，且非常危險(xiǎn)。

他指出，現(xiàn)有的大模型盡管在自然語(yǔ)言處理、對(duì)話交互、文本創(chuàng)作等領(lǐng)域表現(xiàn)出色，但其仍只是一種“統(tǒng)計(jì)建?！奔夹g(shù)，通過(guò)學(xué)習(xí)數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律來(lái)完成相關(guān)任務(wù)，本質(zhì)上并非具備真正的“理解”和“推理”能力。

他認(rèn)為，“世界模型”更接近真正的智能，而非只學(xué)習(xí)數(shù)據(jù)的統(tǒng)計(jì)特征。以人類(lèi)的學(xué)習(xí)過(guò)程為例，孩童在成長(zhǎng)過(guò)程中，更多是通過(guò)觀察、交互和實(shí)踐來(lái)認(rèn)知這個(gè)世界，而非被單純“注入”知識(shí)。而LeCun的“世界模型”路線，則是試圖通過(guò)對(duì)視頻、音頻等媒體的模擬與補(bǔ)全，讓AI也經(jīng)歷這樣一個(gè)自主學(xué)習(xí)的過(guò)程。

他也承認(rèn)，實(shí)現(xiàn)“世界模型”并非易事，這一雄心勃勃的目標(biāo)可能需要耗時(shí)10年才能實(shí)現(xiàn)。

將風(fēng)險(xiǎn)控制在可控范圍內(nèi)

對(duì)于AGI所帶來(lái)的風(fēng)險(xiǎn)，圖靈是最早提出警告的人之一。他在1951年說(shuō)道：“一旦機(jī)器開(kāi)始思考，很快就能超越我們。因此，在某個(gè)時(shí)候，我們應(yīng)該期望機(jī)器能夠被掌控。”因?yàn)楫?dāng)一個(gè)比人類(lèi)更強(qiáng)大的智能體出現(xiàn)時(shí)，人類(lèi)很難維持權(quán)力，特別是當(dāng)這些智能體具有不正確或不完整的目標(biāo)時(shí)。

如果還有人認(rèn)為現(xiàn)在考慮這些風(fēng)險(xiǎn)是危言聳聽(tīng)，那么如何回答這樣一個(gè)問(wèn)題：你如何在比人類(lèi)更強(qiáng)大的智能體面前永遠(yuǎn)保持權(quán)力？此外，在AI領(lǐng)域，還有一些人試圖回避這個(gè)問(wèn)題，否認(rèn)AGI的可實(shí)現(xiàn)性，卻沒(méi)有提供任何證據(jù)。

OpenAI CEO Sam Altman在其文章《Planning for AGI and Beyond》里，探討了AGI對(duì)社會(huì)、技術(shù)和倫理的潛在影響，并強(qiáng)調(diào)了慎重規(guī)劃和負(fù)責(zé)任的發(fā)展的必要性。

文章指出，通過(guò)增加資源豐富度、推動(dòng)全球經(jīng)濟(jì)增長(zhǎng)，以及助力新科學(xué)知識(shí)的發(fā)現(xiàn)，AGI有潛力極大地提升人類(lèi)生活質(zhì)量。這不僅是智力的巨大增幅，更是對(duì)人類(lèi)創(chuàng)造力和想象力的極大擴(kuò)展。

然而，AGI的出現(xiàn)也可能帶來(lái)嚴(yán)重的濫用風(fēng)險(xiǎn)、意外極端事件的可能以及對(duì)社會(huì)結(jié)構(gòu)的劇烈動(dòng)蕩。因此，OpenAI提倡在發(fā)展AGI時(shí)，AGI開(kāi)發(fā)者以及全社會(huì)都必須找到正確的方法來(lái)實(shí)現(xiàn)和利用這一技術(shù)，確保其與人類(lèi)核心價(jià)值觀保持一致，并公平地分享其帶來(lái)的好處。

此外，OpenAI認(rèn)為，從長(zhǎng)遠(yuǎn)來(lái)看，AGI的出現(xiàn)僅僅是智力發(fā)展的一個(gè)節(jié)點(diǎn)，而AI的進(jìn)步可能會(huì)在未來(lái)相當(dāng)長(zhǎng)一段時(shí)間內(nèi)繼續(xù)保持。OpenAI提出了一個(gè)安全的AGI發(fā)展愿景，即在較短時(shí)間內(nèi)以較慢的速度過(guò)渡到AGI，以便社會(huì)有時(shí)間適應(yīng)和調(diào)整。

盡管未來(lái)不可預(yù)知，但OpenAI表達(dá)了他們最關(guān)心的幾個(gè)原則：希望AGI能最大限度地促進(jìn)人類(lèi)在宇宙中的繁榮；希望AGI帶來(lái)的好處、訪問(wèn)權(quán)和治理能夠被廣泛且公平地分享，并成功應(yīng)對(duì)巨大風(fēng)險(xiǎn)。

為此，OpenAI倡導(dǎo)在短期內(nèi)進(jìn)行漸進(jìn)式過(guò)渡、繼續(xù)創(chuàng)造越來(lái)越符合目標(biāo)的模型，并在長(zhǎng)期進(jìn)行全球范圍的對(duì)話，討論如何治理這些系統(tǒng)、如何公平分配它們產(chǎn)生的好處，以及如何公平分享訪問(wèn)權(quán)。在極高的風(fēng)險(xiǎn)和回報(bào)下，人類(lèi)需要團(tuán)結(jié)起來(lái)，讓AGI在未來(lái)世界以一種對(duì)人類(lèi)最有益的方式綻放。

對(duì)于如何預(yù)防AGI給人類(lèi)帶來(lái)威脅，可以逐步放開(kāi)AGI的能力空間和價(jià)值空間，一開(kāi)始把它關(guān)在“籠子”里，慢慢打開(kāi)權(quán)限。對(duì)于AGI，可以先其適用場(chǎng)合和行動(dòng)空間限制在特定區(qū)域內(nèi)，隨著人們對(duì)機(jī)器的信任的增加，確認(rèn)AGI安全可控后，再逐步給予更大的空間。另外，應(yīng)該進(jìn)一步促進(jìn)算法決策過(guò)程的透明度。如果能夠清晰了解AGI的認(rèn)知架構(gòu)，從而知道其是如何工作的，就能更好地控制它。

人類(lèi)對(duì)于AGI的探索和思考才剛剛開(kāi)始，我們還有很長(zhǎng)的路要走。AGI的進(jìn)步不僅代表了技術(shù)創(chuàng)新，更是對(duì)未來(lái)人機(jī)交互方式的重新想象。隨著我們逐步走向AGI未知領(lǐng)域，穩(wěn)健和有序的發(fā)展顯得更加重要，我們必須高度警醒AGI所帶來(lái)的問(wèn)題，并充分重視AGI所創(chuàng)造的機(jī)會(huì)。兩千多年前，蘇格拉底說(shuō)“認(rèn)識(shí)你自己”，今天在AGI技術(shù)發(fā)展的倒逼下，人類(lèi)需要“重新認(rèn)識(shí)你自己”。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。