谷歌DeepMind預(yù)測(cè)，AGI或于2030年實(shí)現(xiàn)人類智能，可能“永久毀滅人類”。CEO呼吁建立類似聯(lián)合國(guó)機(jī)構(gòu)監(jiān)管其發(fā)展。
谷歌DeepMind最新研究拋出一枚重磅炸彈：人工智能通用智能(AGI)可能在2030年達(dá)到人類水平，甚至帶來(lái)“永久毀滅人類”的風(fēng)險(xiǎn)。這份報(bào)告由DeepMind聯(lián)合創(chuàng)始人Shane Legg等人撰寫(xiě)，直言AGI的巨大潛力不僅令人振奮，更潛伏著深重危機(jī)?！八赡芤l(fā)嚴(yán)重傷害，甚至是滅絕性風(fēng)險(xiǎn)，”研究中寫(xiě)道。但具體如何導(dǎo)致人類滅亡，報(bào)告卻賣了個(gè)關(guān)子，沒(méi)有細(xì)說(shuō)。
這份研究把高級(jí)AI的風(fēng)險(xiǎn)分成四大類：濫用、不對(duì)齊、失誤和結(jié)構(gòu)性威脅。比如，有人可能利用AI傷害他人，或者AI的目標(biāo)與人類需求背道而馳。DeepMind的應(yīng)對(duì)策略聚焦于防濫用，他們希望從源頭掐斷潛在威脅。不過(guò)，報(bào)告也坦言，究竟什么算“嚴(yán)重傷害”，不是他們一家公司說(shuō)了算，而是得交給社會(huì)集體判斷，取決于大家對(duì)風(fēng)險(xiǎn)的承受底線。
早在今年2月，DeepMind的掌門(mén)人Demis Hassabis就曾放話：AGI這種比人類還聰明的家伙，未來(lái)五到十年就會(huì)冒出來(lái)。他有個(gè)大膽提議——建一個(gè)類似聯(lián)合國(guó)的“大傘”，專門(mén)盯著AGI的發(fā)展。“我想象的是一個(gè)像CERN那樣的國(guó)際合作平臺(tái)，集合頂尖人才，專注AGI的前沿研究，確保它盡量安全，”Hassabis說(shuō)。他還建議，搭配一個(gè)類似國(guó)際原子能機(jī)構(gòu)的監(jiān)管單位，盯著那些危險(xiǎn)項(xiàng)目，再加上一個(gè)多國(guó)參與的決策機(jī)構(gòu)，決定這些系統(tǒng)怎么用、往哪放?！熬拖褚粋€(gè)技術(shù)版的聯(lián)合國(guó)，專為AGI量身打造。”
說(shuō)到AGI，它可不是普通AI那種只會(huì)干單一活兒的工具。想象一下，一個(gè)機(jī)器不僅能下棋，還能寫(xiě)詩(shī)、開(kāi)車、做飯——幾乎像人一樣啥都會(huì)，這就是AGI的野心。它能跨領(lǐng)域?qū)W習(xí)、理解、應(yīng)用知識(shí)，簡(jiǎn)直是人類智慧的“鏡像版”?？蛇@也讓人不禁打個(gè)寒顫：要是它真聰明過(guò)頭了，會(huì)不會(huì)反過(guò)來(lái)把我們甩在后面？
Hassabis的擔(dān)憂并非空穴來(lái)風(fēng)。DeepMind這幾年一直在AI領(lǐng)域沖鋒陷陣，他們深知技術(shù)的雙刃劍效應(yīng)。報(bào)告里雖沒(méi)明說(shuō)滅絕劇本，但字里行間透著緊迫感。反過(guò)來(lái)想想，如果真能管好AGI，說(shuō)不定還能化險(xiǎn)為夷?？蛇@事兒光靠一家公司顯然不夠，得全球一起上陣才行。2030年會(huì)是AI的巔峰，還是人類的拐點(diǎn)？時(shí)間會(huì)給出答案。
本文譯自 ndtv，由 BALI 編輯發(fā)布。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
