劉興亮 | 奧特曼是潘多拉魔盒的開(kāi)啟者嗎

01

短短兩三年時(shí)間，新近崛起的人工智能大佬山姆·奧特曼的新聞和故事伴隨著聽(tīng)眾的驚訝、玄虛和贊嘆四處傳播，OpenAI圍繞他上演了與權(quán)力、財(cái)富緊密關(guān)聯(lián)的謊言、陰謀、分合的古老橋段。

他注定是非凡之人，對(duì)分散的社會(huì)單元具有磁鐵般的吸引力，一切行業(yè)的觀察者和敏感者都將目光投向了這位長(zhǎng)著一雙深目的年輕新貴。

他引起了科技生產(chǎn)部門(mén)的極大關(guān)注，也讓經(jīng)濟(jì)結(jié)構(gòu)和未來(lái)的產(chǎn)業(yè)升級(jí)迫在眉睫，對(duì)于人工智能的爆炸式發(fā)展，更引發(fā)了道德家的擔(dān)憂和批判。

人工智能到底會(huì)以怎樣的速度破壞傳統(tǒng)產(chǎn)業(yè)結(jié)構(gòu)，它將提高生產(chǎn)力，也會(huì)對(duì)武器和整個(gè)社會(huì)的控制模式產(chǎn)生無(wú)法預(yù)估的影響。人類(lèi)社會(huì)是否將進(jìn)入一種前所未有的「智力專制時(shí)代」，機(jī)器人將與一部分掌控著最高科學(xué)技術(shù)的人共同決定人類(lèi)的前途。這是一幅令人驚怖的圖景。

《紐約》雜志將山姆·奧特曼稱作「我們時(shí)代的奧本海姆」，這一命名的言外之意十分明了。

02

山姆·奧特曼是OpenAI的創(chuàng)始人之一，他以卓越的能力在締造公司傳奇的過(guò)程中成為這個(gè)企業(yè)的「國(guó)王」。

他是科技怪才，進(jìn)行禪修和打坐，吃素，有寬泛的社會(huì)視角和興趣，有人將他稱作「仆人式的領(lǐng)袖」。然而這個(gè)仆人正以自己的絕對(duì)意志控制著當(dāng)前世界最先進(jìn)、最具深遠(yuǎn)影響的科技公司。

正如他自己所理解的那樣，他是一個(gè)非常聰明但不是天才的「技術(shù)兄弟」，具有一些異常的特征。他認(rèn)為自己擁有「絕對(duì)妄想的自信」，對(duì)「技術(shù)和社會(huì)變革在很長(zhǎng)一段時(shí)間內(nèi)的弧線」有著預(yù)言性的把握。

作為一個(gè)猶太人，山姆·奧特曼在樂(lè)觀的同時(shí)又能居安思危，他非常善于評(píng)估風(fēng)險(xiǎn)，在事業(yè)上能集中高度的注意力。

山姆·奧特曼盡管在言談中謙虛地表示他不確定他所領(lǐng)導(dǎo)的革命在歷史的長(zhǎng)河中是否會(huì)被視為技術(shù)革命或社會(huì)革命，但同時(shí)表示「比標(biāo)準(zhǔn)的技術(shù)革命更大」。

在具有遠(yuǎn)見(jiàn)卓識(shí)的社會(huì)觀察家看來(lái)，OpenAI引發(fā)革命是不可避免的，人工智能將顛覆政治、勞動(dòng)方式和雇傭關(guān)系、民權(quán)、監(jiān)控、隱私、經(jīng)濟(jì)剝削、武器、軍隊(duì)和教育。

在這些隱隱作愁的社會(huì)觀察家眼中，山姆·奧特曼的力量無(wú)比巨大，他背后的技術(shù)以及這些技術(shù)的衍生、分化方向，具體的應(yīng)用和應(yīng)用的方式，都將成為全人類(lèi)的問(wèn)題。

山姆·奧特曼曾經(jīng)被清出OpenAI，但是董事會(huì)無(wú)法忍受科技巨型企業(yè)的分崩離析，他以極快的速度重新掌舵，繼續(xù)航行。

這艘船將駛向何方呢，它是否會(huì)越來(lái)越快，乃至失控？有人試圖阻止人工智能的發(fā)展速度，但這顯然無(wú)法實(shí)施，全球各國(guó)雨后春筍般出現(xiàn)的公司都在訓(xùn)練自己的模型，一個(gè)新的時(shí)代已經(jīng)來(lái)臨。

03

山姆·奧特曼在美國(guó)圣路易斯郊區(qū)的四個(gè)兄弟姐妹中長(zhǎng)大：三個(gè)男孩，山姆、麥克斯和杰克，每個(gè)相差兩歲，然后是一個(gè)女孩安妮，比山姆小九歲。

他被稱作天才少年，從3歲開(kāi)始修理家庭錄像機(jī)。8 歲生日那天，他擁有了自己的電腦，從此人生以這一天為界分為兩段。他是同性戀，毫不隱諱。他是絕對(duì)的自由者，主宰自身的命運(yùn)。

他進(jìn)入斯坦福大學(xué)，并很快退學(xué)創(chuàng)業(yè)——一個(gè)美國(guó)式的瘋狂故事的開(kāi)頭。

2017年，他考慮競(jìng)選加州州長(zhǎng)，發(fā)表了一篇名為「美國(guó)石板」的綱領(lǐng)，概述了三個(gè)核心原則：技術(shù)帶來(lái)的繁榮、經(jīng)濟(jì)公平和個(gè)人自由。不過(guò)，幾周后，山姆·奧特曼放棄了這一選擇。

OpenAI的初衷是非盈利組織，但訓(xùn)練AI十分燒錢(qián)，山姆·奧特曼不得不建立一家盈利公司，找錢(qián)。

2022 年 11 月 30 日，OpenAI 發(fā)布了 ChatGPT，該軟件在兩個(gè)月內(nèi)吸引了 1 億用戶，成為科技史上最偉大的產(chǎn)品。從這一天開(kāi)始，人工智能一躍成為真正的、無(wú)所不及的現(xiàn)實(shí)。

山姆·奧特曼置身世界矚目的焦點(diǎn)，他會(huì)見(jiàn)各國(guó)政要，他的一舉一動(dòng)影響著經(jīng)濟(jì)、股市和人們的觀念，以及新聞媒體的鏡頭。

與此同時(shí)，他一直將自己與奧本海默聯(lián)系在一起，討論人工智能帶來(lái)的生存風(fēng)險(xiǎn)。很顯然，這種風(fēng)險(xiǎn)在這個(gè)創(chuàng)造者心中并非虛妄的想象。

04

成功的故事總伴隨著陰影和嫉妒，以及一些反面的素材。

與山姆·奧特曼的巨大成功相伴隨的是，他的妹妹躲避著這個(gè)世界，過(guò)著顛沛流離的生活，拒絕哥哥給她買(mǎi)房子，甚至在網(wǎng)上發(fā)布色情內(nèi)容來(lái)養(yǎng)活自己。她在夏威夷的偏遠(yuǎn)角落里孤身一人，與匱乏斗爭(zhēng)。

這似乎展示了一幅與他的哥哥曾經(jīng)發(fā)布的「美國(guó)石板」綱領(lǐng)相反的現(xiàn)實(shí)場(chǎng)景。技術(shù)真的能讓生活更好嗎？人之間的對(duì)立、忌恨、權(quán)力意志能夠被技術(shù)所消滅嗎？還是走向更加令人不安的反面。

OpenAI引發(fā)了技術(shù)進(jìn)步，看起來(lái)是有益的，但它的甫一出現(xiàn)也讓一些OpenAI自己的員工感到驚恐。

時(shí)任OpenAI研究副總裁的達(dá)里奧·阿莫迪（Dario Amodei）回憶起數(shù)年前第一次看到GPT-2時(shí)的感受：「我被嚇到了。這太瘋狂了。這在世界上是前所未有的?！?/p>

他看著自己在OpenAI幫助構(gòu)建的模型，感到一種難以解釋的恐懼。他意識(shí)到這個(gè)東西將變得非常強(qiáng)大。它可以摧毀人類(lèi)，如果人類(lèi)不能理解或很好地利用這樣的模型，如果它想制造混亂并摧毀人類(lèi)或其他什么，人基本上沒(méi)有辦法阻止它。

05

實(shí)際上，山姆·奧特曼對(duì)于人工智能的看法在多年中經(jīng)歷了顯著的變化。

他是創(chuàng)造者，投入激情和才華，推動(dòng)它的發(fā)展。但早在2015年，他曾明確地表達(dá)過(guò)自己的憂慮，認(rèn)為高級(jí)人工智能可能成為人類(lèi)持續(xù)存在的最大威脅。

他向《紐約客》記者透露，自己像一個(gè)末日者那樣儲(chǔ)備了槍支、黃金、彈藥、抗生素、防毒面具。他在美國(guó)加州大瑟擁有一片土地，確保自己在世界末日時(shí)可以避難。雖然他后來(lái)盡量避免談到這些。

山姆·奧特曼的這些行為和言論，不僅揭示了他對(duì)人工智能潛在風(fēng)險(xiǎn)的深刻認(rèn)識(shí)，也反映出一種深層的生存本能和對(duì)未來(lái)不確定性的個(gè)人準(zhǔn)備。

細(xì)心的人會(huì)發(fā)現(xiàn)，在公眾面前，奧特曼可能更多地聚焦于人工智能的帶來(lái)的有益影響。但他自己在內(nèi)心深處對(duì)AI潛在風(fēng)險(xiǎn)的警覺(jué)和預(yù)防，卻從未放松。

06

奧本海姆打開(kāi)了潘多拉的盒子，人類(lèi)擁有的核武器足以毀滅地球很多次。山姆·奧特曼是否打開(kāi)了另一個(gè)潘多拉的盒子呢？是與不是已成事實(shí)。人工智能是否會(huì)溢出人類(lèi)的掌控范疇，讓科幻電影描繪的場(chǎng)景成真？

抑或這只是杞人憂天。顯然不是。

2024年3月21日，聯(lián)合國(guó)大會(huì)一致通過(guò)了由美國(guó)牽頭提出的決議案《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來(lái)的機(jī)遇，促進(jìn)可持續(xù)發(fā)展 》（Seizing the Opportunities of Safe, Secure and Trustworthy Artificial Intelligence Systems for Sustainable Development）——這是聯(lián)合國(guó)大會(huì)歷史上首次為針對(duì)人工智能治理問(wèn)題確立全球統(tǒng)一規(guī)范所通過(guò)的專項(xiàng)決議，意在支持促進(jìn)安全、可靠和值得信賴的人工智能系統(tǒng)以推動(dòng)可持續(xù)發(fā)展的原則。

該決議倡議采取措施，減少人工智能系統(tǒng)帶來(lái)的風(fēng)險(xiǎn)；加強(qiáng)隱私保護(hù)工作；促進(jìn)公平和人權(quán)；進(jìn)一步保障消費(fèi)者和工人權(quán)益；促進(jìn)改善人民生活解決方案的創(chuàng)新和競(jìng)爭(zhēng)。決議還鼓勵(lì)采取其他措施，幫助世界各地的人們更好地辨別內(nèi)容是否由人工智能生成。

事實(shí)上，在OpenAI推出大模型之前，類(lèi)似的決議只能沉睡在一些人的想象中。當(dāng)它成為現(xiàn)實(shí)，則意味著與這種現(xiàn)實(shí)對(duì)應(yīng)的事實(shí)正在發(fā)生。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。