劉興亮 | 奧特曼是潘多拉魔盒的開啟者嗎

01

短短兩三年時間，新近崛起的人工智能大佬山姆·奧特曼的新聞和故事伴隨著聽眾的驚訝、玄虛和贊嘆四處傳播，OpenAI圍繞他上演了與權力、財富緊密關聯(lián)的謊言、陰謀、分合的古老橋段。

他注定是非凡之人，對分散的社會單元具有磁鐵般的吸引力，一切行業(yè)的觀察者和敏感者都將目光投向了這位長著一雙深目的年輕新貴。

他引起了科技生產(chǎn)部門的極大關注，也讓經(jīng)濟結構和未來的產(chǎn)業(yè)升級迫在眉睫，對于人工智能的爆炸式發(fā)展，更引發(fā)了道德家的擔憂和批判。

人工智能到底會以怎樣的速度破壞傳統(tǒng)產(chǎn)業(yè)結構，它將提高生產(chǎn)力，也會對武器和整個社會的控制模式產(chǎn)生無法預估的影響。人類社會是否將進入一種前所未有的「智力專制時代」，機器人將與一部分掌控著最高科學技術的人共同決定人類的前途。這是一幅令人驚怖的圖景。

《紐約》雜志將山姆·奧特曼稱作「我們時代的奧本海姆」，這一命名的言外之意十分明了。

02

山姆·奧特曼是OpenAI的創(chuàng)始人之一，他以卓越的能力在締造公司傳奇的過程中成為這個企業(yè)的「國王」。

他是科技怪才，進行禪修和打坐，吃素，有寬泛的社會視角和興趣，有人將他稱作「仆人式的領袖」。然而這個仆人正以自己的絕對意志控制著當前世界最先進、最具深遠影響的科技公司。

正如他自己所理解的那樣，他是一個非常聰明但不是天才的「技術兄弟」，具有一些異常的特征。他認為自己擁有「絕對妄想的自信」，對「技術和社會變革在很長一段時間內(nèi)的弧線」有著預言性的把握。

作為一個猶太人，山姆·奧特曼在樂觀的同時又能居安思危，他非常善于評估風險，在事業(yè)上能集中高度的注意力。

山姆·奧特曼盡管在言談中謙虛地表示他不確定他所領導的革命在歷史的長河中是否會被視為技術革命或社會革命，但同時表示「比標準的技術革命更大」。

在具有遠見卓識的社會觀察家看來，OpenAI引發(fā)革命是不可避免的，人工智能將顛覆政治、勞動方式和雇傭關系、民權、監(jiān)控、隱私、經(jīng)濟剝削、武器、軍隊和教育。

在這些隱隱作愁的社會觀察家眼中，山姆·奧特曼的力量無比巨大，他背后的技術以及這些技術的衍生、分化方向，具體的應用和應用的方式，都將成為全人類的問題。

山姆·奧特曼曾經(jīng)被清出OpenAI，但是董事會無法忍受科技巨型企業(yè)的分崩離析，他以極快的速度重新掌舵，繼續(xù)航行。

這艘船將駛向何方呢，它是否會越來越快，乃至失控？有人試圖阻止人工智能的發(fā)展速度，但這顯然無法實施，全球各國雨后春筍般出現(xiàn)的公司都在訓練自己的模型，一個新的時代已經(jīng)來臨。

03

山姆·奧特曼在美國圣路易斯郊區(qū)的四個兄弟姐妹中長大：三個男孩，山姆、麥克斯和杰克，每個相差兩歲，然后是一個女孩安妮，比山姆小九歲。

他被稱作天才少年，從3歲開始修理家庭錄像機。8 歲生日那天，他擁有了自己的電腦，從此人生以這一天為界分為兩段。他是同性戀，毫不隱諱。他是絕對的自由者，主宰自身的命運。

他進入斯坦福大學，并很快退學創(chuàng)業(yè)——一個美國式的瘋狂故事的開頭。

2017年，他考慮競選加州州長，發(fā)表了一篇名為「美國石板」的綱領，概述了三個核心原則：技術帶來的繁榮、經(jīng)濟公平和個人自由。不過，幾周后，山姆·奧特曼放棄了這一選擇。

OpenAI的初衷是非盈利組織，但訓練AI十分燒錢，山姆·奧特曼不得不建立一家盈利公司，找錢。

2022 年 11 月 30 日，OpenAI 發(fā)布了 ChatGPT，該軟件在兩個月內(nèi)吸引了 1 億用戶，成為科技史上最偉大的產(chǎn)品。從這一天開始，人工智能一躍成為真正的、無所不及的現(xiàn)實。

山姆·奧特曼置身世界矚目的焦點，他會見各國政要，他的一舉一動影響著經(jīng)濟、股市和人們的觀念，以及新聞媒體的鏡頭。

與此同時，他一直將自己與奧本海默聯(lián)系在一起，討論人工智能帶來的生存風險。很顯然，這種風險在這個創(chuàng)造者心中并非虛妄的想象。

04

成功的故事總伴隨著陰影和嫉妒，以及一些反面的素材。

與山姆·奧特曼的巨大成功相伴隨的是，他的妹妹躲避著這個世界，過著顛沛流離的生活，拒絕哥哥給她買房子，甚至在網(wǎng)上發(fā)布色情內(nèi)容來養(yǎng)活自己。她在夏威夷的偏遠角落里孤身一人，與匱乏斗爭。

這似乎展示了一幅與他的哥哥曾經(jīng)發(fā)布的「美國石板」綱領相反的現(xiàn)實場景。技術真的能讓生活更好嗎？人之間的對立、忌恨、權力意志能夠被技術所消滅嗎？還是走向更加令人不安的反面。

OpenAI引發(fā)了技術進步，看起來是有益的，但它的甫一出現(xiàn)也讓一些OpenAI自己的員工感到驚恐。

時任OpenAI研究副總裁的達里奧·阿莫迪（Dario Amodei）回憶起數(shù)年前第一次看到GPT-2時的感受：「我被嚇到了。這太瘋狂了。這在世界上是前所未有的。」

他看著自己在OpenAI幫助構建的模型，感到一種難以解釋的恐懼。他意識到這個東西將變得非常強大。它可以摧毀人類，如果人類不能理解或很好地利用這樣的模型，如果它想制造混亂并摧毀人類或其他什么，人基本上沒有辦法阻止它。

05

實際上，山姆·奧特曼對于人工智能的看法在多年中經(jīng)歷了顯著的變化。

他是創(chuàng)造者，投入激情和才華，推動它的發(fā)展。但早在2015年，他曾明確地表達過自己的憂慮，認為高級人工智能可能成為人類持續(xù)存在的最大威脅。

他向《紐約客》記者透露，自己像一個末日者那樣儲備了槍支、黃金、彈藥、抗生素、防毒面具。他在美國加州大瑟擁有一片土地，確保自己在世界末日時可以避難。雖然他后來盡量避免談到這些。

山姆·奧特曼的這些行為和言論，不僅揭示了他對人工智能潛在風險的深刻認識，也反映出一種深層的生存本能和對未來不確定性的個人準備。

細心的人會發(fā)現(xiàn)，在公眾面前，奧特曼可能更多地聚焦于人工智能的帶來的有益影響。但他自己在內(nèi)心深處對AI潛在風險的警覺和預防，卻從未放松。

06

奧本海姆打開了潘多拉的盒子，人類擁有的核武器足以毀滅地球很多次。山姆·奧特曼是否打開了另一個潘多拉的盒子呢？是與不是已成事實。人工智能是否會溢出人類的掌控范疇，讓科幻電影描繪的場景成真？

抑或這只是杞人憂天。顯然不是。

2024年3月21日，聯(lián)合國大會一致通過了由美國牽頭提出的決議案《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展 》（Seizing the Opportunities of Safe, Secure and Trustworthy Artificial Intelligence Systems for Sustainable Development）——這是聯(lián)合國大會歷史上首次為針對人工智能治理問題確立全球統(tǒng)一規(guī)范所通過的專項決議，意在支持促進安全、可靠和值得信賴的人工智能系統(tǒng)以推動可持續(xù)發(fā)展的原則。

該決議倡議采取措施，減少人工智能系統(tǒng)帶來的風險；加強隱私保護工作；促進公平和人權；進一步保障消費者和工人權益；促進改善人民生活解決方案的創(chuàng)新和競爭。決議還鼓勵采取其他措施，幫助世界各地的人們更好地辨別內(nèi)容是否由人工智能生成。

事實上，在OpenAI推出大模型之前，類似的決議只能沉睡在一些人的想象中。當它成為現(xiàn)實，則意味著與這種現(xiàn)實對應的事實正在發(fā)生。

生成海報

免責聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關。文章僅供讀者參考，并請自行核實相關內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。