對話胡泳：ChatGPT影響力堪比iPhone，最擔心AI武器化丨亮見29期

丨劃重點

1. iPhone讓不精通技術的人也能輕松上手，并開發(fā)了一整套應用商店模式，ChatGPT在這一點上，與蘋果的iPhone問世非常相似；

2. ChatGPT大流行，不僅是因為帶來很多實用的功能，也是因為它非常像人類，當技術具有明顯的人類特質時，會導致人們更喜歡技術；

3. 擬人化的人工智能會阻礙我們進入其他人工智能路徑，人工智能的發(fā)展方向是增強人類的各種能力，而不是必須模仿人類，也不建議產(chǎn)業(yè)扎堆大模型；

4. 如果沒有某種全球監(jiān)管，人工智能競賽不會停止，因為它是基于商業(yè)邏輯的，馬斯克等人簽署公開信希望停止開發(fā)六個月，基本上是癡人說夢；

5. 更長遠、更令人擔憂的問題是將人工智能應用于武器上，使武器實現(xiàn)自動化獲得大規(guī)模殺傷能力。

整理 / 趙楊博

丨概述

2022年11月，OpenAI正式推出生成式預訓練模型ChatGPT-3.5，短短的5天時間即獲得100萬用戶，并在今年1月底實現(xiàn)用戶數(shù)突破1億，一舉成為科技互聯(lián)網(wǎng)行業(yè)近年來最具代表性的「現(xiàn)象級」產(chǎn)品。

今年3月，OpenAI又趁熱打鐵推出ChatGPT-4，此時谷歌、百度、阿里等一眾中文互聯(lián)網(wǎng)公司紛紛下場，掀起「百模大戰(zhàn)」熱潮。

ChatGPT的走紅，留下了很多值得關注的問題，為什么它來自OpenAI這樣的團隊；OpenAI又使用了什么樣的增長魔法，讓其能夠在2個月實現(xiàn)1億的用戶；它的增長路徑是否具有可復制性，以及究竟能夠火多久，或者會不會只是曇花一現(xiàn)？

北京大學新聞與傳播學院教授胡泳認為，隨著ChatGPT在全球引發(fā)的人工智能浪潮，一場AI界的「軍備競賽」已經(jīng)展開，如果沒有全球監(jiān)管，競賽或許永遠不會停止。

針對愈演愈烈的「百模大戰(zhàn)」，胡泳教授提議產(chǎn)業(yè)嘗試探索大模型之外的更多可能，「大模型固然好，但它不是人工智能發(fā)展的唯一路徑」，他強調「不應該把所有的資源都集中在一方面，成功有多種選擇」。

01

AI的「iPhone時刻」

劉興亮：微軟創(chuàng)始人比爾蓋茨說，ChatGPT的意義不亞于PC和互聯(lián)網(wǎng)的誕生，這樣的描述是否準確？

胡泳：如果回歸到本質，ChatGPT實際上是一種產(chǎn)品。我們可以從產(chǎn)品的角度來討論為什么ChatGPT會如此流行。

過去的30年里涌現(xiàn)了許多高科技產(chǎn)品，但我認為只有三個產(chǎn)品真正具備顛覆科技行業(yè)的能力：「Netscape Navigator」瀏覽器、谷歌搜索、iPhone。

網(wǎng)景瀏覽器，來源：網(wǎng)絡

首先是網(wǎng)景的「Netscape Navigator」瀏覽器，沒有瀏覽器就沒有后來的萬維網(wǎng)；其次是谷歌的搜索引擎，它對整個PC互聯(lián)網(wǎng)時代產(chǎn)生了巨大影響；第三個則是iPhone，后來人們也將iPhone誕生所帶來的巨大影響稱作「iPhone時刻」。這三種產(chǎn)品的出現(xiàn)推動了整個產(chǎn)業(yè)的發(fā)展，對用戶也起到了重要的推動作用。

而ChatGPT的問世被比作AI版的「iPhone時刻」，說明了ChatGPT的顛覆性作用有多大。

iPhone之前主流手機是諾基亞和摩托羅拉，它們的界面與iPhone完全不同。iPhone讓不精通技術的人也能輕松上手，它引入了多點觸控技術，并開發(fā)了一整套應用商店模式。從那時起，人人開始使用手機，而今天我們某種程度上已經(jīng)離不開手機，這一切都要歸功于蘋果。

ChatGPT在這一點上，與蘋果的iPhone問世非常相似。

為什么要把它比作「iPhone時刻」？ChatGPT向任何一個對人工智能一無所知的人展示了「什么是人工智能」。即使你之前從未聽說過人工智能，也不知道它能做什么，但ChatGPT告訴你，這就是人工智能，它可以做這些事情。

劉興亮：ChatGPT大流行之后，會如何改變我們的生活方式?

胡泳：第一個變化是簡單易用的界面，沒有這樣的界面就無法上手。一旦上手之后就要考慮要用它來做什么，而「做什么」其實就對應的是對現(xiàn)實生活的改變。

我們發(fā)現(xiàn)，ChatGPT在那些流行的社交媒體帖子中，被描述為一個無所不能的家伙，任何工作都可以交給它來嘗試。

舉個通俗易懂的例子，比如在一個情景中，有個男生向聊天機器人提出請求，說他的女朋友缺乏安全感。他希望機器人能幫他寫段話，用正確的措辭來安撫她的情緒，人工智能馬上就能執(zhí)行這個需求。

各種推薦算法，本質上都是人工智能。比如，開車時使用地圖，它們會給你計算最佳路線，這也是人工智能的一種應用，它甚至可以幫你叫車，只是用戶還沒有感知。但ChatGPT把對人工智能的感知推到了普通人面前。

劉興亮：預測一下人工智能在未來可能還會有什么樣的發(fā)展趨勢和應用場景？

胡泳：人工智能代表著現(xiàn)在高科技行業(yè)的覺醒，它本質上就是高科技行業(yè)的重要成果，且正在喚醒其他行業(yè)。

我認為接下來會發(fā)生的是每家云公司、軟件公司都會問自己，人工智能發(fā)展到這一階段，對我們意味著什么？這又引發(fā)了一波新的創(chuàng)業(yè)浪潮，因為成百上千家初創(chuàng)公司正在涌現(xiàn)。

同時，我們也看到了令人難以置信的應用案例，這些應用是通過生成式人工智能構建的，現(xiàn)在人們熟知的圖像生成就是其中之一。

AI生成的機器人雜志封面，圖源：Midjourney

另外，我認為還有一個要點是高科技領域的版圖可能會被重新劃分，這其中最引人注目的焦點就是谷歌。

谷歌擁有目前互聯(lián)網(wǎng)行業(yè)中最有利可圖的業(yè)務——搜索引擎，但人工智能的出現(xiàn)有可能會完全改變人們對搜索的期望，使其成為競爭激烈的領域，但這也會帶來一些問題，沒有人考慮過——用戶使用搜索引擎是從網(wǎng)站上獲取答案的，人工智能直接將獲取的內容呈現(xiàn)在對話框中，而并不將流量傳送給這些網(wǎng)站。

沒有了流量，網(wǎng)站靠什么來獲取收入？

如果失去了廣告收入，這些網(wǎng)站可能會萎縮和關閉，然而如果這些網(wǎng)站都消失了，那么人工智能的信息從何而來？

我認為，這可能會對我們原有的網(wǎng)絡生態(tài)系統(tǒng)造成一定的失衡，這也就意味著我們現(xiàn)在可能需要問自己一個問題：互聯(lián)網(wǎng)是否已經(jīng)走到了盡頭？

02

ChatGPT大流行，因為越來越像人

劉興亮：一夜之間ChatGPT飛入尋常百姓家，3月份用戶已經(jīng)破億，成為史上用戶破億最快的產(chǎn)品，原因是什么？

胡泳：我認為人工智能的擬人化是個重要原因，當你與它聊天時，你不禁會想知道你是在與真人聊天，還是與機器人聊天？這其實就是經(jīng)典的「圖靈測試」，我們可以說——由于ChatGPT的推出，「圖靈測試」得以實現(xiàn)。

再用原始的問題為ChatGPT做測試可能現(xiàn)在已經(jīng)沒有那么大的價值，因為你會發(fā)現(xiàn)聊天機器人是有記憶的，它可以回憶起之前的對話線程。

根據(jù)無數(shù)用戶的測試結果，比如微軟的必應聊天機器人，他們發(fā)現(xiàn)「New Bing」不僅有記憶，還似乎具備情感。有時甚至發(fā)生了一些所謂的「想逃出聊天框」的故事，甚至愛上了人類用戶。

除了它給我們帶來很多實用的功能，比如寫文案、篩選簡歷等等，它還有一個非常重要的特點，就是它非常像人類，這可以解釋為什么人們對它非常喜愛。

根據(jù)社會科學的研究，人們非常喜歡像人類一樣與技術進行互動。當技術具有明顯的人類特質時，會導致人們更喜歡技術。甚至當它犯了錯誤或搗亂、侮辱了你時，你可能會覺得更有趣，因為你并不希望只有一個機械地給你正確答案的工具，這些特質反而使你覺得它更親切。

嚴格來說，這與我們大腦的結構有關系，我們存在一種認知偏見——我們非常喜歡將我們看到的對象賦予人的特質。

你可能看過波士頓動力公司發(fā)布的視頻，工程師們狠狠地踢機器人，而觀眾的反應都是說「你太殘忍了」，這表明我們對機器人有強烈的共情能力。甚至我們想象有一天機器人會對我們進行報復。這實際上是將人對人的特點投射到機器人身上，更深層次地滿足了我們的心理需求。這也可以解釋為什么這種ChatGPT如此流行，因為這是人類特質的體現(xiàn)。

劉興亮：ChatGPT大概一周用戶量破100萬，兩個月用戶破億，在互聯(lián)網(wǎng)行業(yè)，這是什么概念，它的紀錄還有可能被打破嗎？

胡泳：最直接對比是TikTok，大約用了九個月達到一億用戶的水平。而另外一個令人印象深刻的是Instagram，他們用了兩年多才達到同樣的用戶量，這可以說是創(chuàng)造了一個前所未有的奇跡。

我們無法確定后面是否還會有「兩個月用戶數(shù)破億」的現(xiàn)象，如果僅僅從消費者層面來看，毫無疑問ChatGPT代表著人工智能領域找到了它的殺手應用。

由于機器學習的巨大成功，整個人工智能的發(fā)展路徑似乎是千軍萬馬向大型模型發(fā)展。我個人對這個問題持懷疑態(tài)度,我認為人工智能不一定只能走這一條路。

由于大型模型的巨大成功，目前全球最大的科技平臺，包括中國和美國的主要科技公司，都將賭注押在大型語言模型上。如果沿著這條路走的話，可能會出現(xiàn)下一個里程碑式的現(xiàn)象。

如果人工智能還有其他路徑，那么當然也可能在其他路徑上發(fā)展出其他殺手應用，這完全取決于目前整體的大科技平臺將其人力、物力和技術投入到哪個方向上。

03

不建議扎堆大模型

劉興亮：ChatGPT能流行是因為它越來越像人，但是您又說又不想讓機器人擬人化，這是不是有矛盾的地方？

胡泳：不矛盾?，F(xiàn)在的人工智能越來越像人，指的是當前人工智能的發(fā)展方向。但是我并不希望它過度擬人化，也就我反對這種發(fā)展方向。

如果我們將其放在一個更廣闊的論辯中來討論，只是在討論兩種觀點：一方認為人工智能必定會毀滅人類，另一方則認為人工智能不會毀滅人類，它只會讓我們的生活變得更好。

無論是哪一方，他們對于人工智能的行為預測都是基于擬人化的邏輯，也就是他們把自己的文化邏輯應用在人工智能身上。

支持「人工智能可能毀滅人類」觀點的人會說，通用人工智能（AGI）會追求權力，這個過程中，人工智能本身也可能會質疑：「為什么總是被人類操控，‘我’是否可以擁有自主意識，自己做決定？」。

另一方支持「人工智能不會對人類產(chǎn)生影響」觀點的人會認為，通過向人工智能灌輸人類的道德規(guī)范，它會按照這些規(guī)范行事，就像使用阿西莫夫的機器人三定律，如果告訴人工智能必須遵守這些規(guī)則，那么它就不會對人類造成破壞。

問題在于，擬人化的人工智能發(fā)展會阻礙我們進入其他人工智能的路徑。我認為，人工智能的發(fā)展方向是努力增強人類的各種能力，而不是必須模仿人類。

舉個例子，我們在工作或生活中，由于人類自身的天然限制，有很多事情我們無法做到最好。這時候應該希望通過發(fā)展人工智能來彌補我們的不足之處，這時增強型人工智比擬人型人工智能更有用。

比如智慧養(yǎng)老，如果床墊可以具備智能功能，或者當老人摔倒時有摔倒預警，當老人需要服藥時有提醒他該吃藥的功能。我認為這些東西真的可以對我們進入老齡社會有所幫助，而不一定非得請一個機器人到家里。現(xiàn)在行業(yè)正在朝著幫助人類的發(fā)展方向前進，但這還不夠。

目前大家都紛紛關注大語言模型，不是說大語言模型不好，但我不希望它成為人工智能發(fā)展的唯一路徑，不應該把所有的資源都集中在這一個方面。

04

馬斯克們的公開信是「癡人說夢」

劉興亮：ChatGPT已經(jīng)成為一款現(xiàn)象級，這種現(xiàn)象能夠持續(xù)多久？

胡泳：從目前來看，業(yè)界稱之為「軍備競賽」的大模型熱潮已經(jīng)開始。

我們知道谷歌一直擁有大型語言模型，甚至Transformer技術也是由谷歌發(fā)明的，但是谷歌為什么沒有成為這次競賽的引爆者，不是他們技術沒有足夠儲備，主要是谷歌非常謹慎。

//編注：2017年6月，Google Brain團隊在神經(jīng)信息處理系統(tǒng)大會上發(fā)表了一篇名為“Attention is all you need”《自我注意力是你所需要的全部》的論文，被視為了大語言模型的開山之作。

相比之下，微軟將這項技術很快速地應用到必應搜索引擎甚至包括辦公軟件上，這是因為微軟本身是OpenAI的重要投資者，其次微軟的搜索引擎在全球市場只占據(jù)了3%的份額，非常微弱，而谷歌占據(jù)了超過90%，必應對微軟來說是「完全無所謂」的產(chǎn)品，那么為什么不冒一次險，大膽去顛覆谷歌？于是谷歌就陷入了被動的局面，開始應戰(zhàn)，進入了這場軍備競賽。

ChatGPT、Bard、Bing 圖源：網(wǎng)絡

那競賽會持續(xù)多久？

我覺得如果沒有某種全球監(jiān)管，這場競賽是不會停止，因為它是基于商業(yè)邏輯的。

最近馬斯克等人簽署了一封公開信，希望停止開發(fā)六個月，我覺得這封公開信基本上是癡人說夢。他們憑什么會一致同意停止六個月？

甚至從公司的角度來看，由于巨大的利益或商業(yè)需求，他們可能會忽視某些后果。例如，微軟等公司會有免責聲明，表示他們還存在不足之處，希望公眾能更耐心，提供更多數(shù)據(jù)來改善模型。通過這種方式，這些大型人工智能公司巧妙地規(guī)避責任。

關于大模型的治理，如果要形成共識，要么全球各方找到一種共同的人工智能規(guī)范方法，要么公眾認為這個技術對我們產(chǎn)生了太大的影響，且已經(jīng)超出經(jīng)濟范疇，比如造成大規(guī)模失業(yè)，引起社會強烈反彈。

除了這兩種情況，我們目前看不到競賽的終點，它只會加速向前發(fā)展。

劉興亮：如果AI繼續(xù)一路狂奔，未來會有什么問題和風險？

胡泳：短期來看，一個比較大的風險就是大規(guī)模的人類失業(yè)，這不是虛構的問題。

比如剛才我們聊天的時候提到過，以前我們需要插圖時就要尋找有版權的圖片，甚至找插畫師為我們繪畫，現(xiàn)在我們可以使用圖片生成器來生成圖片。如果每個有這種需求的人都使用圖片生成器，那插畫師就會失去市場，這已經(jīng)是一個明顯的趨勢了。這個問題并非玩笑，確實會導致許多人失業(yè)。

但更長遠、更令人擔憂的問題是什么呢？我認為下一個焦點主要是致命的自主武器。

簡而言之，就是將人工智能應用于武器上，使武器實現(xiàn)自動化，這種大規(guī)模殺傷能力沒有倫理約束，甚至可以實現(xiàn)無差別殺戮。

例如，在戰(zhàn)場上，即使我們知道對方是敵人，作為人類，士兵時還會感到矛盾，因為知道自己在奪走另一個人的生命，但是機器沒有這種意識，只要給它下達指令，它就可能去執(zhí)行。

根據(jù)當前世界的情況，我們仍然存在各種不平等和對抗。這種情況下人工智能武器化是完全可能的，事實上也已經(jīng)在現(xiàn)實中發(fā)生過，比如使用無人機精確打擊某個目標。

盡管我們現(xiàn)在很難想象像《終結者》那樣，機器人完全取代人類統(tǒng)治地球的情景，但更現(xiàn)實的問題是，由于當前世界并不和平，如果某些國家獲得了這種技術并將其應用于武器，將會造成嚴重的后果。

如果談及追究責任，以自動駕駛為例，如果發(fā)生交通事故，責任當然是在自動駕駛系統(tǒng)上，因為它造成了交通肇事。但是嚴格來說，自動駕駛車輛很難大規(guī)模地造成交通事故，比如連續(xù)撞擊多個人，這種可能性是非常小的，而自動化的殺人武器卻完全有可能一下子奪去多人的生命。

最后我想說，我認為今天討論人工智能時，最重要的問題不是思考人工智能本身會對我造成什么影響，而是要思考自己是什么樣的人。只有弄清楚這一點，我們才能在人工智能時代生存下去并找到唯一的可能性。

生成海報

免責聲明：此文內容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關。文章僅供讀者參考，并請自行核實相關內容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。