5月25日消息，俞敏洪個人公眾號“老俞閑話”中記錄了其抖音直播間的“俞敏洪對話李開復”內容。在這場對話中，雙方圍繞李開復最新出版的新書《AI未來進行式》展開，對人工智能和人類社會、人工智能和醫(yī)療的關系，以及人工智能發(fā)展歷史、面臨的困境、未來趨勢以及對人類的影響等做了深入討論。
以下為內容全文：
俞敏洪：大家好！開復老師跟大家打個招呼吧。
李開復：大家好！感謝大家來觀看我和俞敏洪老師的直播。
01. 《AI未來進行式》
俞敏洪：開復老師的新書《AI未來進行式》已經出版了，您來給大家介紹一下這本書吧。
李開復：這本書是我和著名科幻作家陳楸帆一起寫的。之所以寫這樣一本書，是因為AI是一個非常重要的科技，很多人會認為它遙不可及，晦澀難懂。我過去也寫過兩本有關AI的書，有人覺得科普做得還可以，但也有人覺得技術含量過高，我就想，怎么才能讓更多人了解這項技術，不論是理工科還是文科都能看懂。這樣一想，講故事是最好的方式，我自己不是寫故事的專家，就找了陳楸帆合作。
書中一共有十個短篇故事，描述20年后，2042年的世界。在這個世界里，我描繪了一個AI的發(fā)展藍圖——在那時，AI已經普及到各個領域。根據這個藍圖，楸帆寫了十個故事，發(fā)生在十個不同的國家，里面涉及到的科技大概率都是會在20年之內發(fā)生的，寫得非常有意思。在故事之后，我對科技作點評，描述這些科技是如何工作，給人類帶來什么樣的好處，什么樣的挑戰(zhàn)和煩惱，這些挑戰(zhàn)和煩惱是否能化解，可以怎么化解，以及未來的社會將會因為AI和其他高科技產生什么樣的改變。所以這是“科學+科幻”的一本書。
我覺得，90%的人都能從頭到尾讀完、讀懂這本書，真正了解AI，可能還有10%的人覺得李開復寫的東西太玄了。沒關系，你們可以當小說來看，只讀陳楸帆寫的故事，跳過李開復的部分，這樣也能對AI有一定程度的理解。
此外，如果想做AI、想做計算機的專家，這本書可以幫助增加想象力。我記得當年我學計算機、學AI的時候，對算法、應用對社會的影響一竅不通，但看完這本書，你們就會知道今天已學或者想學的技術在什么領域有用，在什么領域有危險，應該做什么事去彌補這些危險和麻煩，怎樣加強自己的能力，讓自己進入AI最有希望的領域，產生自己的最大價值。
俞敏洪：《AI未來進行式》場景設置在2042年，我讀的時候一下就傻了，我心想那時候我都已經不在了，后來認真一算，可能還會在，因為2042年，我是80歲。如果李開復老師的預測正確，這意味著我在偷窺20年后，這個世界在人工智能的主導下到底會是一個怎樣的世界，我自己還能不能參與其中。
書中有十篇短篇小說，但這本書的亮點在于故事可讀性比較強，而且還鑲嵌了人工智能會給人類帶來的十個場景。在這些場景中，人類采取了什么態(tài)度，給人類帶來了什么好處，以及可能帶來了什么挑戰(zhàn)。更大的亮點是，李開復老師作為人工智能頂級專家，會對技術在人類中的應用有所評價，還會對底層邏輯和底層技術來源進行分析。
通常讀者會覺得人工智能的書是科技書，讀起來會很枯燥，讀不懂。開復老師是我的朋友，他寫的每一本書我都會讀，到目前為止，他出了三本書，第一本是《人工智能》購書鏈接，第二本是《AI未來》購書鏈接，第三本是《AI未來進行式》購書鏈接。
當我看到他第一本《人工智能》的時候，我就有點害怕讀不懂，但實際上那是我第一本人工智能相關的普及讀物，讓我這么一個連數學一元一次方程都搞不清楚的人也能讀懂。
第二本是《AI未來》，涉及到中國人工智能在日常生活中應用的各種場景，包括對這些場景背后一些互聯網公司的看法，包括小米、美團等等。當時我就感覺人工智能離我太近了，不知不覺我們的生活已經被人工智能包圍了。
李開復：謝謝俞老師?！度斯ぶ悄堋肥且槐踞槍θ斯ぶ悄軐懙目破諘?，關于人工智能的技術和歷史，都寫得很詳細?！禔I未來》是在描述為什么中國在AI方面有很大的希望，有哪些創(chuàng)業(yè)者做了很棒的工作，推動了中國的AI發(fā)展，另外也談了AI可能帶來的一些問題，有關AI取代工作該如何解決，以及一些我個人的故事。最后一本《AI未來進行式》則是一個真正的小說家講解的結合體，很特殊、很有創(chuàng)意、大部分人可能會比較驚訝甚至驚喜的一本書。
俞敏洪：你在書中講了人工智能和醫(yī)療的關系，我就更加堅定了2042年我應該還在，應該能享受到你書中所講的人工智能所帶來的便利，也可能還會面臨人工智能帶來的、不可預料的挑戰(zhàn)。我看了以后還挺興奮，我還在參與一個時代，而且可能能夠比較完整地參與這個時代。
02. 人工智能發(fā)展小史
俞敏洪：你在世界人工智能方面的研究是比較領先的，你在哥倫比亞讀本科的時候就開始學計算機，后來偏向于人工智能相關領域。你當初青春年少，作為哥倫比亞的高材生，為什么要選擇計算機？后來為什么又偏向人工智能？你當初所學的人工智能和現在的有什么不同？你曾經預料到人工智能會對今天的人類產生如此巨大的影響嗎？
李開復：我1979年讀的大學，上大學的時候我選了法律和數學，因為數學我比較擅長，法律則是因為我以后想當律師。讀了一段時間，我發(fā)現法律不適合我，或者我不適合法律，因為書那么厚，讀到最后我都想睡覺了。
至于數學，可能我在我們家的小城市里，數學算比較厲害的，但在紐約，和那些真正厲害的人相比，就真的不覺得自己是數學天才了。正在比較迷茫的時候，我接觸到了電腦，接觸的計算機課程里有幾門是人工智能相關的。
在1979、1980年的時候，人工智能才剛剛萌芽，非常幸運遇到了三個教授，分別來自于斯坦福大學、卡內基梅隆大學和耶魯大學。他們三個做的正是人工智能的視覺、自然語言和算力，我就師從這三位老師，非常幸運地接觸到了這個領域。當時數據不夠，計算機也不夠快，所以當時做出來的各種演示、功課都非常粗淺，在今天看起來都微不足道。
可是這讓我充滿了熱情，覺得這真是人類最后最重要的一個技術，讓我們能了解自己，了解自己的大腦是如何運作，用什么樣的算法能夠達到人的智慧，沒有比這更有意思的事情了。我義無反顧地決定把我的兩個專業(yè)換成了計算機科學，并且在計算機科學里做人工智能，后來又到卡內基梅隆大學讀博士，也是人工智能領域。特別巧的是，我在人工智能里做的是機器學習，所以跟今天的主流方向完全一致。
如果在40年前，也就是我還在讀大學的時候問我，2022年會不會有今天AI的發(fā)展，或者2042年會不會有書中AI的發(fā)展，我當時的回答絕對是肯定的。因為我那時比較天真，也比較無知、樂觀，覺得現在AI已經能做點事情了，再給我40-60年，肯定會改變和顛覆世界，要不然我這書不就白讀了嗎？可是，等我博士畢業(yè)之后才發(fā)現，AI，寫寫論文不錯，做做演示也不錯，但想要在真實世界里運行，是行不通的。
偶爾碰到一個小小的能用的，也有人會說那不是AI，它已經Work了，那就是軟件、產品，不Work的才叫AI。當時我們沮喪到連AI這個詞都不敢用，因為只要一講，那就是在做不Work的東西，或者覺得我們是唬人的科學家。所以如果你在20年前問我，比如20年前我在微軟的時候，或者再早一點我在蘋果的時候，你問我對未來還這么樂觀嗎？我可能就不會那么樂觀。但是，近年來，因為深度學習的發(fā)明，讓我又變得樂觀了，而且比過去任何一個時候都要更樂觀。這個技術已經開始進入主流，而且還遠遠沒有影響輻射到各行各業(yè)。
俞敏洪：從今天的角度去看，你在大學甚至博士期間所學的人工智能的內容和方向，可能都是錯誤的，比如神經網絡系統(tǒng)，你會覺得當時這些研究方向白學了嗎？還是說是為未來的深度學習和大數據結合的方向奠定了基礎？或者過去的失敗其實并沒有對今天人工智能的方向奠定意義？今天的深度學習和大數據在未來也還有可能被再次推翻嗎？
李開復：我非常幸運，當時我讀本科和讀博士的時候，最主流的人工智能叫做專家系統(tǒng)，那和所有的機器學習都不一樣，甚至它本身并不能算是機器學習，而是人用人類的規(guī)則去教AI該怎么做，這個方法后來被證明是不成功的，當然今天還有人用這個方法在做，認為它們會帶來未來的希望。
我做的是基于類似神經網絡的隱馬爾可夫模型。我也有很多同事在做神經網絡，包括發(fā)明深度學習的杰弗里·辛頓（Geoffrey Hinton），他就是我在卡內基梅隆的老師，因為算力和數據不夠，他當時還沒有用深度學習，用的是比較簡單的神經網絡。我們的工作，尤其是他的工作，都是非常重要的奠定基礎。
神經網絡和深度學習的差別主要在于，神經網絡非常簡單，而深度學習也是一種神經網絡，我們把數據輸入進來，它會有一到兩層神經網絡，通過數據推算出一個結果。差別在于，我讀書的時候數據量太少，而且計算力太慢，只能做到一到兩層很淺的神經網絡，今天計算量大了，可以做到幾千層。當網絡做不到深度的時候，它的學習就不夠強大，不能夠超過人類。
但如果我們有海量的數據、足夠的算力，能做出一個深度模型，人工智能運用深度學習，它就能在某一個領域里大大超過人類。其實當年可以暫時稱為淺度學習，它絕對是深度學習非常重要的基礎，就像小朋友要先學描紅，再學毛筆字，先學加減乘除才能學微積分，是一樣的道理。
俞敏洪：很多科學家、技術人員都是在為后來的科研人員奠定基礎，到最后真正能長期適用的技術卻并不是來自于這些最初的科學家。最初研究神經網絡系統(tǒng)人工智能的這批科學家和工程師，或是技術人員，是后來深度學習的推動者、發(fā)明者嗎？還是說深度學習的人工智能其實是另一批技術人員開發(fā)出來的？
李開復：這個問題非常有趣。其實深度學習可以說是三十年如一日，有三個科學家被打入冷宮，被主流拋棄。因為在非常早期，比如大約1988年我讀完博士的時候，大家認為神經網絡是不太Work的，在所有能評比的問題里，它們未必能打敗其他模型，當時就覺得這套技術不行，很多期刊、論文或者重要的學術會議都不再接受做神經網絡的這波人。這些人大部分就慢慢流失了，他們覺得既然我這個不是主流，那我就來做主流的，所以他們進入了各種不同的其他模式識別的方法，用不同的SBM技術來做。
只有少數人堅持了下來。他們認為這個東西可以Work，之所以過去不能Work，主要是因為數據不夠，模型不夠大，算力不夠，所以要不斷地增加、強化這些方面。這三位科學家不斷地堅持，包括當時在卡內基梅隆的杰弗里·辛頓（Geoffrey Hinton），后來去了多倫多大學；還有當時在貝爾實驗室(Bell-Labs) 的燕樂存（Yann LeCun），后來去了紐約大學和Facebook；以及約書亞·本吉奧(Yoshua Bengio)，他一直在蒙特利爾大學。
這三位大師當年并沒有進所謂前10名的計算機系，因為前10名的計算機系都很自以為是，認為神經網絡不Work，還想來我這里做教授，想都不用想，更不用說經費。后來他們在美國拿不到經費，兩個人就搬去了加拿大，加拿大會給更多國家經費。他們三個人基本上是臥薪嘗膽，用了接近30年的時間證明，有幾個他們當年發(fā)明的算法，在之前只是理論，后來數據多了，算力多了，就真的Work了。
今天大家如果想做科研，想讀博士，想做科學家，可能需要了解，這其實是一個比較孤獨的方向，而且你也不確定自己該從眾還是要堅持。在這個例子上，他們三位真的證明了自己的堅持是對的，他們三位在兩年前得了圖靈獎，也就是計算機領域的諾貝爾獎，這是蠻難得的故事，也比較勵志。
俞敏洪：這特別了不起，當別人都在懷疑你做的方向出錯的時候，自己能繼續(xù)堅持下去，并且堅信自己有一天能做出來。其實他們算是幸運的，有太多科學家和技術人員堅持了一輩子自己的想法，到最后都不一定能有成果，有的甚至還要經過好幾代的努力才能有成果，就像你剛才的說法，也是因為大數據的出現，某種意義上推動了深度學習和人工智能的飛躍。
李開復：是的。
03. 人工智能可預見的發(fā)展
俞敏洪：中國是一個比較容易產生大數據的國家，可能隨便做一個面向大眾的APP，哪怕做得再差都有幾十萬人、上百萬人在用。從這個意義上來說，面向未來，中國在人工智能方面領先世界的可能性會比較大？因為深度學習的基礎是大數據。
李開復：中國之所以能夠崛起，成為世界AI兩大大國之一，確實就是靠你說的這個理由。中國的人口多，中國的APP讓我們一用就停不下來，每個人每天都會花很多時間在這些所謂的Super App上，無論是微信、抖音還是淘寶。人口眾多，APP又做得好，就不斷地滾動起來，這確實是AI的催化劑。
中國最早期的一大批AI專家就是百度、阿里、騰訊、字節(jié)等等培養(yǎng)出來的。要成為一個好的AI工程師、科學家，需要真的能做應用，而不只是寫論文，這就需要在一個有超級大數據的環(huán)境里工作過，而這些大公司起到了催化劑的作用。
到了今天，AI已經不只是互聯網的應用，未來可能會看到，在工業(yè)方面、醫(yī)療方面、交通方面等都會有所發(fā)展，沒有哪個行業(yè)會沒有AI。中國AI在哪些行業(yè)會比較強，就要看行業(yè)的老板是否能足夠早識別，未來的企業(yè)是不是有足夠多足夠好的數據，有沒有數據要收集，收集數據要花多少代價等等。
總體來看，除互聯網領域以外，AI應該會在中國制造方面有很大機會。中國是制造大國，在這個領域，我們比別的國家機會更多。醫(yī)療領域也是如此，因為海量數據正在醫(yī)療領域產生。交通領域也會不錯，我們的無人駕駛公司都做得非常務實，而且政府政策也愿意推動科技的落地。比如我們投資的一家公司，已經在7個城市有Robo-Bus、Robo-Taxi運行。其他領域包括金融都應該還有機會，不一定哪個國家會走在最前面。但是在有些領域，中國會有一些挑戰(zhàn)，比如大企業(yè)的應用軟件，中國沒有那么多像Oracle、Salesforce、Microsoft這樣的公司，整個工作的流程還沒有足夠好的數據化，這樣做AI就會有比較大的困難。
總體來說，中國在大部分領域里還是很有機會，企業(yè)級應用是唯一一個現在有點看到瓶頸的領域，其他領域要么已經領先，要么還有機會能夠成為第一或第二的領跑者。
俞敏洪：中國未來的經濟發(fā)展或者社會變革跟人工智能是密切相關的，應該讓民間或者政府想辦法利用這樣一個千載難逢的機會，千萬不要再落后于世界。深度學習和大數據是人工智能的底層邏輯，面向未來，人工智能還會有別的技術出現嗎？會有推翻深度學習的可能性嗎？如果有，大概會在什么時候？
李開復：可能在五年之內，深度學習依然會是人工智能最重要的基礎，在這個基礎上會有很多新技術出現，比如卷積神經網絡，就是讓深度學習能夠學會“看”，讓計算機視覺至少在物體識別方面能超過人類。最近的自監(jiān)督學習，也在深度學習的基礎上把自然語言做得非常好，在很多重要問題上，比如閱讀理解方面超過了人類。所以會不斷地有重要的技術，每一兩年一次，在深度學習的架構基礎上再發(fā)出更多的光芒，擴張到更多的領域。
再往后，有一些科學家，比如杰弗里·辛頓（Geoffrey Hinton）基于海量數據提出了比深度學習更好的理論和想法，這是一個方向。也有一些科學家，比如吳恩達，認為大數據限制了AI的發(fā)展，能不能用小數據來做？還有一些科學家認為，深度學習需要人類智慧的輔助，當年被證明不Work、被拋棄的專家系統(tǒng)，可能還是要把里面的一些精髓撿回來用作補充，比如在一些分析、預測、推測、常識、對事物的理解方面，AI畢竟還只是在靠海量數據來蒙對答案，它并沒有真正理解，這也是一個方向。還有一些人認為，今天的計算機架構還是慢，要做一個更類似人腦的、真的是基于神經網絡一類的人腦來推動的計算機架構，這又是一個方向。這些都各有機會，但它們可能被驗證能超過深度學習的概率不是很高，也不會在五年之內發(fā)生。
但在書中，我們提到了量子計算。量子計算能夠真正超級推動算力。AI在過去六七年、七八年的成長，很大程度是因為英偉達的GPU，也有很多中國、英國以及別的國家的類似GPU、IPU、TPU等等算法，專門用來加速深度學習。但他們雖然提升了很多計算量，讓我們能處理更多數據，但是與未來的量子計算相比，GPU又差太多了。當量子計算出來的時候，我們就需要發(fā)明一整套新的AI算法，那時候能做的事情就不知道會比今天多出多少數量級了。
總體來說，如果未來有一個超級突破性的技術會把今天的AI都推翻掉，要做一整套新的更強大的AI，那就是量子技術。但量子計算可能離我們還有大約十到二十年時間，需要一點耐心來等待。
俞敏洪：量子實際上是非常不穩(wěn)定、非常活躍的一個狀態(tài)，現在好像有了一點點初步的研究成果。假如量子計算最后成功普及，對人類生活的命運會帶來什么樣的影響？你書中的短篇故事中，由于量子計算的誕生和應用，把游離在外的保密不那么好的比特幣全部轉到了自己賬上，引起了世界金融的動蕩，甚至還提到，由于量子計算的出現，武器的精密度和效率都變得極高。我們這一代人能真正看到量子計算的實現嗎？
李開復：二十年之內，普通人家里不會買一臺量子計算機，因為太大、太不穩(wěn)定，但是國家、大實驗室、大公司肯定都會有。當然不能說這百分之百會發(fā)生，因為技術還在不斷推進，但大部分專家認為十到二十年之內應該可以做足夠大的、有用的量子計算機。今天其實已經有量子計算機了，只是他們目前能解決的問題都是沒用的問題，一旦開始解決有用的問題，就會讓所有人跌破眼鏡。
量子計算機需要重新寫算法，我們可能會看到量子計算機的第一個應用就是破掉我們今天所有的解密、加密。書中講的偷比特幣是一件事，同樣的技術也可以被用來偷我們的密碼，盜我們的賬戶，把銀行的錢取出來等等。今天的一部分加密算法是今天的計算機算一千年也破解不了的，但是量子計算機可能幾分鐘，甚至幾秒鐘就可以破解掉。
當然，量子計算機并不是一個破壞型的東西，它只是一個計算平臺，還是會帶來非常多好處。它可能會把過去的加密、解密破壞掉，但是用量子來做加密、解密，就能成為一個永遠都不會被破解的方法。也就是說，現在銀行賬號、比特幣會被偷，但量子計算機出現后，就不會了，因為它是絕對不能被破解的加密方法，即便是量子計算機，也破不了另一個量子計算機的加密方法。
另外，有了量子計算機之后，人工智能的算法可以同時計算很多指數級增長，因為它可以平行用很多q-bit來模擬0到1之間的和平性，速度會非?？?，不像現在的人工智能還需要一步一步計算。量子本來就是世界上的一個物理基礎，用量子計算來模擬人的身體、氣候變化，或是任何一個物理現象，對科學方面的推進都會是非常巨大的。我們可以更深地了解氣候變化到底是什么因素造成的，或者我們吃了一顆藥，這顆藥對我們身體的影響，都是可以被模擬出來的。我們可以用量子的方法把藥物成分和人的身體成分做一個模擬和計算，就可以確保在我們吃藥之前，這個藥物對我們個人來說是安全的。這些應用都是特別巨大的。
04. 人工智能帶來的困境
a.Deep fake
俞敏洪：你大學畢業(yè)后的工作都和人工智能、自然語言相關，當時你的研究和今天對于自然語言的研究，有什么不同？今天對自然語言研究的方向和方法，確實能在未來使機器人、人工智能完美地和人進行同等智商的對話嗎？
李開復：我畢業(yè)后第一份工作在蘋果，后來到了微軟，無論是在蘋果還是微軟，我確實都做了一些自然語言的工作。
在微軟做的比較有意思，2000年的時候我接管了自然語言部門，大概120個人，我需要去說服比爾·蓋茨進行團隊改造，讓所有專家系統(tǒng)、語言學的人離開，然后重新招一批機器學習的人進來。這件事后來也慢慢地在微軟擴散到更多產品部門，用機器學習做出了很多自然語言的工作，可以看到整個社會在做技術升級，我也參與了微軟這樣的升級。當然，升級的過程還是蠻痛苦的，因為很多人失去了工作。
俞敏洪：當初做升級這件事情，其實對人工智能自然語言的研究起到了比較大的推動作用？
李開復：可以這么說。如果不做這件事情，今天很多微軟平臺里可能還會存在一些瓶頸。近年來，自然語言的進步非?？欤懊嫣岬降淖员O(jiān)督學習就是今天最火的一套自然語言技術，我們把全世界的語料用來訓練一個超級大的模型，有點類似一個人學中文，學會了中文之后，用這個結構就可以相對快速地理解中文，再去學歷史、學化學，速度很快。如果一個人不懂語言，他是學不會歷史、化學的。
今天自然語言基本上是突飛猛進的狀態(tài)，因為我們用自監(jiān)督學習，可以用超級海量的數據訓練出模型，這特別重要，因為機器學習需要的就是超級海量的數據，比如幾萬億數據。當有幾萬億數據的時候，就不太可能人工標注數據，而自監(jiān)督學習不用標注，把數據丟進來，它自己不斷地看，看很多遍以后它自己就搞懂了語言是怎么回事，在這個基礎上再做機器翻譯、人機對話、語音識別、問答，再來做搜索引擎，就會跟過去有完全不一樣的效果。
我們的創(chuàng)新工場也在預測，自然語言是特別重要的領域，所以在過去一年我們投了四家我們認為非常強的自然語言公司。如果今天有年輕人想創(chuàng)業(yè)，我認為AI領域里的自然語言是一個非常好的方向。
所以我對未來AI能有強大的對話能力是抱有樂觀態(tài)度的，同時這個對話還要很小心地設計，如果是去模擬一個人，只要犯一個錯誤，別人就再也不相信你了。如果讓對方知道我是一個機器人，我盡量做好我該做的事，我偶爾犯錯的話請原諒我，如果有這樣的前提和假設，它應該能夠在很快的時間內在各個領域有所應用。
比如我們現在在電商網站買東西，找機器人客服時常常碰到答非所問的情況，但以后ta就會變得非常聰明、非常貼心、非常精準。比如，以后找電話客服也不一定是真人接電話，因為機器接電話跟真人接電話是一樣的效果。再比如，日后在元宇宙或者游戲里，我們和游戲中的虛擬人物用語音溝通也會變得相對順暢。當然，對話只是自然語言的應用之一，以后的語音識別還會非常精準，比如我們今天的對話完全可以做一個幾乎沒有錯誤的筆錄，這會有很大的作用，以后公司開的所有會議都有筆錄，我們就可以搜索，在什么會議上誰說了什么，答應了什么。
而且我認為，機器翻譯會做得非常精準，這意味著可能五年之內，我們就可以在耳朵里放一個小耳機，去國外旅行的時候，我們可以無障礙地跟他們交流，對方講西班牙語，我們聽到的是中文。今天也有這種技術，但在未來可以做得非常實時，非常精準。搜索引擎方面，快速問一個問題將會得到一個精準的答案。這些都是五年之內我們可以看到的自然語言技術的應用。
俞敏洪：我已經碰到這樣的困境了，當然還不是機器，而是用人工的方式模仿我的聲音，說出我從未說過的話，還配上視頻，對上我的口型，放在短視頻平臺發(fā)表，挺混淆視聽的。我也訪問過一些公司，他們能通過人工智能合成我的聲音，用我的聲音讀一段話，當然現在讀得還沒有那么像，但如果未來人工智能的技術更精確，就像你書中寫到的那樣，能偽造出我這個人，而且讓人無法分辨真假俞敏洪，老百姓看到我在這兒講話，但那其實并不是我，他們看到我這個人在這兒充滿表情地說話，但也并不是我，他們都無法用肉眼、耳朵分辨出來。如果發(fā)生這種情況，將會是一個怎樣的狀態(tài)？那時候會不會亂套？
李開復：很不幸，這個未來必然會來臨，而且不會很久，今天用足夠多的時間和計算已經可以做出你剛才描述的情景了。我們也看到有很多假新聞，或者一些明星的臉被貼到一些不堪的畫面上，這已經在不同的國家發(fā)生了。
從短期來看，這是一個不斷對抗的過程，好的網站可以不斷抓Deep fake，大部分時候可以抓到，能否抓到還要看誰的計算機更快，只要好人的計算機比壞人的更快，基本上可以抓到。問題是，如果有很多壞人不斷把這種東西放到各個網站上，我們可能就會抓不勝抓，甚至有時候也會犯錯，會有一些漏網之魚。這是十年之內我們確實可能會面臨的一個巨大挑戰(zhàn)。怎么辦呢？
一方面還是要有更好的監(jiān)管，如果做了壞事，冒充別人，騙了錢，或者做了假新聞，被抓到后得有比較嚴重的懲罰。另外，大家的眼光也要更亮一些，不要看到什么就馬上相信，假如今天在某個社交平臺上看到一段感覺不可思議的話，第一個就要想，這會不會是假的。同樣的，以后大家看到俞敏洪老師講了一段不可思議的話，首先就要想想，這是不是假的，這可能需要大家的思考提升上來。
如果看得更長遠一些，比如二三十年后，會有比如區(qū)塊鏈技術，可以嵌入到各個不同的設備，相當于加上水印來驗證這個視頻，這個照片是我這個手機拍的，它沒有被篡改，這樣就可以杜絕Deep fake，但這需要升級所有手機、電腦、攝像頭等等，不是短時間內能做到的，計算量也會比較大。
最后我想補充一下，Deep fake的技術不完全是壞的，這是一個可能容易被壞人使用的技術，但每一種技術都有好的應用和壞的應用，比如以后要拍電影，是不是可以不用演員了？就用Deep fake的方法，低成本、非?？焖俚刈龀鲆徊侩娪?、一個游戲，這還是相當有價值的。包括現在談的元宇宙里，或許也需要用類似的技術才能渲染出更多人，更逼真的臉、手勢、表情等等，所以技術有好的應用，不全是壞的。
b.反向控制
俞敏洪：有一個問題，現在人已經不知不覺地被技術控制了，比如大量的人在手機上花大量的時間，刷屏也好，打游戲也好，幾個小時甚至十幾個小時。這就產生了一個問題，人或多或少被機器所控制，比如我會根據我手機上顯示的行走步數來確定今天我要鍛煉的時間，有的時候很忙，到了晚上打開手機一看才走了5000步，就又會跑到外面再走5000步或者1萬步，這算是一種良好的控制，但其實有很多不甚良好的控制。在你的書中，第一個故事叫《一葉知秋》，講述了因為人工智能的發(fā)展，人反而更加分層，更加有偏見，更加不能掌控自己命運。你覺得在這方面，技術的發(fā)展會把人類引向什么地方？人應該以什么樣的態(tài)度來面對和防范？
我現在會在自己工作和閱讀的時候，把手機放在我不能隨手拿到的地方。另外，我會強制性地要求自己刷視頻、刷信息的時間最長不超過20分鐘。我是比較自律的，但現在的年輕孩子，甚至很多家長完全做不到。關于這你怎么看？機器會從哪些方面控制人類？人類應該做出什么樣的應對措施？
李開復：今天所謂機器控制人，其中一個重要的理由就是，AI太強大，所以很多公司第一想到的就是用AI來賺錢。AI怎么為一個互聯網公司賺錢？其實就是讓人多用它的APP，人們用得越多，看的廣告越多，就越賺錢。在這樣一個AI優(yōu)化的過程中，并沒有充分考慮到給用戶看的信息對用戶有害還是有益，會不會上癮，有沒有不適合的、暴力傾向的內容等等，它們只是比較單一地讓用戶多看這個網站或者APP，所以我們需要鼓勵、幫助這些大公司修改它們的APP，讓他們用AI的時候不要那么單一地為了賺錢而進行優(yōu)化。
當然這還是有蠻多挑戰(zhàn)，因為一個公司要賺錢也是天經地義的，但我在書中也提到了很多方法，比如可能有一些監(jiān)督網站能夠監(jiān)督每個APP有多少虛假內容，或是打分、公布給社會看，太多虛假內容就會失去信譽，甚至可以把它當做公司治理的ESG之一，虛假內容太多的公司，基金就不能買它的股票。
可能要靠這些方法，如果只靠法律法規(guī)嚴懲是不夠的，要讓這些公司能有動機自律，俞敏洪老師能夠自律地把手機放下來，但并沒有很多公司能夠自律地說，我要為用戶好，我可以不賺錢，這還是比較困難的。
在《AI未來進行式》的第一篇故事里，AI還產生了偏見，大數據里擁有的偏見。第一個故事里描述的是種族歧視，做APP的公司本身并沒有歧視某一種民族，但是因為過去很多數據的收集，當某一個民族的人嫁給了另一個不那么發(fā)達成功的民族時，對前者未來的發(fā)展，甚至健康、保險都會有一些量化的傷害，于是AI就自作聰明地阻礙這樣的戀情發(fā)生。其實整個故事里并沒有壞人，保險公司、APP公司也是為了用戶好，但卻發(fā)生了這種不人道的事情。所以未來做AI的工作者，需要明白，當一個人、一種技術或者一個公司的權力越大，責任也越大。
AI的能力這么強大，每一個做AI的人必須顧及到自己技術中可能會產生偏見、誤導，所以我們要用各種方法來平衡數據，用自動的方法也好，或者小心翼翼用人工的方法也好，做到能夠預警不良情況的發(fā)生。要解決這類技術問題，主要還是靠技術方法，所以希望更多的技術人能夠更加保持警惕，讓自己進步，發(fā)明更多的方法降低這些不好的事情的發(fā)生概率。
c.數據隱私
俞敏洪：現在還有個隱私保護的問題。我們下載任何一個APP都有可能把自己直接交給了這個APP，包括我們的行程，手機內的信息。因為它總會問你要權限，你不小心就點了同意，甚至有時候是不知不覺地就讓它擁有了權限。現在我們帶著手機出門，我們的行程、到達的地方、購買的東西都被暴露得一清二楚，但又不能把手機放在家里，因為手機是通訊工具、支付工具，手機不能離身。
這樣的狀態(tài)下，人好像變成了電子的、無形的、透明的，就這樣被曝光到社會面前，我們甚至不知道自己到底暴露了什么，別人知道的反而比我們自己知道的更多，這種情況下，人是會缺乏安全感的。國家也制定了很多保護隱私的措施，但在現實中，因為某種意義上是群雄混戰(zhàn)，所以對個人其實帶來了不少的影響。從這個意義上來看，對像我們這樣已經手機不能離身的普通人有什么建議？
李開復：的確會有這樣的困境，在今天的技術框架下，如果我不提供我的數據，就會突然發(fā)現，我們手機里的淘寶、抖音、美團，都無法像過去那樣聰明、精準地工作了，我們生活會面臨麻煩，所以一定程度上，我們是拿了個人數據去交換了一些好用的APP。目前的一些方法，比如現在Web3.0技術或是歐洲的《通用數據保護條例》（General Data Protection Regulation，簡稱GDPR），都在試著把數據還給用戶，但如果做得極端，沒有了數據，AI就不工作了。所以這是我們所面臨的兩難問題，數據給了它怕它作惡，不給它AI又不工作。
所以可能比較好的解決方案還是用技術解決技術問題。有沒有可能魚與熊掌可以兼得，有沒有可能把我的數據放在我信賴的機器上，也許是我的手機或者電腦，然后由一個很聰明的助理進行管理，它知道什么情況下能用我的數據去達到我想達到的目標，而且能確保我的數據不會離開我信任的環(huán)境，不會被不被足夠信任的公司拿到。
舉個例子，如果我們覺得病例是非常重要的隱私，不能亂給別人，但是你的病例必須得給到醫(yī)院，同時我們又想用1000家醫(yī)院的數據來訓練一個特別強大的癌癥診斷系統(tǒng)，那怎么辦？如果把這1000家醫(yī)院各有的1000個用戶病例，就是100萬個病例，匯集起來，其實可能就會造成被人濫用的風險。那有沒有可能這1000家醫(yī)院各有自己的一套系統(tǒng)，自算自己的1000個病人，算完后再上傳已訓練好的模型，模型和模型就可以再結合了，這樣操作，我的數據就沒有離開我的醫(yī)院，但我也貢獻了數據，幫助了癌癥的診斷。這樣一套技術稱為聯邦學習，我們希望這類技術能夠逐漸解決隱私被濫用的問題。
俞敏洪：不管是如何產生的數據，其實都是有所有權的。我認為數據是因為我產生的，原則上這個所有權是在我。很多大公司用了我們的數據，產生了很多經濟收入，相當于在我們不知不覺、沒有被告知的情況下，這些數據被無償使用了。這就產生了一個問題，數據的所有權到底屬于誰？商業(yè)利益中的一部分用戶是不是應該也有分享的權利？
李開復：對，有不少人提出這樣的看法。然而過去這些互聯網公司都不給我們錢，今天讓他們把錢吐給我們，可能比登天還要難。也許這對未來新的應用是可行的，但是對過去的應用是很困難的。
我們思考這個問題的時候，建議不要太糾結擁有權，因為擁有權是可以授權的，授權了以后是不是就能讓他用了？我們現在也常常在各個網站上授權這個，授權那個，最后都授權出去了，我們自己也不知道結果如何，這是個很大的挑戰(zhàn)。所以我們可以跳出這個框架，想想有沒有別的模式可行。
比如今天大部分互聯網公司都是廣告的商業(yè)模式，會很想讓我們看各種東西，看得越多廣告就越多。這樣會有兩個壞處，一是這些廣告對我沒什么好處，我并不想看它；二是它為了讓我在APP里花費的時長更多，就給我看很多也許不適當的內容。
我們可以思考一下另一個商業(yè)模式——訂閱模式，比如我們訂閱某一個公司的音樂或視頻，在這個過程中，我們和公司的利益相對比較一致，因為公司要盡量做好內容和服務，讓每個用戶都滿意，一旦用戶不滿意就不再訂購，這個公司就不敢亂用個人隱私，也不敢打太多廣告，因為用戶已經每個月付費了，還要打一堆廣告讓用戶看，用戶就會不爽，這樣的方式會降低廣告行為。而且公司也不需要讓用戶一定要花費足夠的時長在APP上，因為如果是廣告的商業(yè)模式，看得越多就越賺錢，但如果是訂閱模式，用戶每個月已經付了100塊錢，APP就沒有必要再讓你在他上面花幾百上千個小時。
所以，我們希望未來有更多訂閱式的，而非廣告式的商業(yè)模式，這樣就會使公司很自然地去做對用戶好的事情，而且也不敢做對用戶壞的事情。如此一來，用戶也相當于有了一個武器。因為如果是用廣告支持的商業(yè)模式，公司可能會想，你不用我的網站行嗎？反正你不付錢給我，我為什么要滿足你？但如果是訂閱模式，用戶的武器就很簡單了，你給我看太多廣告和垃圾內容，把我的數據拿去濫用了，我可以馬上停止付費，公司就賺不到錢了。
所以解決的方法不完全只是把用戶的數據還給用戶，當然如果能做到也是一件好事，我們也還可以思考一些別的模式，因為我們最終想做的事情是讓公司的利益和個人的利益能夠越來越近，這樣就不會有利益沖突。
俞敏洪：但這還是一個用錢買自由的模式。
李開復：也是。
d.信息繭房
俞敏洪：現在大部分老百姓不知道算法是什么，但大家都深受算法的影響。比如我在某個新聞APP上總看某個方面的內容，新聞APP后續(xù)就會總推送類似的內容，甚至當用戶贊賞了某個觀點后，后面推送的所有文章、訊息、視頻都是用戶喜歡的那個觀點的內容。這就形成了新聞傳播界討論的“信息繭房”，反而用戶接觸不到多元化的信息。
原來沒有這樣的算法時，所有的信息都能被我看到，我可以自己進行篩選，現在我自己不用篩選，機器已經篩完了，結果反而讓我看不到反面的信息，甚至是更有參考意義的信息。所以一個人如何避免因人工智能算法使自己進入“信息繭房”，讓思維反而變得狹隘的情況？
李開復：其實書中有幾個故事跟這個問題相關，這確實是一個問題，但主要問題還是因為目前AI算法太單一。一個公司想要我們花更多的時長看它的視頻或者商品，就會不斷秀這些東西，讓我們的時長不斷增加，而且它可能會發(fā)現我們喜歡某一個明星，就不斷地讓我們看這個明星，我們認可某一個觀點，就不斷給我們看這個觀點，使我們接觸不到多元化的信息。所以多元化AI目標函數是一個重要技術，APP并不只是為了一個目的而給用戶看內容，它的目的可能有很多個。
如果看得更遠一點，從用戶角度來說，一個用戶希望自己得到成長，變得更有知識、更聰明，或者更被別人喜歡，更被別人尊敬，如果我們有方法能夠衡量這些東西，我們推送的內容能滿足這些需求，達到多元的目的。所以如果我們能夠想一些比較復雜的優(yōu)化目標函數，根據每一個用戶真正想做的事情推送內容，把這些目標做得復雜些，多元化一些，我們看到的內容可能就會有所不同。
這些目標中還包括一些別的事情，比如教育系統(tǒng)認為每一個年輕人應該多看點什么內容，有沒有什么是通俗的，是全世界每個人都應該多了解的東西，偶爾秀一秀，有些東西可能是這個用戶從來沒看過的，但我們是否可以試一試，如果他喜歡了，以后再推給他，不喜歡，那就不好意思，浪費了你一次的時間。這些都是在把AI的目標函數做得更復雜，這不是純粹地只做某些方面的優(yōu)化，而是需要優(yōu)化很多事情。有些可能因人而異，有些可能是社會教育體系或者經驗告訴我們的，有些就是單純內容很好應該推一推，所以要綜合考量各個因素，才不會造成你剛才講的“信息繭房”的狀態(tài)。
俞敏洪：有沒有可能現在用戶可以自己選擇，比如有一鍵按鈕，按下去之后，它就不再自動推送這種算法推薦，我想看什么東西就看什么。如果有了這樣的選擇就有了主動權，到現在為止我沒有發(fā)現有這個主動權，從技術上這個事情應該是可行的吧？
李開復：是可行的，而且非常簡單。很多視頻網站也有搜索功能，只要有搜索功能或是瀏覽功能，一旦瀏覽了就會有AI來優(yōu)化。
俞敏洪：比如我搜索了幾部講抗日戰(zhàn)爭的電視劇，結果后面推送的很多都是抗日戰(zhàn)爭電視劇。
李開復：對。我覺得可以把更多選擇權放在用戶手里，讓用戶知道自己有幾個可選項，可以用搜索的，可以用推薦的，也可以用不用AI排序的，用時間流排序，或者用瀏覽量排序，這肯定是可以做到的，我們可以給用戶更多的選擇。
俞敏洪：現在各個網站有熱搜功能，根據搜索人的多少來排列的。
05. 人工智能可能對人類的影響
a.元宇宙
俞敏洪：人工智能和機器對人的影響其實才剛剛開始，面向未來，這個影響會不斷深化，包括青少年在內，因為未來AR、VR、MR等會把人帶到元宇宙。這本書中也寫了很多有關元宇宙和“3R”的故事，他們其實會給我們的生命和生活帶來影響，我不太懂這方面，但我了解的基礎概念是，一個人進入元宇宙的時候，是完整地把自己放入了一個虛擬世界，甚至會忘掉這是一個虛擬世界。這種情況下，人可以根據自己的感覺來創(chuàng)造一個自己喜歡的世界，這個世界有可能跟現實世界格格不入。當人回到現實的時候，他在現實中反而就變得沒有生存能力。
像現在，雖然我們也受人工智能和機器的影響，但我們畢竟還是在現實世界中跟大家進行交互，如果是在元宇宙中，我們很有可能就感覺不到現實世界的存在了。這對未來的孩子們，包括對成年人的影響是什么？元宇宙等等的東西會對我們的生活和工作帶來什么樣的好處？能解決人類什么問題？它們會給人類帶來什么樣的麻煩？
李開復：這套元宇宙可以是純虛擬的，也可以是虛擬和真實世界結合的，這是AR/VR/MR的差別。你提到的是一個非常真實的問題，它所提供給我們的是一個沉浸式體驗，當我們戴上眼鏡或者頭盔，就真的跳入了一個平行宇宙，一個不同的世界中，而且非常逼真，非常有意思，會非常吸引我們。從正面來說，我們可以做特別好玩的游戲，讓大家玩得開心；未來的電影我們也可以參與；未來的教育可以讓我們學歷史的時候就回到秦始皇時代，看他建長城，焚書坑儒，看當時羅馬的基督徒碰到了什么樣的問題，被獅子吃掉等等各種非常逼真的場景，這可以讓我們更好地學習，比看課本、看視頻震撼力更大，也更有趣；從培訓的角度來看，要訓練一個什么技能，可以直接虛擬地訓練，提前做好我們想學的工作，這些都是正面的應用。
就負面而言，它最大的應用還是娛樂，而且會被證明讓人特別喜歡的也仍然是娛樂。今天的手機游戲已經讓很多人欲罷不能，而元宇宙則是手機游戲加強1000倍的版本，所以以后父母對孩子，個人對自己的自律都會變成很大的問題。
而且書中還提到一個場景，未來AI會取代很多工作，有一批人的工作會被AI取代，他們自己的人生追求是通過工作得到滿足，但自己所能做的所有工作都被AI取代了，這時候就應該接受新的培訓，去做更長的培訓，做AI不能做的工作。如果元宇宙里面又有游戲，很多人因為覺得這個世界已經沒有工作可做，培訓又太麻煩，索性就拿著政府的救濟金和補貼或者失業(yè)金，戴著眼鏡直接飛到另一個世界，沉溺在游戲中，這兩件事情加起來又會讓問題更嚴重。
b.人工智能取代工作
俞敏洪：這剛好也是我想問的，人工智能取代人的工作這件事情幾乎是不可逆的，和當初工業(yè)革命時，機器對工人工作的取代是一樣的概念，所以當時也有很多革命，很多工人把機器砸掉。但沒有任何人能砸掉人工智能，而且它是在無形中取代掉我們的工作。現在因為社會的發(fā)展和進步，不少國家對失業(yè)者進行補助，包括疫情期間有各種各樣的補助，很多人拿了補助以后就打游戲。
從長遠來說，這對人的發(fā)展和心理會造成重大負面影響，因為任何一個人的心理健康和幸福感都來自于自己具體參與或者主宰了某件事情以后所得到的成就感。盡管打游戲會有成就感，但在現實中是虛幻的，也就是說游戲中的成就感沒法替代我們在工作中取得的成就感。那么，人工智能取代人的工作這件事是否必然會發(fā)生？
李開復：每種科技都會取代一些工作，但歷史告訴我們，每一種科技最終也會帶來很多新的工作，但需要一個緩沖期讓這些新的工作產生。就像剛剛有互聯網的時候，我們可能無法預測現在滴滴司機或者美團小哥這樣被互聯網創(chuàng)造出來的工作，但是他們會在一段時間的發(fā)展后衍生出來。
長期來看，AI還是會帶來很多工作，我們可能只知道一些，還不知道全貌，如果給予足夠的時間，這個問題可能會被部分化解。麻煩的是，AI本身是有智慧的，所以它能馬上做我們在做的事情，在還沒有幫助我們創(chuàng)造很多工作的時候，我們的工作已經被取代了。所以AI的工作取代速度和力度也會超過過去的科技，這是我們面臨的一個很大的挑戰(zhàn)。
我們可以考慮的是，到底什么工作不會被取代，一方面是很有創(chuàng)意的，有關分析能力的、跨領域的、跳躍式思維的，這些是年輕朋友應該去努力發(fā)展的方向。
那如果一個50歲的工人這輩子只做過某一種工種，他被AI取代之后，他還有15年工齡，這時候讓他去做科學家、藝術家、CEO是很困難、也不符合常理的，那還有什么工作是可以做的呢？有幾種，一是可以在已有的工種上做AI還達不到的事情，比如現在AI可以搬運，可是AI還沒有手這么靈活，也沒有手眼協調得這么精確；另一種，AI是無法處理陌生環(huán)境的，這種情況下有些工種AI就處理不了，比如水管工，因為水管工要分析理解水管的情況，要大膽地敲破墻壁，AI不見得適合做這樣的事，所以可以找這類的工作。
再有一種，未來服務業(yè)會大大增加，一方面是因為世界上創(chuàng)造了這么多價值和財產，會出現更多的中產或者有錢的家庭，很多事情可以交給機器人做，但有些工作還是需要人來做，比如一個好導游，可以告訴我們去周圍哪里游玩，好的餐廳在哪里，或者未來可能有新的工作產生，也許有大廚可以到家里來做菜，也許每年換季的時候幫我們把衣櫥里的衣服換了。這些都是一些過去不會想要找人來做的事情，但這些都不是AI能做的，因為這需要一定的創(chuàng)意，來家里做菜的大廚至少要知道你的口味，要做前所未有的菜；幫你清理衣櫥的時候要把它弄得香香的，知道你喜歡什么樣的環(huán)境。
此外，人與人之間會有交流，所以我們需要有溫度的工作。比如護士，或是老人院和孤兒院的照護，這類工作是有溫度的，能讓大家心中感到溫暖。這些工作AI一方面不會做，即便會做，至少在未來的三五十年內，人們是不會接受一個機器人來做老人照護的。當然，這些工作在今天可能并不是社會里最受追捧或者收入最高的工作，但隨著供需的改變，我相信這些工作以后會有更大的市場需求，他們的工資也會得到更好的提升，人們也會更愿意做這類工作。
俞敏洪：提到不可被替代的工作，我腦子中想到的是幼兒園老師、小學老師，包括家庭輔導老師，因為他們有溫度，有溫度的事情是不太容易被取代的。我也一直認為孩子的成長必須在父母溫暖的懷抱中，在老師為人師表的引導下，在跟小朋友一起的相處中，才能真正成長為一個健全的孩子。你在書中也反復提到AI在定制化教育中對孩子的陪伴問題，那么在未來，人工智能會在一個孩子的成長過程中帶來什么幫助？
李開復：未來老師的工作可能也會有一些調整，老師的部分工作AI可以做得更好，可以讓老師有更多時間去做AI做不了的事情。如果是一個AI虛擬老師，它可以在孩子的手機、電腦中或者元宇宙里每天陪伴孩子，這是老師做不到的。有了陪伴就有了數據，可以了解每個孩子喜歡什么，用孩子喜歡的方法來輔導幫助孩子，它可以知道每個孩子學到了什么程度，哪些東西沒學好，可以先幫孩子打好基礎。這些事情老師當然也能做，但一個老師教30個學生，不可能按照每一個人合適的方式和速度來教學，老師也不可能保證清楚地知道有沒有某個學生落后了，或者超前了，或者感到枯燥。
但AI可以，AI會知道這個學生乘法還沒學好，要趕快學好，不然接下來要教除法了；或者這個學生喜歡籃球，AI能不能把一部分數學題改成籃球相關的題目給他做；AI老師還可以變容貌，可以是正常的老師，也可以是小朋友們喜歡的卡通人物，也可以是一個機器人，或者動物，而且可以有非常有趣的教學，我們可以把它稱作AI助教，它可以用更長的時間，更深的千人千面的針對性，做到更貼合孩子的興趣和需求，打造專屬的助教補助課程。
隨著AI助教越做越好，老師更多的時間就可以用在孩子的情感接觸上，彼此建立信任，教一些有關情商、創(chuàng)造力、溝通能力、團隊合作的軟知識，或者做需要跟其他小朋友一起做的事，同時也可以為人師表，在孩子的人格、個性、人品的發(fā)展中做更多工作。至于練習加減乘除，或者要學會該怎么用毛筆寫字等等，恐怕AI助教可以教得更好。
c.無人駕駛
俞敏洪：最近幾年，自動駕駛、智能汽車已經成為全世界的熱點，并且很早就開始研發(fā)，包括各個大公司，比如Google、微軟、特斯拉。中國也有大量公司在研發(fā)，比如百度在智能駕駛、智能交通上投入了巨大的精力。未來智能駕駛也一定是個方向，因為人類對技術的追求是無止境的，一旦無止境就會有突破口。
目前為止，自動駕駛中的局部精密計算是沒問題的，比如這次冬奧會就用了大量自動無人駕駛汽車接送運動員，從一個地方到另外一個地方。但真正全天候的，在什么路上都能開的自動駕駛汽車到今天也沒有真正上路，就怕一上路出問題。那么，關于真正的自動駕駛，像我這樣的人年紀大了之后，自己不能開車，也沒錢雇傭司機，就得需要一輛自動駕駛汽車，我說請帶我去黃山，然后我就在車里睡一覺，這個車就自動開到黃山。這種場景大概什么時候會發(fā)生？智能駕駛最重要的突破點在哪里？
李開復：我認為你描述的場景，在先進的國家，比如中國、美國，可能需要10-15年，一些比較落后的國家可能需要20-30年。自動駕駛的發(fā)展路徑和AI的發(fā)展路徑是一樣的，第一，能不能快速產生海量的數據讓它快速進步。但這會產生一個悖論，無人駕駛在路上可能會撞到人，所以我們也不敢太早地推廣它，但不早點把它推出來就沒辦法產生數據，這樣一個怪圈怎么解決？
一種解決方法是先落地一些比較簡單的、有限制的場景，比如先把無人小巴、無人叉車、無人機場接泊、無人機場行李搬運、旅游區(qū)接泊車、礦區(qū)礦車等等先做好，累計數據，有了數據后再做更難的應用，最終希望能夠達到貨車、轎車的水準，先由人接管，之后就不需要人接管了。它一定是一步一步地迭代，隨著迭代，我們能夠提早落地，收集數據，做更難的場景。
我們投資了很多無人駕駛公司，前面提到的每一個應用都是我們投資的公司在做的，這些中國公司相對美國公司來說更務實，更希望能夠盡早落地，收集數據，推進項目。在美國我們會看到Waymo在不斷地精進技術，但不愿意去約束這個技術，他們希望一推出就是比人開得更好的技術，這可能會比較困難，因為數據的累積需要有安全員的車來不斷累積。所以在兩三年內，我們可能會看到很多無人駕駛會在很多有限制的場景中越來越多，價錢也會越來越便宜，然后在5-7年內開始在這些領域達到普及。如果希望汽車能夠完全自己開，而且開得比人好且足夠安全，可能需要在不斷練習，不斷累積數據之后，經過10-15年才能實現。
數據是非常重要的。特斯拉在美國推出了一個功能叫“過來接我”，它不是讓這個車開到任何地方，只是如果這是我的特斯拉，我把它開到了停車場然后去購物，出來之前我就可以下指令到某一個出口來接我，當我走出去的時候車子就已經自己開過來了。一方面我不用走更多路去找它，另一方面有些人停了車也找不到，如果車子可以來找我，這兩個問題就都解決了。
這個功能剛推出的時候一片混亂，因為它的技術做得不夠好，很多人就會在視頻網站上說，你看這個傻車子，開到哪里去了，你看速度這么慢等等。但兩三個禮拜以后，因為收集了一些數據，又重新訓練了一套模型，再來試用這個功能時，大家的留言就變了，“哇，好神奇，我的車居然能夠來接我，像科幻小說一樣”，這就是數據的力量。第一個版本數據不夠所以開得不好，但不足夠好的技術依然可以收集數據，到了第二個版本就可以完全解決這些問題，所以以后的發(fā)展也是跟著這樣的原則走的。
d.軍事應用及智能威脅
俞敏洪：人工智能也會對人類命運產生重大影響，比如現代戰(zhàn)爭中，就有很多人工智能技術。從某種意義上說，未來的戰(zhàn)爭可能都不需要人打仗，而是人工智能之間的戰(zhàn)爭，如果哪個國家人工智能技術不到位，有可能被擁有人工智能武器的其他國家欺負，或者根本占不到優(yōu)勢。這樣下去，其實人類的命運并不一定掌握在人類自己手里，因為人工智能有弱人工智能、強人工智能，強人工智能就能像人類一樣可以思考、分辨等等，那未來會不會出現這樣的情況，人類反而變成了人工智能的奴隸？
李開復：首先講一下人工智能在軍事方面的應用。一個比較重要、也有一定危險性的技術就是自主武器，比如一個無人機能做得足夠小，小到蒼蠅那么小，它能夠靠人臉識別找到一個人，然后射一點毒藥或者炸藥就能殺死這個人。這個技術其實離應用不遠了，但這個技術面臨好幾個挑戰(zhàn)，第一，它是機器在人的指使下去主動地殺人，第二，它可能可以被一個邪惡的國家或者恐怖組織利用，然后有組織性地去殺人。人類能夠控制得住生化武器，核武器雖然用過幾次，但也基本可控，所以我們也應該花點時間去了解AI武器、自主武器，怎樣讓它不對人類造成特別大的傷害，甚至滅絕的可能性，這是其一。
第二個問題是，AI到底有多聰明，會不會把我們當奴隸？我覺得20年之內是不會的，我們看到的AI之所以會越來越聰明，主要還是因為它們是我們的工具，是聽我們使喚的。人類有一個很大的特點，是我們有自我意識，這個自我意識到底是什么，其實并沒有被了解。但只有有了自我意識，人才會想活下去，才會有七情六欲，才會有感情。
我們在很多科幻小說和電影里看到的機器人和AI，跟我們一樣有自我意識的，有欲望，是想要控制別人的，所以才會有《終結者》這樣的電影，但這是怎么產生的，我們現在完全不了解，我們也不了解人的自我意識來自哪里，更不知道怎么賦予AI自我意識。
AI今天是一個工具，20年以后還是一個工具，作為工具，它的特性就是人告訴它做什么，它就做什么，它自己不會因為做得好而高興，也不會因為做得不好而傷心，它不會有什么生存欲望，人把機器關了就關了，也不會希望能控制人類?，F在我們既不懂人類是如何擁有這些能力或者意識這種特性，我們更不懂怎么將其賦予給AI，這被稱為奇點（singularity）或是超級智能（super-intelligence），所以這些在20年之內是看不到的。
那到底要多久才能看到？這其實是一個突破性的科學發(fā)展。未來我們會逐漸了解人的大腦構造，我們的自我意識、感情和創(chuàng)造力來自哪里，了解這些以后，我們又該怎么把它賦予給AI。這里面至少有10個諾貝爾獎，當這10個諾貝爾獎都頒發(fā)了，相應的東西也都被發(fā)明了，那天可能就會來臨。但究竟要多少年，20年、50年，還是100年、1000年，還是永遠不會？這我們沒辦法預測。
所以我這本書之所以寫的是20年以后的技術，是因為到那時，我們能做的事情是相對清楚的，哪怕最難的一個預測，即量子計算，也有80、90%的可能做出來。但是在20年之內做出來奇點（singularity）、超級智能（super-intelligence）的概率應該很低，可能1%都不到，100年之內能否做出來也很難說。
俞敏洪：按照這個說法，霍金和馬斯克他們到底在擔憂什么？他們都是比較強力擔憂人工智能會給人類帶來的負面影響。
李開復：對。他們畢竟不是人工智能專家，他們比較簡化地認為，人工智能今年比五年前強了一千倍，五年前比十年前強了1萬倍，按照這個速度人工智能遲早要超過我們，或者今天AI的算力是人腦的1/10，再推進10年就會超過人了，一超過人就比人厲害多了等等。但這些都是非常簡化的思維，他們沒有考慮到其實很多重大的科學的題目并沒有被解決。
雖然今天我們談的算力、數據都很重要，但算法的突破還是非常核心的，也就是說在深度學習之上，我們可能還需要10個諾貝爾獎、10個圖靈獎才能達到那個地步，他們忽略了這一點，以為算力真的是一切。相信今天人工智能頂級專家中，應該有60、70%以上會同意我的觀點，所以這還是一個相對比較主流的觀點。當然也有少數人認為奇點（singularity）和超級智能（super-intelligence）會在20年之內到來，所以我們也不一定對，只是不同人有不同的觀點，但大部分AI專家認為還是需要比較長的時間。
我們發(fā)現那些最擔心災難發(fā)生的人，可能都是相對比較外行的，包括牛津大學有一位教授寫了一本很有名的書就叫《Super Intelligence》，他的研究有一定的價值，但其實他是一個文科生。從我的角度來說，超級智能（super-intelligence）還很遠，但是有一天可能發(fā)生，到快要發(fā)生的時候，如何做一些研究來盡可能規(guī)避、減少它對人類的毀滅性作用，是我們今天需要去研究的，這幾句話我是同意的。
牛津大學有一個實驗室在專門研究超級智能（super-intelligence）來之前，人類應該做什么事情來降低它對人類的毀滅性的作用，一些大學做這種科研沒什么問題，但如果把它說成必然會來，10年以后會來，20年以后一定會來，這樣的話就不負責任了。
俞敏洪：馬斯克做了腦機接口，這和人工智能應該沒有特別大的關系，他做腦機接口的目的是什么？如果未來人腦的信息能通過腦機接口百分之百地儲存起來，到最后我們肉體消滅了，但我們的腦子還在，是這樣嗎？
李開復：這是一個書中沒有預測的現象，因為今天沒有足夠多的證據證明這件事有80%的概率在20年內發(fā)生。它有可能發(fā)生，但大概率還是很難。
它研究的是在人或動物腦與外部設備間，建立的直接連接通路，以實時翻譯意識，最終做到人類與人類之間、人類與機器之間自由傳輸思想、下載思維。這個理念本身沒有問題，只是里面有太多未被解決的問題，我們大腦里的信號下載出來到底是什么？怎么去理解？下載出的信號怎么能轉譯為語言？怎么轉譯成為知識？這些都是未知的。
很多腦科學專家也認為，這個技術不是一個10-20年之內能真正做到的。當然還有很多醫(yī)學上的問題，比如每次接入大腦的時候都會傷害到腦細胞，就會有一些腦細胞死掉，常常插管的話，可能還沒有增強大腦，大腦就已經死掉了。相對來說，這個領域比奇點（singularity）和超級智能（super-intelligence）更加可觸及，也更值得做科研，但還是不能有比較高的信心來預測它能在20年之內發(fā)生。
06. 尾聲
俞敏洪：謝謝開復，我最后還有三個問題。在《AI未來進行式》的最后兩篇，《幸福島》和《豐饒之夢》中，講述了人工智能可能跟人的幸福的關系，以及通過現代技術的發(fā)展，人工智能實現人類的豐饒之夢，讓大家豐衣足食，人們則去做創(chuàng)造性的工作，各取所需，甚至貨幣都變得不太重要了，因為想要有的東西就能有，世界整體處于一個豐饒的狀態(tài)。坦率地說，我個人認為這是一個烏托邦的思想，我也認為這很難發(fā)生。我想問的是，技術真的能給人類帶來幸福嗎？技術真的能解決人類的貧窮、不公平，以及差距嗎？我在這方面抱不太樂觀的態(tài)度。
李開復：這兩篇故事里客觀的事實是，技術會讓未來所有需要買的東西變得越來越便宜，因為任何一個產品，手機也好，杯子也好，都有三個成本，一是物料材料，二是制造過程和人工，三是能源。這三個成本在未來10-20年內可能會降低10倍左右，所以理論上來說，科技會給我們帶來一個豐衣足食的機會。
AI幫我們做了很多工作后，我們的GDP是一樣的，那人類就可以做更多更高級的事情，可能能創(chuàng)造更多價值，這個看來也是可實現的，但這是不是一定會帶來豐衣足食？因為有些公司可能很自私，還是想賺錢，即使成本下降了10倍，但還是想賣得更貴來賺錢，創(chuàng)造一個虛假的奢侈品，這也是不可控的、可能會發(fā)生的事情。
整個股票市場等都有很多歷史原因，也許我們會覺得當大家都豐衣足食了，也許貨幣就沒有那么重要了。過去貨幣讓我們得到安全，得到溫飽，現在我們有了安全，有了溫飽，我們應該用一些貨幣的概念去追求更重要的事情，比如獲得尊重、給人幫助，或是自我實現。有沒有可能用貨幣作為一個方法來推動改變馬斯洛的金字塔？這可能是一個比較大膽的臆測，未必會那么容易發(fā)生。
如果大家都把自己當作地球人，都理性地去幫助人類做得更好，在這樣的前提下，這些未來的夢是很可能可以被技術推動的。當然，今天我們可以看到，世界并沒有達到那個前提，這可能正是俞敏洪老師所說的烏托邦的部分。如果我們最后達不到這些狀態(tài)，也只能怪自己。
俞敏洪：當下很多人都說，我們現在還不如古代人幸福，當然在我看來古代人并不一定比現代人幸福，因為古代大部分人都是在生死存亡線上掙扎的?，F代人生活的不幸福也是可以看到的，比如現在年輕人不敢生孩子，自己的工資在支付房租、吃飯以后就已經所剩無幾，而且每天差不多是“996”的狀態(tài)，也就是說技術的進步到今天為止并沒有給人帶來更加輕松的狀態(tài)。盡管我們的生命變長了，醫(yī)療條件變好了，吃飯變好了，但其實睡覺變壞了，心態(tài)變壞了，心靈不再寧靜了，而且事實證明現在年輕人得抑郁癥的情況越來越多。面對未來競爭的加劇，所有科技包括人工智能也推動了人類競爭的加劇，這種情況下，作為一個技術專家和人文專家，你對現在的年輕人有什么建議？
李開復：我們看這杯水，如果認為它是半滿的而不去看它是半空的，我們就會覺得人工智能會帶來特別巨大的價值，因為它可以降低所有產品未來的生產成本，創(chuàng)造更好的時間利用，可以取代重復性的、我們不想做的勞動，讓我們做我們擅長的、想做的事。所以如果我們把一杯水當作半滿，作為年輕人首先應該盡快去掌握人工智能作為工具的使用方法，比如做記者的可以學會用AI工具來工作，律師也是一樣。我們要更了解AI能做得很好的事情，不要再在那上面花那么多時間學習，我們更要做的是AI不能做的事，這樣在未來的世界里才有競爭力。未來我們也會有更多時間去做我們愛做的事，這其實還是一個很美好的世界。
在書中的最后幾段提到，如果我們放棄自己，覺得這個社會很糟糕，覺得AI要取代我們的工作，覺得奇點（singularity）和超級智能（super-intelligence）要來臨了，要把我們控制住了，我們肯定就頹廢了。最后無論這些不好的擔憂是否成真，我們未來都完蛋了。如果我們要掌握未來，把握每個機會往前推進自己，看到的一杯水是半滿的，這樣一定會有機會讓人類變得更好。
這些技術最大的阻礙是人們的悲觀，人們的不相信，人們的不合作，人們的貪婪，人們的自私。我們如果能夠在這么好的技術來臨的今天，控制住這些不好的習慣和欲望，變得更積極主動向上，未來一定會是充滿希望的。
俞敏洪：到今天為止，你的一生算是比較有承接的、豐富的一生，經歷了大風大浪，你還生過病，這反而使你更珍惜時間，更珍惜生命，更愿意去奮斗堅持。你會正向地對自己鼓勵，也對其他人鼓勵，而且還在不斷地創(chuàng)作像《AI未來進行式》這樣普及科學技術知識、人工智能知識的書籍，讓人類為未來社會做好準備。
那么，面向這樣一個競爭社會，中國的年輕人如果想過跟你一樣豐富的生活，或者生命體驗，對他們來說最重要的兩到三點應該是什么？
李開復：每一個人都要活出適合自己的未來，而不是去重復別人的方向。但我可以談談幾個我認為比較好的優(yōu)點：
第一，我總是樂觀，選擇相信的力量，相信技術，相信朋友，相信員工，相信人類。
第二，積極主動，看到好的機會、好的事情就應該去做，無論是一個工作、一個技術、一次跳槽，還是創(chuàng)立一個公司、一個學習新科技的機會，我都會非常積極主動地推動自己，不會讓自己纏縛在一個從眾的心態(tài)里面。
第三，永遠充滿好奇心，特別喜歡學習新的事物。從當年選擇計算機作為我的專業(yè)，到創(chuàng)辦微軟亞洲研究院，再到建立創(chuàng)新工場，這些選擇都是好奇心的力量。我建議年輕人們要保持對世界的好奇，有好奇心才有思考，才有探索的欲望，才會產生創(chuàng)新。
俞敏洪：特別感謝開復老師今天和我們暢談AI人工智能，深入淺出講述了人工智能在未來的歲月里對我們每一個人可能帶來的影響。不管我們愿不愿意，我們的未來一定離不開技術對我們的影響。也許，我們要思考的不是如何阻擋技術進入我們的日常，而是技術如何能夠讓人類的生活以及我們自己的生活更加美好！
再次感謝開復，感謝大家的聆聽。今天的直播到此結束，晚安！
（免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。 ）
