研究人員、企業(yè)家和科技巨頭正將人工智能（AI）帶往新的前沿，并影響著健康、教育和商業(yè)的日常活動。但是，正如扣人心弦的新書《生命3.0》所描述的，關(guān)于機(jī)器智能的崛起以及它如何重新定義人類，還有更大的、甚至是哲學(xué)上的問題。
機(jī)器、軟件和網(wǎng)絡(luò)對智慧、意識和人類觀念的形成意味著什么？今天的規(guī)則和道德準(zhǔn)則將如何塑造明天的文明？《生命3.0》這本書由Max Tegmark所著，以對話和發(fā)人深省的文風(fēng)探討了人工智能時代的人類處境，為我們這個時代最重要的對話提供了真知灼見。
書的容量有365頁，包含8個章節(jié)。被引用的書籍包括超級智能（Nick Bostrom），奇點臨近（Ray Kurzweil）。這本書伴有一個在AgeOfAi平臺進(jìn)行的在線互動調(diào)查。
作者M(jìn)ax Tegmark是麻省理工學(xué)院的物理學(xué)教授，他已撰寫了200多篇關(guān)于從宇宙學(xué)到人工智能主題的技術(shù)論文。作為未來生命研究所的主席，他與Elon Musk合作，啟動了首個人工智能安全研究獎助金計劃。被戲稱為“瘋狂的麥克斯”,他的早期作品是《我們的數(shù)學(xué)宇宙》。
進(jìn)化與智慧
Tegmark定義了生命的三個進(jìn)化階段：生命1.0（生物階段），生命形式的硬件和軟件進(jìn)行自然進(jìn)化;生命2.0（文化階段），硬件進(jìn)化，而生命形式設(shè)計大部分的軟件;生命3.0（技術(shù)階段），生命形式設(shè)計自身硬件和軟件。
盡管人類DNA的信息在過去5萬年里并沒有發(fā)生顯著的變化，但人類（生命2.0）已經(jīng)從基因的束縛中解放出來，并在人腦、書籍、計算機(jī)和網(wǎng)絡(luò)的信息儲存量中有顯著增長。下一個升級（生命3.0）將能夠設(shè)計我們的硬件:DNA、神經(jīng)連接、協(xié)同矩陣等。《生活3.0》將由人工智能驅(qū)動，并將在未來一個世紀(jì)到來，甚至是在我們的有生之年。
Tegmark通過定義一系列術(shù)語來確定這個階段：智力（完成復(fù)雜目標(biāo)的能力）、機(jī)器學(xué)習(xí)（通過經(jīng)驗改進(jìn)算法的研究和使用）、人工智能（至少和人類一樣能完成任何認(rèn)知任務(wù)）、超級智能（遠(yuǎn)遠(yuǎn)超出人類水平的智力）、有益人工智能（強(qiáng)大并受人工智能安全研究準(zhǔn)則的指導(dǎo)）、意識（主觀經(jīng)驗）、意識（主觀經(jīng)驗）和奇點（智能爆炸）。
記憶力、計算能力、學(xué)習(xí)能力和智力都已獨立，它們不依賴于或反映底層的物質(zhì)基矗“智能不需要肉、血或碳原子，”Tegmark解釋說。人類文明是通過語言、工具和復(fù)雜的相互關(guān)系進(jìn)化而來的，而下一個可實現(xiàn)的發(fā)明很有可能是人工智能。對人類而言，大多數(shù)“軟件”學(xué)習(xí)是通過突觸生長的方式——但是智能機(jī)器可以采用不同的路徑，因為它們不必不斷地重新創(chuàng)造，機(jī)器可以比人類更快地改進(jìn)機(jī)器。人類的DNA存儲了1.6千兆字節(jié)的信息，相當(dāng)于一個下載的電影（有些細(xì)菌儲存了40千字節(jié)）。人類大腦的1000億個神經(jīng)元儲存著大量信息。大腦中的信息是通過聯(lián)想而不是地址來回憶的。
魯棒性、法律、戰(zhàn)爭和就業(yè)
語音識別、翻譯、機(jī)器人和游戲都是人工智能的一些顯著應(yīng)用，但其他影響還包括金融市嘗機(jī)器人輔助制造、智能電網(wǎng)、外科手術(shù)和自動駕駛汽車。
通過更好的驗證、確認(rèn)、安全和控制，人工智能可以幫助減少人為錯誤，增強(qiáng)系統(tǒng)的健壯性。
在行為心理學(xué)的啟發(fā)下，深度強(qiáng)化學(xué)習(xí)為DeepMind和OpenAI的突破提供了動力。DeepMind的AlphaGo在沒有輸?shù)粢粓霰荣惖那闆r下，已經(jīng)在世界上20個頂級圍棋比賽中成為冠軍。在游戲中深度學(xué)習(xí)有時被認(rèn)為是創(chuàng)造直覺（決定某事而不解釋原因）和創(chuàng)造力（不尋常的且成功的進(jìn)步）。
Tegmark表示:“卓有成效的人機(jī)協(xié)作確實在許多領(lǐng)域看起來很有希望。”該研究的下一個前沿領(lǐng)域包括將深度遞歸神經(jīng)網(wǎng)絡(luò)與語義世界模型結(jié)合在一起。他補(bǔ)充道：“人們越來越難以辯稱，人工智能完全缺乏目標(biāo)、廣度、直覺、創(chuàng)造力或語言。”
眾所周知，人工智能的黑暗面在于自主武器橫行。一款由人工智能驅(qū)動的殺手無人機(jī)，其價格僅相當(dāng)于一部智能手機(jī)。因此，許多人工智能研究人員和機(jī)器人專家呼吁禁止某些類型的自主武器，并阻止“全球人工智能軍備競賽”。
“如果我們能弄清楚如何讓機(jī)器人裁判變得透明和公正，人工智能可以讓我們的法律系統(tǒng)更公平、更高效。”泰格馬克解釋道。法律體系中典型的人為錯誤是由偏見、疲勞或最新知識匱乏造成的。需要設(shè)計機(jī)器人的法律分類、責(zé)任和權(quán)利。在一場涉及無人駕駛汽車的事故中，誰應(yīng)該承擔(dān)責(zé)任：居住者、所有者、制造商還是汽車本身？
Tegmark認(rèn)為，毫無疑問，人工智能主導(dǎo)的時代將會改變就業(yè)，最好的職業(yè)將是那些涉及人、不可預(yù)測性和創(chuàng)造力的職業(yè)。不幸的是，研究表明，科技對教育程度更高、科技公司的所有者和少數(shù)“超級明星”有利。
政府應(yīng)該制定促進(jìn)研究、教育和企業(yè)家精神的政策，確?；臼杖胨?，同時賦予人們一種工作與生活的使命感。
在人工智能研究人員、科技巨頭和創(chuàng)業(yè)者的參與下，“生命研究學(xué)院”的未來將在這方面成為“人工智能安全”的主流。它支持諸如與政策制定者對話、尊重隱私、共享利益、共同利益和人類控制等原則。這樣做的目的是為了在人工智能完全起飛之前改善人類社會，在技術(shù)使其過時之前實現(xiàn)現(xiàn)代化，并讓年輕人在將權(quán)力交給他們之前，讓他們了解如何創(chuàng)造出強(qiáng)大的技術(shù)。
目標(biāo)
人類的目標(biāo)和動機(jī)有著復(fù)雜的相互作用，比如生存、資源獲娶好奇心和同情心。有些人已經(jīng)放棄了早期的生物目標(biāo)，比如復(fù)制。智能行為與目標(biāo)實現(xiàn)相關(guān)聯(lián)，早期的人工智能計劃圍繞著編程機(jī)器來實現(xiàn)人類目標(biāo)。目標(biāo)設(shè)計涉及到子目標(biāo)、倫理、學(xué)習(xí)和強(qiáng)化等問題。
但隨著人工智能變得越來越復(fù)雜，我們需要問人工智能是否應(yīng)該保留我們已經(jīng)給出的目標(biāo)。我們是否應(yīng)該讓AI更廣泛、更廣泛的目標(biāo)？這是誰的目標(biāo)？我們能改變AI的目標(biāo)嗎？“意義”的含義是什么？人類在科學(xué)、宗教和哲學(xué)方面的目標(biāo)是什么？有朝一日，人類的目標(biāo)會像螞蟻的目標(biāo)一樣令人沮喪嗎？
意識
Tegmark提出了一種對意識實體的定義，即那些可以自由思考、記憶、計算、學(xué)習(xí)、經(jīng)驗、交流和行動的人，無關(guān)傷害他人。作者強(qiáng)調(diào)，隨著人工智能變得越來越復(fù)雜，我們也需要認(rèn)識到，我們對意識意義的哲學(xué)探索現(xiàn)在有一個緊迫的截止日期。
一些棘手的問題產(chǎn)生，比如理解無意識行為是如何影響意識活動的？意識和無意識系統(tǒng)之間的物理屬性區(qū)別是什么？以及為什么事物是有意識的？自動駕駛汽車經(jīng)歷著什么？人工智能有自由意志嗎？人工智能會受到影響嗎？AI應(yīng)該有權(quán)利嗎？
人類意識研究反映了大腦理論、物理學(xué)和信息科學(xué)等領(lǐng)域的融合。“如果人工智能是可能的，那么與人類的經(jīng)驗相比，人工智能體驗的空間可能是巨大的，”Tegmark解釋道。人工智能可能會挑戰(zhàn)人類中心主義的理念（認(rèn)為人類是地球上最聰明的物種，因此是獨一無二和優(yōu)越的）。
人工智能起飛：智力爆炸？
生命進(jìn)化的原則包括協(xié)作、競爭和控制，這些都被技術(shù)放大了。如果我們有一天創(chuàng)造出人類水平的AGI（artificial general intelligence），那么它會以多快的速度制造出一場智力爆炸呢？我們能控制這個嗎？如果不是，那我們要花多長時間才能控制我們的世界？在這樣一個世界里，我們?nèi)祟愂窃跇O權(quán)主義的環(huán)境中還是在一個被授權(quán)的舞臺上？
“人工智能突破”章節(jié)以科幻小說的形式講述了這樣的問題。被不那么聰明的人類奴役，AI會不會感到不高興？人類應(yīng)該在人工智能系統(tǒng)中創(chuàng)造什么目標(biāo)來防止兵變？人工智能能對系統(tǒng)進(jìn)行主導(dǎo)，并破解它嗎？我們會生活在兩極世界（人類和人工智能）嗎？
我們什么時候才能到達(dá)這條岔路口——當(dāng)我們這么做的時候，我們能對人工智能施加多大的控制，人工智能又能控制多少呢？根據(jù)Tegmark的說法，真正的答案不是會發(fā)生什么，或者應(yīng)該會發(fā)生什么？而是我們想要什么樣的未來？
人工智能：未來1萬年
這本書的下一章“超級智能”更加令人難以置信，它講述了未來1萬年的生活。我們想要被人接受嗎？我們想讓人工智能保持清醒嗎？我們想要創(chuàng)造什么樣的生活形式？我們想要在整個宇宙中傳播什么文明？
在這方面，Tegmark描述了許多場景，比如：保護(hù)神（無所不知和無所不在的人工智能，最大化人類的幸福），動物園管理員（人類在人工智能動物園），被奴役的神（被囚禁的AI），征服者（AI擺脫人類）和自由意志的烏托邦（人類和人工智能共存）。每一種情況都要根據(jù)可行性、優(yōu)點和缺點進(jìn)行評估。
機(jī)器會感激人類創(chuàng)造它們嗎？人工智能會尊重人類嗎？人類是否應(yīng)該尊重那些將生活和機(jī)器世界的精華融入其中的半機(jī)器人？人類能被上傳、下載和克隆嗎？人工智能會比人類擁有更高級的情感嗎？在這些問題上沒有達(dá)成共識（許多人甚至沒有意識到這些問題），因此，Tegmark需要深入討論關(guān)于AGI和人類的話題。
宇宙：未來10億年及以后的世界
在大宇宙的這一章里，事情變得更加難以置信，尤其是在地球生命結(jié)束后（由于各種原因，包括太陽的擴(kuò)張和地球上所有生命形式的沸騰）。這一章借鑒了宇宙學(xué)家Freeman Dyson的研究成果，建立在諸如暗能量、蟲洞、Chandrasekhar極限和斯蒂芬霍金的黑洞動力裝置等概念上。
“即使我們以光速行進(jìn)，所有超過170億光年的星系永遠(yuǎn)都是遙不可及的——這些是我們宇宙中超過98%的星系，”Tegmark解釋說。
因為在這樣一個浩瀚的宇宙中，通信速度很慢，所以“宇宙人工智能”需要在速度和復(fù)雜性之間找到平衡，并建立一個計算網(wǎng)絡(luò)的層級結(jié)構(gòu)。這樣的超級智能將需要為不同層次的合作和控制進(jìn)化出一種治理模式，甚至創(chuàng)造出新型的物質(zhì)。如果“我們的”超級智能遇上另一種生命形式，會不會有武器或思想的沖突？
“如果沒有科技，在未來數(shù)百億年的宇宙中人類將會滅絕，這將使我們宇宙中所有生命的上演都只是短暫的轉(zhuǎn)瞬即逝的美的閃現(xiàn)，使得熱情和意義在近乎永恒的無意義中，不再有人體驗，”Tegmark說。
“如果我們繼續(xù)改進(jìn)我們的技術(shù)，以足夠的關(guān)愛、遠(yuǎn)見和計劃來避免陷阱，那么生命就有可能在地球上蓬勃發(fā)展。甚至在我們祖先最瘋狂的夢想之外，在數(shù)十億年的時間里蓬勃發(fā)展，”Tegmark寫到。（選自：yourstory編譯：媒體見外智能編譯平臺 審校：nariiy）
關(guān)注媒體智能公眾號（smartman163），獲取人工智能行業(yè)最新報告。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
