｜有關(guān)「殺人機(jī)器人」

文/ 劉興亮 （微信公眾號(hào)：劉興亮?xí)r間）

?

1

前一陣，狂人馬斯克等116名機(jī)器人和AI公司創(chuàng)始人和CEO聯(lián)手簽署了一封給聯(lián)合國(guó)的公開(kāi)信，呼吁禁止使用機(jī)器人武器，也就是傳說(shuō)中的「殺人機(jī)器人」。

驟聞此事，我在朋友圈感慨：「問(wèn)題是，禁止有用嗎？」騰訊總編輯李方先生很快留言評(píng)論：「有用，拉特蘭宗教會(huì)議禁止了基督徒之間用弩，冷戰(zhàn)凍結(jié)核武器，歷史可以看的?！?/p>

余溫未了，馬斯克再次發(fā)推：「所有國(guó)家都會(huì)專(zhuān)注于發(fā)展計(jì)算機(jī)科學(xué)，各國(guó)對(duì)人工智能統(tǒng)治權(quán)的爭(zhēng)奪可能引發(fā)第三次世界大戰(zhàn)?！柜R斯克認(rèn)為，人工智能時(shí)代的戰(zhàn)爭(zhēng)不是由某國(guó)領(lǐng)導(dǎo)人發(fā)起的，這一切都將自動(dòng)化。換言之，人工智能會(huì)自動(dòng)規(guī)劃戰(zhàn)略，找出獲勝幾率最高的戰(zhàn)法。作為著名的反對(duì)人工智能的人士，馬斯克認(rèn)為人工智能可能是人類(lèi)生存的最大威脅。

我有些坐不住了！

難道人類(lèi)作繭自縛的那一天近在咫尺了？倒退十年，不，五年，人們還對(duì)人工智能持懷疑態(tài)度，沒(méi)幾個(gè)人相信一個(gè)連著正負(fù)電極的金屬疙瘩能代替人類(lèi)進(jìn)行復(fù)雜而深度的思考。

據(jù)說(shuō)人類(lèi)大腦是宇宙中最復(fù)雜的構(gòu)造，連上帝都為這萬(wàn)物之靈而贊嘆。從邏輯上推論，既然機(jī)器人是人制造的，那它的可能性就限定在它的制造者那里。任何事物都不可能越過(guò)它的造物主的邊界。

這就好比一個(gè)人無(wú)法設(shè)想，他居然能制造一個(gè)打敗自己的人。假如我制造了一個(gè)能打敗我的人，那就證明我能夠打敗自己，即A?A。從守恒角度說(shuō)，A只能等于A。這是個(gè)悖論。在AlphaGo出現(xiàn)之前，所有圍棋高手都不可能認(rèn)為自己會(huì)輸給一個(gè)或一群不懂圍棋的程序員。然而，他們輸了。人工智能給人類(lèi)上了一課。

2

實(shí)際上，只要看看計(jì)算器的計(jì)算速度——隨意找個(gè)數(shù)字開(kāi)根號(hào)二，人就應(yīng)該意識(shí)到計(jì)算機(jī)具有超出人腦的獨(dú)特優(yōu)勢(shì)。它們冷靜、專(zhuān)注、心無(wú)旁騖，嚴(yán)格且毫無(wú)紕漏地執(zhí)行命令，速度接近于光速，這不是一個(gè)處在「人世間」，內(nèi)心裝著酸甜苦辣的人能夠做到的。

人類(lèi)是情緒的囚徒，機(jī)器人卻是邏輯的神祈。

回顧一下歷史，不難發(fā)現(xiàn)，人類(lèi)自身的學(xué)習(xí)和探索能力可以引起一系列的科學(xué)變革，從而改變整個(gè)世界的文明進(jìn)程。其中又夾雜著許多不可解釋的偶然性。但是，無(wú)論歷史演進(jìn)到何種程度，有一件事確定無(wú)疑，那就是在制造武器這件事上，我們總是傾盡全力。它帶來(lái)的后果往往十分可怕。

試想想，如果不是航海技術(shù)和工業(yè)革命，整個(gè)美洲大陸仍然在印加帝國(guó)、瑪雅文明和阿茲特克文明的緩慢進(jìn)程中。但是幾百個(gè)攜帶著新式武器的冒險(xiǎn)者就將整個(gè)大陸的文明毀滅了。

過(guò)去的科幻電影，常出現(xiàn)令人驚悚的情節(jié)，一些鐵甲巨型機(jī)器人狂奔在人類(lèi)的戰(zhàn)場(chǎng)上，而他們的始作俑者四處躲藏，等待善良的機(jī)器人來(lái)扭轉(zhuǎn)戰(zhàn)局。變形金剛就是最典型的案例。無(wú)論影院的視聽(tīng)效果多么具有科技含量，我們?cè)谙硎芄适虑楣?jié)和宏大場(chǎng)景的時(shí)候，絕不會(huì)為自己的安危擔(dān)心——因?yàn)檫@都是虛構(gòu)的！

3

說(shuō)到這里，我們可以探討一下人工智能在武器上的諸種可能。

首先，毋庸置疑，殺人機(jī)器人一定會(huì)出現(xiàn)，只是時(shí)間問(wèn)題。

從廣義角度來(lái)說(shuō)，殺人機(jī)器人早就出現(xiàn)了，無(wú)人機(jī)就是典型的殺人機(jī)器人。它們雖然受幕后的人類(lèi)操縱，但自己可以跨越時(shí)空?qǐng)?zhí)行軍事任務(wù)，轟炸既定的目標(biāo)，改變?nèi)蝿?wù)的方向，等等不一而足。

再看巡航導(dǎo)彈——尤其是彈道攔截技術(shù)，具有極高的智能特性，可以自動(dòng)調(diào)整自己的行動(dòng)。比之人本身，效率更高?？梢詳喽ǖ氖牵性谶@個(gè)領(lǐng)域具有研究能力的國(guó)家，早已全力以赴地將自己的武器系統(tǒng)往更先進(jìn)的角度在推進(jìn)，只不過(guò)常人不知道而已。

我們?cè)俜祷氐狡讈?lái)說(shuō)。拉特蘭宗教會(huì)議禁止了基督徒之間用弩，但弩并沒(méi)有在完成自己使命之前退出戰(zhàn)爭(zhēng)舞臺(tái)。它只有被更新式的武器替代之后被淘汰這一條路。

冷戰(zhàn)確實(shí)沒(méi)有發(fā)展成蘇美兩個(gè)超級(jí)大國(guó)毀滅地球的核戰(zhàn)爭(zhēng)，但沒(méi)有凍結(jié)核武器。冷戰(zhàn)時(shí)期擁核國(guó)家，蘇美英法中，冷戰(zhàn)結(jié)束后則增加了印度、巴基斯坦、北朝鮮——最近據(jù)說(shuō)剛剛進(jìn)行了一次氫彈爆炸實(shí)驗(yàn)。擁有核技術(shù)的國(guó)家有以色列、伊朗和日本。

從人類(lèi)歷史的不可復(fù)制和偶然性來(lái)看，核武器從來(lái)沒(méi)有未來(lái)也不會(huì)被凍結(jié)。這就預(yù)示著人工智能帶來(lái)的武器革新必然會(huì)走上前臺(tái)，沒(méi)有人能阻止這一趨勢(shì)。

其次，殺人機(jī)器人到底有什么威力？

這件事幾乎不可想象！這就好比一位有血有肉情感豐沛的人，遇到一個(gè)冷酷無(wú)情不怕子彈沒(méi)有痛感的超人，并且這個(gè)超人能精確地識(shí)別你的身份、位置、移動(dòng)路線。你全方位地被對(duì)方「獲取」。

這個(gè)機(jī)器人不僅具有最先進(jìn)的武器，無(wú)論晝夜，嚴(yán)寒或溽熱都無(wú)所感受，可以下水、飛翔，在陸地上急速前進(jìn)。并且最可怕的，它可能像一個(gè)真正的人欺騙你，讓你放松警惕。

總體而言，遇到它你必死無(wú)疑。你覺(jué)得人工智能做不到這點(diǎn)嗎？絕對(duì)可以。模擬和集成的技術(shù)，可以以疊加的方式，讓人類(lèi)的競(jìng)爭(zhēng)力不斷讓位于機(jī)器人。

4

據(jù)說(shuō)關(guān)于禁止殺人機(jī)器人的公約，規(guī)定無(wú)論沖在前線作戰(zhàn)的機(jī)器人多么善于計(jì)算、鎖定、瞄準(zhǔn)和殺人，最后扣動(dòng)扳機(jī)的那個(gè)命令，必須出自人手。

這又讓絕望的我燃起一線生機(jī)，或許人類(lèi)的良知能在最后的時(shí)刻給自己留條后路。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。