人工智能決不能用于殺人！馬斯克與2400多名學(xué)者抗議AI武器

高層速讀

關(guān)鍵信息：本周，在瑞典2018年國(guó)際人工智能聯(lián)合會(huì)上，未來生命研究所所長(zhǎng)、Skype和DeepMind創(chuàng)始人、馬斯克以及來2400多名學(xué)者簽署了預(yù)防AI武器化的禁令，他們警告稱不應(yīng)該把人的生命交給機(jī)器，在各國(guó)將AI武器加入軍備競(jìng)賽之前削減其發(fā)展。

關(guān)鍵數(shù)據(jù)：此次簽署包括90個(gè)國(guó)家160家公司的2400名公司高管、研究人員和學(xué)者，規(guī)模不斷增加。

關(guān)鍵意義：能夠自動(dòng)殺人的AI武器和生化武器一樣令人不安和恐懼，應(yīng)以同樣的方式處理。

本周，在瑞典首都斯德哥爾摩舉行的2018年國(guó)際人工智能聯(lián)合會(huì)議（IACJI）上，SpaceX和特斯拉的CEO埃隆·馬斯克、Skype創(chuàng)始人賈安·塔林、谷歌旗下DeepMind的三名創(chuàng)始人、以及未來生命研究所所長(zhǎng)馬克斯·特格馬克在內(nèi)的知名人工智能思想領(lǐng)袖，都對(duì)AI自動(dòng)武器提出了抗議。

他們與來自90個(gè)國(guó)家的2,400名公司高管、研究人員和學(xué)者簽署了一封公開信，承諾不會(huì)“參與或支持AI自動(dòng)化武器的開發(fā)、制造、貿(mào)易或使用”，他們警告稱，不應(yīng)該把人的生命交給機(jī)器。

他們寫道：“數(shù)千名人工智能研究人員一致認(rèn)為，這些武器可能會(huì)對(duì)每個(gè)國(guó)家和個(gè)人造成危險(xiǎn)的破壞，尤其是在與監(jiān)視和數(shù)據(jù)有關(guān)的情況下，自動(dòng)化AI武器可能成為暴力和壓迫的工具。”

這90個(gè)國(guó)家的學(xué)者還呼吁各國(guó)政府先發(fā)制人，禁止AI武器研發(fā)及進(jìn)入軍備競(jìng)賽。特格馬克（Tegmark）在一份聲明中說：“很高興看到人工智能的領(lǐng)導(dǎo)者們從語言轉(zhuǎn)向行動(dòng)，實(shí)施了一項(xiàng)政客們迄今都未能實(shí)施的政策。人工智能有巨大的潛力改變世界，但我們需要對(duì)它們的濫用進(jìn)行預(yù)防。能夠自動(dòng)殺人的AI武器和生化武器一樣令人不安和恐懼，應(yīng)該以同樣的方式處理?！?/p>

活動(dòng)發(fā)起人、未來生命研究所所長(zhǎng)Tegmark

以下廣大學(xué)者和公眾是為禁止AI武器化所爭(zhēng)取的最新努力成果：

• 2018年4月，一群來自人工智能和機(jī)器人技術(shù)影響中心的研究人員和工程師發(fā)表了一封公開信，呼吁抵制韓國(guó)先進(jìn)科學(xué)技術(shù)研究所（KAIST），指責(zé)該研究所與國(guó)防承包商韓華關(guān)于軍事系統(tǒng)的合作。

• 2017年11月，超過300名加拿大和澳大利亞的科學(xué)家給總理賈斯廷特魯多和Malcom Turnbell寫信，敦促禁止使用自動(dòng)化武器。

• 2015年，馬斯克、霍金和數(shù)百名科技領(lǐng)袖簽署了未來生命研究所的論文，支持立法管理自動(dòng)化AI武器。

但到目前為止，他們的請(qǐng)求被置若罔聞。

• 在過去的一年里，印度、智利、以色列和俄羅斯等國(guó)一直在追求自動(dòng)化的坦克、飛機(jī)、偵察機(jī)器人、艦載導(dǎo)彈系統(tǒng)和武器化的無人機(jī)。

• 在美國(guó)，包括國(guó)防部和國(guó)土安全部在內(nèi)的聯(lián)邦機(jī)構(gòu)都在尋求用機(jī)器學(xué)習(xí)來實(shí)現(xiàn)現(xiàn)代化的計(jì)劃。

但在員工和公眾的壓力下，谷歌在今年6月發(fā)布了一套指導(dǎo)性的人工智能原則，并取消了備受爭(zhēng)議的與五角大樓的“Maven”無人機(jī)合同；與此同時(shí)，微軟停止了與移民和海關(guān)執(zhí)法部門的合作，并成立了Aether內(nèi)部顧問小組，來批判性地審視公司對(duì)人工智能的使用；在前幾天的一篇文章中，微軟總裁史密斯呼吁國(guó)會(huì)立法，規(guī)范面部識(shí)別在美國(guó)的使用問題。

但還有很多工作要做。

最近一份由美國(guó)國(guó)家情報(bào)總監(jiān)辦公室委托撰寫的關(guān)于人工智能和戰(zhàn)爭(zhēng)的報(bào)告得出結(jié)論說，由于人工智能有可能大規(guī)模擴(kuò)大軍事力量，各國(guó)幾乎會(huì)不可避免地會(huì)建立自動(dòng)化AI武器系統(tǒng)，以增強(qiáng)軍備競(jìng)賽。

這就是為什么馬斯克等人說，在為時(shí)過晚之前通過監(jiān)管來削減這些武器是至關(guān)重要的。

去年，馬斯克與來自26個(gè)國(guó)家的116名機(jī)器學(xué)習(xí)專家埃寫道：“一旦發(fā)展起來，致命的AI武器將允許武裝沖突將以前所未有的規(guī)模進(jìn)行，比人類所能想象到的還要快。”

“這些武器可能是恐怖主義的武器，可能是獨(dú)裁者和恐怖分子用來對(duì)付無辜民眾的武器，還有可能被黑客攻擊（系統(tǒng)），以不受公眾歡迎的方式行事?！?/p>

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。