無人駕駛的問題：核心代碼將由誰來控制？

許多汽車商都在開發(fā)無人駕駛汽車，在不久的未來，無人駕駛汽車必將進(jìn)入我們的生活。在一些人興奮地期待之時(shí)，另一些人卻表示擔(dān)憂。難道我們真的愿意將自己的生命交給幾行代碼嗎？這些代碼到底由誰來控制？英國《衛(wèi)報(bào)》最近刊文對(duì)此問題進(jìn)行探討，下面是文章節(jié)選：

繞不開的有軌電子難題

1967年時(shí)，哲學(xué)家菲利帕。福特（Philippa Foot）曾提出一個(gè)關(guān)于有軌電子的倫理學(xué)難題：

一個(gè)瘋子將5個(gè)無辜的人綁在軌道上。一輛失控的電車迎面開來，即將碾過這5個(gè)人，幸好可以拉下火車的控制桿，將它轉(zhuǎn)向另一個(gè)方向。問題在于，在另一條軌道上也有1個(gè)無辜的人。拉下控制桿的確可以救下5個(gè)人，但會(huì)犧牲另外那1個(gè)人。你應(yīng)該怎么做才符合倫理？

這個(gè)難題后來還演化出許多版本，比如讓你選擇撞死5無辜的人，或者將一個(gè)胖子推下去阻止電車前進(jìn)；又比如這個(gè)胖子剛好就是將5個(gè)無辜者綁在電軌上的人，等等。

同樣的，我們可以將類似的爭(zhēng)論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括：你的無人駕駛汽車即將與一輛巴士相撞，車上全是學(xué)生，車子意識(shí)到要么犧牲你去挽救一車的學(xué)生，要么救你而放棄那些學(xué)生，在設(shè)計(jì)程序時(shí)我們應(yīng)該怎么選擇呢？

借鑒iPhone模式能保證無人駕駛汽車安全嗎？

我們可以換一個(gè)方式來看待這個(gè)問題：如果你想設(shè)計(jì)一輛汽車，讓它在特定環(huán)境下故意謀殺司機(jī)，你如何保證司機(jī)不會(huì)修改程序讓他的汽車無法故意謀殺人？

其實(shí)我們已經(jīng)有了一個(gè)明顯的答案，那就是借鑒iPhone模式。我們可以設(shè)計(jì)一輛汽車，只允許它安裝運(yùn)輸部（或者制造商）提供的軟件，然后制定嚴(yán)格的法規(guī)，誰修改軟件就處以重罪。這就是目前iPhone王國推行的法規(guī)，游戲主機(jī)和許多其它設(shè)備也都這樣做，它們紛紛配上數(shù)字鎖，即內(nèi)部人說的“DRM”（數(shù)字版權(quán)管理）?！稊?shù)字千年版權(quán)法案》（Digital Millennium Copyright Act）等法律禁止人們移除數(shù)字鎖，防止受版權(quán)保護(hù)的著作被盜版，如果誰膽敢發(fā)布信息幫助他人解除數(shù)字鎖，同樣也逃不過法律的制裁。

自動(dòng)駕駛汽車程序必須對(duì)公路上高速移動(dòng)的目標(biāo)負(fù)責(zé)，尤其是那些脆弱的人類，這似乎是理所當(dāng)然的，但它會(huì)帶來一個(gè)很大的問題：在現(xiàn)實(shí)中根本行不通。

每個(gè)被鎖定的設(shè)備都可以輕易“越獄”.早期的數(shù)字鎖法規(guī)之所以制定，最主要目的并不是為了阻止人們重新配置設(shè)備，而是確保沒有企業(yè)和設(shè)備幫助他們破解。給手機(jī)解鎖并不是什么難事，你可以從網(wǎng)上輕易下載軟件解鎖手機(jī)，也可以讓非法破解手機(jī)的企業(yè)幫你代勞。

沒有制造商的允許無人可以重置自動(dòng)駕駛汽車，如果說這就是確保無人駕駛汽車安全的前提條件，那么無人駕駛汽車將永遠(yuǎn)不會(huì)安全，因?yàn)榭倳?huì)有人能破解軟件的。

不要忘了是軟件就有漏洞！

即使我們可以鎖定汽車的設(shè)置，它也同樣不安全。數(shù)字鎖會(huì)在電腦程序中占據(jù)一個(gè)特定區(qū)域，就連電腦所有者也無法進(jìn)入。要讓數(shù)字鎖管用，它的相關(guān)文件必須連所有者都看不到。當(dāng)我們命令操作系統(tǒng)列出數(shù)字鎖所在目錄的文件時(shí)，系統(tǒng)要掩蓋或者忽略數(shù)字鎖文件，以防止用戶刪除或者替換它。當(dāng)我們命令操作系統(tǒng)列出所有運(yùn)程程序的列表時(shí)，數(shù)字鎖程序也應(yīng)該被忽略，以防止用戶終止程序。

不要忘了，所有的電腦都有漏洞。就算是那些使用多年的軟件，它的源代碼已經(jīng)被無數(shù)程序員檢查過，也存在微小的漏洞。汽車體格龐大，行駛速度快，它的破壞力很大，可以殺死司機(jī)及周圍的人。如果軟件不夠安全，攻擊者就可以劫持剎車、加速器或轉(zhuǎn)向裝置，最終導(dǎo)致悲劇發(fā)生。相反，如果我們?cè)O(shè)計(jì)出用戶無法修改的無人駕駛汽車，將汽車使用者修改程序視為自私（比如在碰到有軌電車難題時(shí)只求自保）的行為，情況會(huì)更糟糕。

無論無人駕駛汽車有什么問題，當(dāng)它將自己的乘客當(dāng)成敵人時(shí)，問題會(huì)變得更嚴(yán)重。

執(zhí)法者留下的漏洞被恐怖分子利用

在連網(wǎng)設(shè)備的世界里已經(jīng)出現(xiàn)“合法攔截”,設(shè)備常常留下一些后門供警察監(jiān)管，這些后門又往往成為安全威脅的根源。盡管如此，執(zhí)法者仍然希望留下更多的后門。以后的自駕汽車也會(huì)留下后門，警察可以向你的車發(fā)信號(hào)，強(qiáng)迫它停在路邊。漏洞會(huì)帶來更多問題，騙子和殺人犯可以在車中內(nèi)置相似功能，乘客將成為他們的“禮物”,恐怖分子也可以利用這種功能進(jìn)行攻擊。

問題還不只這些。城市規(guī)劃者之所以關(guān)注自動(dòng)駕駛汽車，主要是因?yàn)樗锌赡芙档吐飞系钠嚁?shù)量，將私家車轉(zhuǎn)為公用分享的車，被Uber等企業(yè)控制。我們可以乘車，但車不是我們自己的，我們無法修改，上面談的問題會(huì)變得更復(fù)雜。Uber等企業(yè)會(huì)指定第三方來修改。它們也可能會(huì)允許用戶作出一些修改，比如增加用戶控制的緊急剎車功能，它可能會(huì)委托給保險(xiǎn)商管理，不用想也知道，保險(xiǎn)商肯定不希望這樣的功能出現(xiàn)。

讓我們忘了電車吧，最終無人駕駛汽車會(huì)改變勞工關(guān)系，增加監(jiān)聽能力，重新分配財(cái)富！

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。