劉興亮 ｜人工智能的黑匣子：生活在不通人情的世界中

01

記得小時(shí)候看過(guò)一個(gè)笑話，一個(gè)代表團(tuán)蒞臨某地，當(dāng)?shù)亟M織開(kāi)歡迎會(huì)，領(lǐng)導(dǎo)念發(fā)言稿：歡迎某某代表團(tuán)長(zhǎng)途跋涉來(lái)到我市。結(jié)果念成了「歡迎某某代表團(tuán)長(zhǎng)‘途跋涉’來(lái)到我市?！怪粴g迎了團(tuán)長(zhǎng)，團(tuán)長(zhǎng)名叫途跋涉。

我覺(jué)得這位念發(fā)言稿的領(lǐng)導(dǎo)很像人工智能，在對(duì)數(shù)據(jù)進(jìn)行分析時(shí)做出了變量之間不恰當(dāng)?shù)年P(guān)聯(lián)。

02

人類(lèi)生活在一個(gè)可感知的世界里，用「規(guī)定性」的動(dòng)作為這個(gè)無(wú)邊無(wú)際的混沌世界劃分經(jīng)緯，給自身一個(gè)相對(duì)確定的觀察位置后，尋求主客體之間的相互關(guān)系。這種關(guān)系意味著一套建立在數(shù)學(xué)、物理等方法上的觀察模式，以及改善這種模式的心理學(xué)探索。

人首先生活在更真實(shí)、更自然的物理世界中，同時(shí)又生活在對(duì)這個(gè)世界的抽象中，后者是扭曲、變形、充滿人為因素的。

人工智能將要引發(fā)的那個(gè)更高階的世界脫離不開(kāi)上述邏輯關(guān)系，只不過(guò)它的「人為因素」更深、更復(fù)雜、更高效。

人們擔(dān)憂人工智能比過(guò)去的科技產(chǎn)品更具有「黑匣子」的效應(yīng)，因而讓范圍廣闊的受眾生活在被操作的危險(xiǎn)中。

深度學(xué)習(xí)建模通常通過(guò)黑箱開(kāi)發(fā)進(jìn)行：算法將數(shù)量巨大的數(shù)據(jù)點(diǎn)作為輸入，并將特定數(shù)據(jù)特征關(guān)聯(lián)起來(lái)進(jìn)行分析以產(chǎn)生輸出。這一過(guò)程的背后不是一個(gè)或數(shù)個(gè)程序員，而是AI自我指導(dǎo)的。它在簡(jiǎn)化復(fù)雜流程、增強(qiáng)決策模式和發(fā)現(xiàn)有價(jià)值見(jiàn)解方面的潛力毋庸置疑。

但這同時(shí)讓人想起黑箱模型：模型的輸入和操作對(duì)用戶或其他相關(guān)方是不可見(jiàn)的。其實(shí)多數(shù)人生活在無(wú)數(shù)黑箱外邊，身邊的電腦、電視、乃至一塊手表的運(yùn)行，他們都不可能了解背后的秘密。

03

人工智能對(duì)人類(lèi)來(lái)說(shuō)是黑匣子的原因在于，它依賴于機(jī)器學(xué)習(xí)算法，這些算法以人類(lèi)不易審計(jì)或理解的方式內(nèi)化數(shù)據(jù)，它缺乏可視化并容易被理解的透明度。

我們知道人工智能已經(jīng)為人類(lèi)看病開(kāi)了先河，假如未來(lái)進(jìn)入醫(yī)院選擇科室看病，面對(duì)的不是一位真正的大夫，而是一臺(tái)電腦，輸入一堆數(shù)據(jù)后面對(duì)它給出的「診斷和處方」，患者敢于接受嗎？它會(huì)不會(huì)算錯(cuò)？出了醫(yī)療事故連個(gè)訴訟對(duì)象都沒(méi)有。

我想讓它給我解釋一下：它怎么決策，為什么決策和決策了什么。

我不想一頭霧水毫無(wú)芥蒂地接受與自身關(guān)系重大又來(lái)歷不明的任何東西。何況我病了，身上每個(gè)部位都不舒服，被強(qiáng)烈的不安全感籠罩著。

人工智能是否可以保證它的道德有效性和整體公平性？我們可以容忍機(jī)器沒(méi)有理由地給我們錯(cuò)誤推薦了一部毫不喜歡的影視劇，但是把炒股、投資、尋求人生伴侶、生產(chǎn)決策或者醫(yī)療建議乃至于臨終關(guān)懷方案交由機(jī)器決定的時(shí)候，人當(dāng)然希望可以得到充分的解釋說(shuō)明，以便我們有足夠的信心按照它的指示去執(zhí)行。

04

你可能會(huì)說(shuō)，科學(xué)只講求效率、正確的方向和可參考的意見(jiàn)，它既不愛(ài)人類(lèi)，也不恨人類(lèi)，給出的答案是基于數(shù)據(jù)和算法的客觀結(jié)果，并不存在需要被衡量的道德因素。

事實(shí)上，就跟所有普通人一樣，人工智能背后的科學(xué)家和工程師們的許多決定是基于判斷和經(jīng)驗(yàn)做出的，這些都是他們自己 「深度學(xué)習(xí)」 的結(jié)果。

道理我都懂，可就是感覺(jué)這樣的世界非常可怕。仿佛內(nèi)心深處的什么東西被觸動(dòng)了。它太不通人情了，讓人感覺(jué)涼颼颼的。

05

有人說(shuō)，人工智能就兩大特征：黑匣子和不確定性。

它的缺點(diǎn)讓人如此害怕以至于人們忘記了它的任何優(yōu)點(diǎn)。黑匣子問(wèn)題對(duì)使用者和監(jiān)管者都帶來(lái)了很大挑戰(zhàn)。

人工智能流程的不透明性會(huì)使監(jiān)管機(jī)構(gòu)難以評(píng)估這些系統(tǒng)是否符合現(xiàn)有規(guī)則和準(zhǔn)則。缺乏透明度會(huì)使監(jiān)管者開(kāi)發(fā)新框架以應(yīng)對(duì)人工智能應(yīng)用帶來(lái)的風(fēng)險(xiǎn)和挑戰(zhàn)的能力復(fù)雜化，無(wú)法見(jiàn)招拆招，仿佛對(duì)面是一位無(wú)形的隱身對(duì)手。

這樣的話，也難以評(píng)估人工智能系統(tǒng)的公平性、偏見(jiàn)和數(shù)據(jù)隱私做法，以及它們對(duì)消費(fèi)者權(quán)利和市場(chǎng)穩(wěn)定性的潛在影響。等等。

06

然而，AI的好處也顯而易見(jiàn)。

盡管其思維過(guò)程受到數(shù)據(jù)限制，甚至存在算法固有的偏見(jiàn)，也可能引發(fā)錯(cuò)誤，但AI由于其算法和對(duì)海量數(shù)據(jù)的分析能力，可能揭示新的聯(lián)系和方法。

這一方法可以為科學(xué)、技術(shù)、工程和數(shù)學(xué)的進(jìn)步做出實(shí)質(zhì)性、富有成效的貢獻(xiàn)，提供意見(jiàn)，優(yōu)化結(jié)果，更重要的是能夠激發(fā)人類(lèi)的靈感。

AI擅長(zhǎng)于歸納性推理，迅速找出事物幕后蘊(yùn)藏的規(guī)律性。對(duì)于沒(méi)有經(jīng)歷過(guò)的未知事物通常是無(wú)法理解和判斷的。人工智能更不可能擁有關(guān)于未來(lái)可變事物的數(shù)據(jù)，對(duì)中長(zhǎng)期的事物變遷的預(yù)測(cè)能力卻相當(dāng)孱弱。

這些未知的、未來(lái)變遷的不確定的部分，是AI不擅長(zhǎng)的。我們不能全無(wú)防備地依賴人工智能的黑匣子來(lái)尋找生活、工作、技術(shù)上的因果關(guān)系。

黑匣子不會(huì)告訴任何人一株植物如何長(zhǎng)得歪歪扭扭，一條道路何以從花壇上被踩出。它不會(huì)造出永動(dòng)機(jī)，發(fā)現(xiàn)永生的秘密。但是它可以輔助人類(lèi)研究這個(gè)可規(guī)定的，在一定范圍內(nèi)能夠被抽象和解釋的世界。

只不過(guò)，在建立AI模型的時(shí)候，應(yīng)該考慮融合提高透明度、可解釋性和問(wèn)責(zé)制的方法，制作可解釋的開(kāi)源模型。

?07

AI仍然是人類(lèi)解決自身面臨問(wèn)題的一套工具。它不是萬(wàn)能的，有利也有弊。

如果人工智能發(fā)展到相對(duì)完美的那一步，電腦把一切都算得準(zhǔn)確無(wú)疑，毫無(wú)出入，在面對(duì)任何問(wèn)題都能給出最佳解決方案，所有人都生活在無(wú)比正確的道路上。

這樣的世界還有勁嗎？

還是那個(gè)真實(shí)的自然世界嗎？

它豈不是建立起一個(gè)更同質(zhì)化、更無(wú)法逃脫的精神牢籠？

難道科學(xué)的盡頭等待人類(lèi)的真的是作繭自縛？

我不得其解。如此看來(lái)，人工智能的不完美，正是它值得信賴的地方。它不通人情，但是也因此少了人類(lèi)固有的人情世故和由此引發(fā)的不良作風(fēng)。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。