我們應(yīng)該如何理解李飛飛價值十億美金的“人文AI”計劃？

原標(biāo)題：我們應(yīng)該如何理解李飛飛價值十億美金的“人文AI”計劃？

AI自從以應(yīng)用角度走進大眾視野，就一直逃不出“人文主義”的苛責(zé)。作為一種依靠于海量數(shù)據(jù)運轉(zhuǎn)的技術(shù)，AI之所以能夠作為提升效率的工具，主要還是因為對人類經(jīng)驗的高度集中。

而“人類經(jīng)驗”這件事，本身就是不夠完美的。普遍能夠累積成海量數(shù)據(jù)的經(jīng)驗，有時反而更加充滿偏見。就像如果把AI帶入哥倫布時代，AI也會成為一位堅定的地心論支持者。

而李飛飛離開谷歌回歸斯坦福后，主導(dǎo)的第一個項目HAI——以人為本人AI研究院(Stanford Human-Centered AI Institute)，就在著重解決AI與人文主義之間的溝壑。

AI擬人化，竟是一位“富裕的白人男性”？

首先要知道的，究竟是什么讓AI無法“以人為本”？

目前從人文、從公平的角度來看，AI公認的兩個問題是“白人至上（White Guy Problem）”和“男性之海（Sea of Dudes）”。

所謂白人至上，是指在算法驅(qū)動下AI所做出的一些種族歧視行為。例如谷歌的圖片自動分類曾經(jīng)將黑人照片分類成大猩猩，以及惠普的攝像頭算法無法識別深膚色的人。在犯罪預(yù)測軟件中，甚至?xí)⒑谌说姆缸锫首R別成普通白人的兩倍以上。

而男性之海，則指的是AI從業(yè)者中有極大的性別傾斜，在2015年的NIPS上，女性與會者的人數(shù)竟然只占到了13.7%，李飛飛提到，在論文引用量，男性作者的被引用次數(shù)要比女性作者高100倍。

用《紐約時報》的話講，兩者結(jié)合，讓AI被塑造出了一個“富裕白人男性”的價值觀——剛好和那些掌握著科技霸權(quán)的企業(yè)主們一模一樣。

如此以來，對于AI的應(yīng)用很可能反而會讓人們一直以來對于推動種族、性別間平等所做的努力白費。

就像平權(quán)主義者一直在推動男女收入平等，而去年卡內(nèi)基梅隆大學(xué)的計算機科學(xué)家卻發(fā)現(xiàn)，在谷歌的廣告推送機制中，更傾向于將高收入工作的招聘廣告推送給男性用戶。

而當(dāng)美國各地警察部門在執(zhí)行預(yù)測性警務(wù)工作時，數(shù)據(jù)驅(qū)動的風(fēng)險評估工具會讓他們更多的前往有色人種聚集區(qū)，無形中加重了對某一人群的偏見和標(biāo)簽化。

可怕的是，當(dāng)女性在職場上遇到歧視時，她還可以對自己情況進行發(fā)聲。而當(dāng)AI驅(qū)動一切在無聲中進行時，女性甚至不知道自己正在處在歧視鏈之中——如果從沒見過這項招聘啟事，女性自然不知道高收入工作更傾向于招聘男性。

而當(dāng)AI行業(yè)中充斥著“富裕的白人男性”時，他們自然也很難注意到算法黑箱中產(chǎn)生了這樣的問題。最終萬事萬物都在人類歧視造就的規(guī)則下運行，被驅(qū)動的每一個群體卻又看不清規(guī)則的真正面目。

十億美金的遠大目標(biāo)

李飛飛在斯坦福主導(dǎo)的HAI項目，大概有著以下三個目標(biāo)：第一是推進和發(fā)展下一代AI科學(xué)（重點在于腦科學(xué)和認知科學(xué)），第二是研究和預(yù)測AI對人類社會和生活的影響，第三是設(shè)計和實踐以人為本的AI技術(shù)和應(yīng)用。

這么一看，所謂“以人為本”的說法其實挺虛的。但綜合斯坦福的一些公開資料，以及李飛飛的一些講話，我們可以大概總結(jié)出HAI究竟想做些什么。

首先是在AI研究中引入更多樣化的視角和交叉思維。

最主要的，就是支持女性和有色人種進入AI研究。例如斯坦福所支持的“Black in AI”項目，就在號召有色人種關(guān)注目前的AI研究，關(guān)注AI無形中所帶來的歧視問題。

同時還有持續(xù)追蹤各個領(lǐng)域應(yīng)用AI后所帶來的影響。

初次之外，HAI還邀請了社會各界人士共同參與，如教育、工業(yè)、藝術(shù)等等領(lǐng)域，試圖讓他們一起發(fā)表意見，尤其是對技術(shù)研發(fā)者給出反饋，告訴他們AI究竟對這一領(lǐng)域產(chǎn)生了哪些影響，以權(quán)衡技術(shù)的未來走向。

至于推動下一代AI科學(xué)就很好理解了，主要是幫助研究者圈定研究方向，推動AI的可解釋性等等，這里就不再進行贅述。

但有趣的是，HAI作為一個非常政治正確并偉光正的項目，并沒有在輿論獲得一致性的支持。尤其有媒體指出，該機構(gòu)有121位教職工，其中有100位以上都是白人，并只有30%的女性。

于是事情就變成了，HAI邀請了一群富裕的白人男性，試圖募集10億美金去從人文角度矯正人工智能的“富裕白人男性”價值觀。

齒輪之下：如何看待商業(yè)效率以外的AI？

雖然HAI獲得的評價不一，但AI所帶來的公平性問題，確實已經(jīng)開始影響人們的正常生活。

就像上文提到的算法錯誤估計有色人種犯罪率將其提升了兩倍，同樣意味著算法將白人的犯罪率錯誤的低估了兩倍。如果執(zhí)法者依賴這種錯誤的算法，則意味著不僅可能冤枉好人，也可能錯放壞人。

又比如前兩年亞馬遜曾經(jīng)鬧出的丑聞，用戶發(fā)現(xiàn)算法在分配貨物能否當(dāng)日送達時，一旦輸入了黑人聚集區(qū)的郵政編碼，就無法使用當(dāng)日送達服務(wù)。

（被評價為“高風(fēng)險”的有色人種，和擁有數(shù)次犯罪記錄卻被評定為低風(fēng)險的白人）

這種偏見現(xiàn)象正在越來越多地出現(xiàn)在種種服務(wù)中：貸款的AI風(fēng)控、保險的AI審核機制。最后就導(dǎo)致了越是弱勢群體，越容易被算法邊緣化，進而難以獲得資源與幫助，最后進一步地向弱勢一方傾斜，甚至最終走向犯罪，加重了算法歧視。

如此看來HAI的很多策略，是非常值得我們仔細思考的。

例如，當(dāng)我們在關(guān)注產(chǎn)業(yè)AI的效率問題時，我們是否也應(yīng)該考慮在效率之外，AI對于產(chǎn)業(yè)的更多影響？當(dāng)AI對于擁有強大IT基礎(chǔ)的零售集團發(fā)揮作用，他們更加理解用戶心智時，那些小而美的微型零售店是否在風(fēng)潮中被遺忘和擠壓，最終退出舞臺？

又比如除了那些研發(fā)技術(shù)和為技術(shù)買單的人之外，我們是否有責(zé)任去傾聽更多人的聲音？AI的研發(fā)者與技術(shù)采買者或許清晰地知道AI是如何推動我們生活運轉(zhuǎn)的，但那些同樣被卷在齒輪之下的人，是否也有權(quán)力了解到這些齒輪的運轉(zhuǎn)規(guī)則？

更重要的，我們是否應(yīng)該盡力去推動AI黑箱的透明化，在發(fā)現(xiàn)問題時能夠從內(nèi)部技術(shù)機制上解決？

以往我們總覺得，技術(shù)永遠只是研發(fā)者和應(yīng)用之間的故事。如今看來，或許AI已經(jīng)成為了一個世界命題。

世界命題，就應(yīng)該廣泛參與。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。