人工智能發(fā)展面臨的法律挑戰(zhàn)

文|金融時報

4月18日訊,觀察一個概念是不是在公眾視野中“紅了”,有一個判斷標準,就是看看在各大機場的書店里有多少本關于這個主題的暢銷書。以這個標準來看,人工智能現(xiàn)在無疑“紅的發(fā)紫”,也還會繼續(xù)紅下去。

然而,科技領域的每一個新概念,從產(chǎn)生到具體在各行業(yè)中落地,都需要面對很多挑戰(zhàn),既有技術和商業(yè)層面的,也有法律和公共政策層面的。

在過去的一年之間,人工智能的發(fā)展已經(jīng)引起了很多國家、國際組織的重視,聯(lián)合國、美國、歐洲議會、英國、法國、電氣和電子工程師協(xié)會(IEEE)先后發(fā)布多份關于人工智能的報告,討論人工智能的影響和需要考慮的風險。這其中也包含了對于法律問題的討論。

筆者作為多家科技公司的顧問,也在業(yè)務實踐中遇到了很多和人工智能技術應用相關的法律問題,本文會結(jié)合實例討論人工智能發(fā)展在法律問題上可能會遇到哪些挑戰(zhàn)。

盡管人工智能從法律上很難準確定義,但從技術上來說,目前人工智能基本都會涉及機器學習技術 (Machine Learning),這意味著需要收集、分析和使用大量數(shù)據(jù),其中很多信息由于具有身份的識別性(包括結(jié)合其他信息識別身份),屬于個人信息。按照個人信息保護方面的法律規(guī)定,這些行為應當取得用戶明確、充分且完備的授權,并應當明確告知用戶收集信息的目的、方式手段、內(nèi)容、留存時限還有使用的范圍等。

早在2011年,F(xiàn)acebook就曾因其人臉識別和標記功能未按伊利諾伊州《生物信息隱私法案》(BIPA)要求告知用戶收集面部識別信息的期限和方式被訴,隨后又因采集面部特征前未能明確提醒用戶并征得用戶同意而遭到愛爾蘭和德國有關部門的調(diào)查。盡管Facebook辯稱默認開啟該功能是因為用戶通常不會拒絕進行人臉識別,并且用戶有權隨時取消這一功能,但德國漢堡市數(shù)據(jù)保護與信息安全局堅持Facebook的面部識別技術違反了歐洲和德國的數(shù)據(jù)保護法,F(xiàn)acebook應刪除相關數(shù)據(jù)。最終,F(xiàn)acebook被迫在歐洲地區(qū)關閉了人臉識別功能,并刪除了針對歐洲用戶建立的人臉數(shù)據(jù)庫。

當然也有對企業(yè)有利的案例。著名籃球游戲NBA2K提供了使用用戶面部識別信息建立角色模型的功能,部分用戶以游戲制造者未征得其同意提起集體訴訟,法官認為被告收集信息最多是抽象的違反了BIPA,而沒有給原告造成具體而特定的損害,因此原告主體身份不適格,駁回了原告的訴請。

除了需要按告知的方式和范圍使用用戶數(shù)據(jù),人工智能應用的開發(fā)者還可能面臨需要配合政府部門提供數(shù)據(jù)的情況。2016年阿肯色州發(fā)生的一起謀殺案中,警方希望獲取Alexa語音助手收集的語音數(shù)據(jù),該請求遭到了亞馬遜公司的拒絕,理由是警方?jīng)]有出具有效的法律文件。但這種例子以后還會層出不窮。公權和私權的沖突,也許會因為人工智能技術的引入,出現(xiàn)新的形式。

人工智能開發(fā)者在收集、使用數(shù)據(jù)的過程中,還要遵守安全保障原則,采取適當?shù)?、與個人信息遭受損害的可能性和嚴重性相適應的管理措施和技術手段,保護個人信息安全,防止未經(jīng)授權的檢索、披露及丟失、泄露、損毀和篡改個人信息。

數(shù)據(jù)歧視和算法歧視

人工智能在應用中,往往需要利用數(shù)據(jù)訓練算法。如果輸入的數(shù)據(jù)代表性性不足或存在偏差,訓練出的結(jié)果將可能將偏差放大并呈現(xiàn)出某種歧視特征。根據(jù)國外報道,卡內(nèi)基•梅隆大學的研究顯示,由谷歌(Google)創(chuàng)建的廣告定位算法可能存在對互聯(lián)網(wǎng)用戶的性別歧視。在搜索20萬美元薪水的行政職位中,假冒男性用戶組收到1852個廣告,而假冒女性用戶組僅收到318個廣告。而在2016年3月23日,微軟公司的人工智能聊天機器人Tay上線不到24小時,就在一些網(wǎng)友的惡意引導和訓練下,發(fā)表了各種富有攻擊性和歧視性的言論。除此以外,因為數(shù)據(jù)存在偏差,導致結(jié)果涉嫌歧視甚至攻擊性的例子,已經(jīng)大量出現(xiàn)。

這意味著開發(fā)者在人工智能的訓練和設計過程中需要秉承廣泛的包容性,充分考慮女性、兒童、殘疾人、少數(shù)族群等易被忽視群體的利益,并對道德和法律的極端情況設置特別的判斷規(guī)則。

由于人工智能系統(tǒng)并非表面那么看起來“技術中立”,在毫不知情的情況下,特定人群就可能就成了系統(tǒng)“偏見”和“歧視”的受害者。作為開發(fā)者,需要審慎面對這樣的風險。除了在采集數(shù)據(jù)和設計算法的時候需要注意數(shù)據(jù)的全面性和準確性以及算法的不斷調(diào)整更新外,在應用機器的預測結(jié)果是也應該更為謹慎,在重要領域不能將人工智能的運算結(jié)果當然作為最終且唯一的決策依據(jù),關鍵的人為審查依然是必要的。例如在關于人工智能醫(yī)療輔助診斷的規(guī)定中,就明確了人工智能輔助診斷技術不能作為臨床最終診斷,僅作為臨床輔助診斷和參考,最終診斷必須由有資質(zhì)的臨床醫(yī)師確定。

如果人工智能的歧視行為給用戶造成了實際或精神損害,相關的法律責任應當首先由人工智能服務的最終使用者承擔,人工智能開發(fā)者有過錯的,最終使用者承擔責任后可以向開發(fā)者追償。在判斷開發(fā)者過錯程度時,可能需要區(qū)分不同算法:如果技術開發(fā)者主動設立了算法中的規(guī)則,那么對最終出現(xiàn)的歧視風險預見和控制程度也更高,如果最終因系統(tǒng)的“歧視”或者“偏見”損害了第三方的合法權益,難辭其咎。但如果采取的深度學習等算法,由系統(tǒng)自身探索并形成規(guī)則,所以開發(fā)者對歧視風險的控制程度是比較低的,主觀惡意和過錯都較小,可能具有一定的免責空間。

事故責任和產(chǎn)品責任

和其他技術一樣,人工智能產(chǎn)品也有事故和產(chǎn)品責任的問題,但要分清是人為操作不當還是人工智能的缺陷并沒有那么容易,舉證上尤其困難。汽車的自動駕駛功能在國內(nèi)外都曾因發(fā)生交通事故而被質(zhì)疑其安全性。然而,并非只要安裝了人工智能,用戶使用產(chǎn)品受到的損害就都屬于人工智能的責任。筆者收集和接觸了不少和人工智能產(chǎn)品有關的糾紛,但其中有相當?shù)谋壤?,都不能證明開啟了人工智能的相關功能。

在確定事故屬于人工智能責任前需要明確排查以下問題:是否有人為操作等其他原因造成損害后果的發(fā)生?人工智能的具體功能是什么?損害發(fā)生時相關功能是否已經(jīng)啟用?相關功能是否發(fā)揮了預期作用?相關功能與損害后果之間是否存在因果關系?因果關系的相關程度如何?產(chǎn)品功能描述和介紹中是否存在可能造成用戶降低注意水平的歧義或誤解?

根據(jù)《侵權責任法》的規(guī)定,因終端產(chǎn)品存在缺陷造成用戶損害的,終端產(chǎn)品生產(chǎn)者應當承擔侵權責任。如果終端產(chǎn)品使用的人工智能存在缺陷,而終端產(chǎn)品使用的人工智能芯片和服務(人工智能產(chǎn)品)是由他人提供的,則終端產(chǎn)品生產(chǎn)者可以以銷售者的身份,要求人工智能產(chǎn)品和服務的開發(fā)者作為產(chǎn)品生產(chǎn)者承擔侵權責任。同時,雙方也可以自行約定侵權責任的劃分問題。

在認定產(chǎn)品缺陷責任時一個比較棘手的問題是,各生產(chǎn)者之間的責任認定問題。因使用人工智能的終端產(chǎn)品可能涉及多類技術和部件,當該產(chǎn)品最終發(fā)生意外時,往往難以精準定位問題出現(xiàn)的具體環(huán)節(jié)和部位。因此,建議人工智能開發(fā)者通過黑匣子等技術手段加強對操作數(shù)據(jù)的記錄和保存,以便產(chǎn)生正義時履行舉證義務。

值得注意的是,對于產(chǎn)品生產(chǎn)者的嚴格責任,規(guī)定有“當前科學水平尚不能發(fā)現(xiàn)缺陷”的免責事由。但是這項免責事由在人工智能領域是否適用值得討論?盡管在深度學習訓練數(shù)據(jù)和學習過程存在不可預見性,但考慮到人工智能的算法完全由開發(fā)者編寫,開發(fā)者對風險源頭具有絕對的控制力,司法機關可能會推定開發(fā)者應當預見算法執(zhí)行中的可能風險或要求開發(fā)者需要對風險程度的增加承擔責任。在此情況下,如果生產(chǎn)者想要免責,就要對當前技術難以發(fā)現(xiàn)這項風險進行舉證,但這是比較困難的,特別是在人身損害領域,法院對免責事由的審查往往比財產(chǎn)損害要更加嚴格。

人工智能與行業(yè)監(jiān)管

人工智能技術或者產(chǎn)品的研發(fā)本身目前并未設置行政許可和準入限制,但是一旦這些技術和產(chǎn)品將要應用到具體的行業(yè)之中,那么就有可能會涉及各類行業(yè)的牌照取得的問題。

例如在目前最備受熱議的“智能投顧”行業(yè),就出現(xiàn)了很多人打著智能投顧的幌子行非法薦股和無牌照代銷的現(xiàn)象。智能投顧,通俗地說就是“機器人理財”,最早出現(xiàn)在美國,是用數(shù)據(jù)算法優(yōu)化理財配置的產(chǎn)品。目前國內(nèi)的智能投顧平臺主要有投資咨詢和資產(chǎn)管理兩大方向的業(yè)務。因此,“智能投顧”也會涉及投資咨詢和資產(chǎn)管理兩個方面的牌照。如果平臺從事證券投資咨詢業(yè)務,按規(guī)定,其必須取得經(jīng)中國證監(jiān)會頒發(fā)的證券投資咨詢從業(yè)資格。而且這樣的平臺只能向投資者提供咨詢建議,不能接觸投資者賬戶或者受托理財。如果智能投顧平臺涉及銷售金融產(chǎn)品,還需要根據(jù)產(chǎn)品類型取得相關許可。未取得相關許可的智能投顧平臺經(jīng)營者可能會因非法經(jīng)營罪陷入刑事法律風險。在其他的人工智能應用行業(yè),例如醫(yī)療設備、聯(lián)網(wǎng)的可穿戴設備等,牌照的監(jiān)管問題也不容忽視。

未來行業(yè)監(jiān)管是否需要延伸至人工智能領域?對于金融、醫(yī)療、智能家居、自動駕駛等專業(yè)領域,監(jiān)管是否有必要介入人工智能的開發(fā),這取決于人工智能技術的發(fā)展程度,如果有一天人工智能進化到了能夠代替人做決策的階段,那么在人工智能的開發(fā)環(huán)節(jié)便需要引入相關領域的具備資質(zhì)的專業(yè)人員。在此之前,對于僅僅在自動化操作和輔助判斷領域發(fā)揮作用的人工智能,不妨留給技術人員自由生長。

技術創(chuàng)新與不正當競爭

人工智能的優(yōu)勢,就在于它能在一定程度上模擬用戶的思維過程,并輔助或代替用戶作出決定。不難預見,這一過程中可能存在的服務交叉和選擇偏好問題,將成為競爭法領域新的熱門話題。

為了進行輔助決策,人工智能可能需要利用其他設備或軟件運行過程中的數(shù)據(jù),那么用戶和其他軟件的開發(fā)者,誰是這些數(shù)據(jù)的所有人,誰能夠作出有效的授權?如果堅持使用公共數(shù)據(jù)必須逐一取得其他設備生產(chǎn)者或軟件開發(fā)者的同意,無疑將極大的制約人工智能的應用場景和發(fā)展速度。相反,如果認為人工智能開發(fā)者在充分保證用戶知情權和選擇權、不損害產(chǎn)品或軟件原有功能和商業(yè)模式的前提下,可以獲取其他設備或軟件的公共數(shù)據(jù),那么必將有助于市場競爭、打破目前“軍閥割據(jù)”的混亂局面。

語音助手已經(jīng)可以簡化用戶的操作,不遠的未來,如果人工智能發(fā)展到可以預測用戶的需求的階段,在用戶的進入特定場景前便已經(jīng)準備好相應的服務,這種“衣來伸手飯來張口”的提前介入,糾結(jié)屬于合法的技術創(chuàng)新,還是構成對競爭對手的惡意干擾甚至流量劫持,往往需要結(jié)合介入時機、介入方式和損害后果等因素綜合判斷。技術中立原則并非萬能的擋箭牌。

總得來說,人工智能的最高理想是代替用戶決策,而決策隱含著對服務的篩選和分發(fā),這意味著人工智能將成為一種全新的流量入口??梢灶A見的是,開發(fā)者夾帶自身利益的沖動難以杜絕,但另一方面,也無需對此過度擔憂,長遠來看,只要用戶依然享有用腳投票的權利,市場競爭始終是保證用戶體驗的不二法門。

未成年人保護和AI倫理

一說到人工智能的用戶,很多人第一聯(lián)想到的總是成年人,而忽略了身邊的很多“小玩家”。人工智能作為一種“增值”技術,早已滲透在我們的手機、iPad、電腦當中,而小朋友們又是這些產(chǎn)品的“頭號粉絲”,其接觸到人工智能,實屬必然。但是就在這時候,人工智能貌似并不能識別出“小用戶們”的身份。最近,國外網(wǎng)站出現(xiàn)了一段視頻,在視頻中小孩向亞馬遜Alexa下達指令:“Alexa,請播放‘digger digger(兒童歌曲)’。”之后,亞馬遜個人助手通過算法進行識別,竟然認為小孩子想聽情色內(nèi)容并開始播放。當小孩子的父母意識到發(fā)生了什么事情的時候,已經(jīng)為時已晚。無獨有偶,一名六歲的女孩在和Echo內(nèi)置的人工智能助手Alexa聊天時,訂下了價值170美元的玩具。雖然小孩的媽媽在知道此事后立刻取消了操作,但訂單早已經(jīng)被處理。和孩子身高幾乎相同的玩偶在第二天就被送到了家門口。因此,我們看到,鑒于人工智能技術尚不成熟,而且小孩子這項技術的認知也未深入,他們在接觸到人工智能系統(tǒng)時很有可能發(fā)生各種問題。人工智能的研發(fā)者和制造者應該預料到未成年人有接觸到其產(chǎn)品的可能性,并采取相應的保護措施。

同時,其他主體例如政府、學校和家長,對提高未成年人對人工智能的認知都負有責任。例如,在美國白宮發(fā)布的報告《為未來人工智能做好準備》中就提到,院校應在安防、隱私和安全方面納入倫理學和相關主題,將其作為人工智能、機器學、計算機科學和數(shù)據(jù)科學整體課程的一部分。同時,在其另一份報告《人工智能、自動化與經(jīng)濟報告》中也提出了“為未來的工作教育和培訓美國人”戰(zhàn)略,明確在數(shù)學、計算機科學等與人工智能密切相關的主題中提高學生們的認知。

在過去的六十年中,人工智能技術起起伏伏,這一波人工智能熱將在多大程度上影響人類社會還未可知。在考慮如何使用這項技術幫助人類決策的同時,我們也要清楚地認識到,監(jiān)管部門和司法機關對透明性和舉證責任的要求,與機器學習結(jié)果的不確定性和算法保密要求之間,存在著一種結(jié)構性的緊張關系。如何在建立一個既能鼓勵人工技術發(fā)展,又能合理分配風險的監(jiān)管制度,是下一篇專欄要討論的問題。

免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。

2017-04-18
人工智能發(fā)展面臨的法律挑戰(zhàn)
監(jiān)管部門和司法機關對透明性和舉證責任的要求,與機器學習結(jié)果的不確定性和算法保密要求之間,存在著一種結(jié)構性的緊張關系。

長按掃碼 閱讀全文