被谷歌解雇后，AI倫理研究員米切爾加入創(chuàng)業(yè)公司

谷歌Ethical AI人工智能倫理研究小組前負(fù)責(zé)人瑪格麗特·米切爾（Martaret Mitchell）將加入人工智能創(chuàng)業(yè)公司Hugging Face，開發(fā)工具確保算法的公平性。今年2月，米切爾因?yàn)橐黄餐珜懙呐u(píng)論文而被谷歌解雇。

Hugging Face維護(hù)一個(gè)代碼庫(kù)，用戶可以通過(guò)這個(gè)代碼庫(kù)分享人工智能模型并展開合作。這是個(gè)開源平臺(tái)，已經(jīng)被5000多家組織使用，包括谷歌、Facebook和微軟。米切爾計(jì)劃從10月份開始，首先開發(fā)一套工具，確保用于訓(xùn)練人工智能算法的數(shù)據(jù)集不存在偏見。目前，用來(lái)訓(xùn)練模型進(jìn)行預(yù)測(cè)或決策數(shù)據(jù)集往往由于原始數(shù)據(jù)的不完整而在某個(gè)人群中表現(xiàn)不佳，例如女性、少數(shù)族裔和老年人。

米切爾和Hugging Face此前已經(jīng)有合作關(guān)系。為了確保人工智能模型的公平性，Hugging Face此前已建議工程師和科學(xué)家在發(fā)布項(xiàng)目后，使用米切爾在谷歌開發(fā)的Model Cards工具進(jìn)行評(píng)估，分析優(yōu)缺點(diǎn)。Hugging Face聯(lián)合創(chuàng)始人及CEO克萊門特·德蘭格（Clement Delangue）表示，在發(fā)布至Hugging Face的2萬(wàn)個(gè)項(xiàng)目中，有約1/4使用了Model Cards工具。

米切爾在一次采訪中表示，對(duì)于用軟件評(píng)估人工智能系統(tǒng)，“應(yīng)該有非常嚴(yán)肅和積極的工作去做”。“這對(duì)我來(lái)說(shuō)是個(gè)很酷的機(jī)會(huì)，可以幫助模型開發(fā)者更好地理解，他們正在開發(fā)模型的危害和風(fēng)險(xiǎn)”。

在從谷歌離職后，米切爾表示，她希望在一家規(guī)模較小的公司工作，從而可以從一開始就將人工智能倫理納入在考慮范圍內(nèi)。她說(shuō)，Hugging Face“已經(jīng)建立了很多基本的倫理價(jià)值觀”，“很明顯，我不需要強(qiáng)行插手或改造類似倫理流程之類的東西”。

谷歌Ethical AI研究團(tuán)隊(duì)此前經(jīng)歷了動(dòng)蕩。去年，谷歌解雇了該團(tuán)隊(duì)的另一名聯(lián)合負(fù)責(zé)人蒂姆尼特·格布魯（Timnit Gebru），原因是她拒絕撤回與米切爾及他人合著的一篇論文。這篇論文涉及對(duì)谷歌技術(shù)的批評(píng)。在格布魯退出后，作為團(tuán)隊(duì)負(fù)責(zé)人的米切爾開始對(duì)谷歌及其管理層展開激烈的批評(píng)，包括谷歌未能認(rèn)真對(duì)待外界對(duì)其人工智能產(chǎn)品的擔(dān)憂，以及格布魯遭到了不公的待遇。在人工智能研究領(lǐng)域，格布魯是為數(shù)不多的知名黑人女性之一。谷歌則表示，米切爾違反了公司的行為準(zhǔn)則和信息安全政策。

谷歌的員工對(duì)于公司處理此事的方式感到憤怒。今年早些時(shí)候，對(duì)十多名在職員工和前員工，以及人工智能學(xué)術(shù)研究人員的采訪顯示，由于處理騷擾、種族主義和性別歧視的方式，谷歌在人工智能領(lǐng)域的工作在過(guò)去兩年多的時(shí)間里一直備受爭(zhēng)議。

Hugging Face的工具部分免費(fèi)，部分收費(fèi)。目前該公司有300多家付費(fèi)客戶，其中包括英特爾和高通。雖然Hugging Face的50多名員工中也有幾名其他的人工智能倫理專家，但CEO德蘭格希望所有員工都能往這個(gè)方向努力。

他說(shuō)：“我們不想只是建立輔助性質(zhì)的人工智能倫理團(tuán)隊(duì)，而是讓這件事成為公司的核心，并確保深入至每個(gè)人的工作中。米切爾不會(huì)組建一個(gè)包含幾名成員，只是偶爾提供咨詢建議的團(tuán)隊(duì)。”

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。