蒙眼狂奔？GPT-4狂飆之際微軟卻被曝砍掉了AI倫理團(tuán)隊(duì)

極客網(wǎng)·極客觀察3月17日 上個月微軟推出AI版必應(yīng)（Bing）搜索，開啟以AI搜索向搜索巨頭谷歌挑戰(zhàn)的序幕，接著更是將來自投資公司OpenAI的技術(shù)運(yùn)用到各類產(chǎn)品中。隨著GPT-4的發(fā)布，微軟進(jìn)一步加速了其AI產(chǎn)品化的步伐。

不過最新消息顯示，就在微軟AI狂飆之際，該公司卻裁掉一個負(fù)責(zé)AI倫理道德的關(guān)鍵團(tuán)隊(duì)，該團(tuán)隊(duì)確保微軟產(chǎn)品以符合倫理的方式引入AI技術(shù)。

裁員發(fā)生在微軟迎來AI幸福時刻之前

今年1月微軟曾裁員10000人，當(dāng)中AI部門的倫理和社會團(tuán)隊(duì)被砍掉。這意味著目前微軟正在向公眾推出AI工具，但微軟內(nèi)部并沒有一個專業(yè)團(tuán)隊(duì)負(fù)責(zé)將AI原則與產(chǎn)品設(shè)計結(jié)合在一起。但即便如此，微軟仍告訴外界會以負(fù)責(zé)任態(tài)度推進(jìn)AI。

當(dāng)然，微軟現(xiàn)在內(nèi)部保留了一個名叫“負(fù)責(zé)任AI辦公室”（Office of Responsible AI）的機(jī)構(gòu)，它為微軟AI項(xiàng)目設(shè)立規(guī)范和原則。但員工似乎對此并不買賬。

微軟一些員工認(rèn)為倫理和社會團(tuán)隊(duì)相當(dāng)重要，它們可以確保微軟“負(fù)責(zé)任”的AI原則在產(chǎn)品設(shè)計時真正得到體現(xiàn)。一位微軟前員工說：“看到負(fù)責(zé)任AI辦公室提供一些原則，有人可能會說：‘我不知道如何應(yīng)用。’而倫理和社會團(tuán)隊(duì)的任務(wù)就是向他們演示，給沒有規(guī)則的地方定出規(guī)則?！?/p>

在過去幾年里倫理和社會團(tuán)隊(duì)曾設(shè)計一款名叫Judgment Call的角色扮演游戲，它可以幫設(shè)計師了解AI可能造成的潛在傷害并在開發(fā)時討論。不久前，團(tuán)隊(duì)還幫微軟分析了引入OpenAI技術(shù)會有何種風(fēng)險。

團(tuán)隊(duì)是逐步被“肢解”的

2020年時微軟倫理和社會團(tuán)隊(duì)的規(guī)模達(dá)到最大，不過人數(shù)并不多，只有30人，包括工程師、設(shè)計師、哲學(xué)家。去年10月，因?yàn)橹亟M團(tuán)隊(duì)人數(shù)減少，只剩下大約7人。

在一次會議上，微軟AI企業(yè)副總裁John Montgomery說，員工們將會被快速轉(zhuǎn)移至它處?！皝碜訡TO和CEO的壓力非常非常大，上層要求我們將最新開發(fā)的OpenAI模型及之后的模型以最快速度交給客戶?！?/p>

會上有員工表示不滿。一位員工說：“怒我大膽，希望你能重新考慮這個決定。我知道這一決定有業(yè)務(wù)上的考慮，我也理解……但是倫理和社會團(tuán)隊(duì)十分關(guān)心我們的工作對社會有何影響，尤其是負(fù)面影響。影響是十分巨大的?！?/p>

不過John Montgomery拒絕了員工的請求，他說：“我能重新考慮嗎？我不能。很不幸，壓力還是一樣的?！碑?dāng)時John Montgomery并沒有說團(tuán)隊(duì)會被取消。

的確，當(dāng)時只是裁減了員工，倫理和社會團(tuán)隊(duì)仍然存在，只是人少了之后想推進(jìn)宏大計劃變得有心無力。

3月6日，倫理和社會團(tuán)隊(duì)剩余員工開會，John Montgomery明確告訴員工團(tuán)隊(duì)將會完全取消。

團(tuán)隊(duì)曾預(yù)警引入OpenAI工具的風(fēng)險

就在倫理和社會團(tuán)隊(duì)被砍之前，他們正在做一件十分重要的事：預(yù)測微軟OpenAI工具向全球推廣之后會發(fā)生什么？

去年該團(tuán)隊(duì)曾撰寫一份備忘錄，詳細(xì)討論必應(yīng)Image Creator的潛在風(fēng)險。必應(yīng)Image Creator用到了OpenAI開發(fā)的DALL-E系統(tǒng)，它可以根據(jù)文本提示制作圖片。去年10月必應(yīng)圖片創(chuàng)作工具在多個國家發(fā)布。

必應(yīng)Image Creator相當(dāng)成功，微軟研究人員卻警告說，由于任何人都可以輕易模擬藝術(shù)家的風(fēng)格，藝術(shù)家生計可能會受到影響。備忘錄稱：“測試必應(yīng)Image Creator發(fā)現(xiàn)，只需要給AI簡單提示，比如輸入藝術(shù)家的名字和媒介（如繪畫、打印、攝影、雕塑），生成的圖片就可以與原作媲美，很難分出真假?！?/p>

報告認(rèn)為必應(yīng)Image Creator可能會損害微軟的品牌形象，藝術(shù)家以及與他聯(lián)系的利益相關(guān)方也會受到傷害，藝術(shù)家和公眾可能會抱怨。

去年OpenAI更新服務(wù)條款，用戶完全擁有DALL-E圖片的版權(quán)，當(dāng)時微軟倫理和社會團(tuán)隊(duì)十分困惑。他們認(rèn)為：“如果AI生成的圖片只是藝術(shù)作品的圖字模仿品，根據(jù)提示制作圖片的人卻擁有完整版權(quán)，這在倫理道德上是講不通的?！?/p>

怎么應(yīng)對？微軟研究人員提出一套方案，比如禁止必應(yīng)Image Creator用戶通過提示信息利用仍然在世藝術(shù)家的名字制作AI圖片，還有就是創(chuàng)建一個集市出售藝術(shù)家作品，如果搜索藝術(shù)家名字作品就會彈出來。這些建議并沒有被采納。

微軟稱在發(fā)布之前工具已經(jīng)修改過，目的是解決備忘錄中提到的問題，而且負(fù)責(zé)任AI辦公室也做了很多工作。

那么，你真的會相信微軟在砍掉有倫理道德的AI倫理道德團(tuán)隊(duì)后，會認(rèn)真規(guī)范AI，讓它符合倫理嗎？（小刀）

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。