1月30日消息，美國時間周一，微軟為其人工智能文本轉(zhuǎn)圖像生成工具Designer引入了更多保護措施，禁止人們用它來制作名人的非自愿假照片。據(jù)悉，上周在X上瘋傳的泰勒·斯威夫特（Taylor Swift）人工智能生成裸照來自4chan和Telegram頻道，迫使微軟做出了改變。
微軟發(fā)言人證實了這一事件，并表示：“我們對此已展開調(diào)查，并正采取相應(yīng)措施解決問題。我們的行為準(zhǔn)則明確禁止使用我們的工具創(chuàng)建成人或未經(jīng)同意的私密內(nèi)容。任何違反我們政策的行為，尤其是反復(fù)嘗試制作這類內(nèi)容，都將導(dǎo)致用戶無法繼續(xù)使用我們的服務(wù)。我們有一支龐大的團隊，致力于根據(jù)我們負責(zé)任的人工智能原則開發(fā)各種安全系統(tǒng)，包括內(nèi)容過濾、操作監(jiān)控和濫用檢測等，以減少系統(tǒng)的濫用可能性，并為用戶創(chuàng)造一個更安全的環(huán)境?！?/p>
微軟強調(diào)，一項正在進行的調(diào)查無法證實X上斯威夫特的假裸照是用Designer制作的，但該公司將繼續(xù)加強其文本過濾提示，并解決濫用其服務(wù)的問題。上周五，微軟首席執(zhí)行官薩蒂亞·納德拉（Satya Nadella）在接受采訪時表示，“我們有責(zé)任”為人工智能工具增加更多“護欄”，以防止它們制作有害內(nèi)容。上周末，X開始徹底屏蔽對“泰勒·斯威夫特”的搜索。
納德拉說：“這關(guān)乎全球社會在規(guī)范上的融合。我們可以做到這一點，尤其是在法律、執(zhí)法部門和科技平臺的共同努力下。我相信，我們可以管理的范圍遠遠超過我們目前的認知?！?/p>
經(jīng)過404 Media等媒體測試以及4chan和Telegram上的消息顯示，用戶利用漏洞生成圖像的操作已不再有效。
在斯威夫特人工智能生成圖片上周引發(fā)關(guān)注之前，Designer已經(jīng)阻止用戶生成帶有“泰勒·斯威夫特裸體”等文字提示的圖片，但Telegram和4chan上的用戶發(fā)現(xiàn)，他們可以通過稍微拼錯名人的名字，以及描述不使用任何性術(shù)語但會導(dǎo)致性暗示的圖片來繞過這些保護。
微軟修復(fù)漏洞后，引發(fā)了網(wǎng)友熱議。根據(jù)404 Media的報道，Telegram上的一名用戶在頻道中寫道：“我認為微軟的Designer已經(jīng)被打補丁了?！?/p>
另一位用戶回應(yīng)道：“好像它再也無法生成名人的照片了。即使是搜索克洛伊·莫瑞茲（Chloe Moretz），也只會生成普通的金發(fā)女孩。我嘗試更換服務(wù)器和賬號，但得到的結(jié)果都是一樣的?！?/p>
還有用戶表示：“我覺得它現(xiàn)在已經(jīng)完蛋了。Ariana,、Kylie Jenner,、Lisa、Zendaya這樣的名人，現(xiàn)在都只展示出與她們長相或種族相似的普通女孩照片?！?/p>
404 Media并未公布Telegram頻道的名稱，因為Telegram并未刪除該頻道，而且通常不會從其平臺上刪除太多有害內(nèi)容。該頻道擁有數(shù)萬名成員，但404 Media并未公布特定用戶的身份。分享Telegram頻道的名稱只會吸引更多人關(guān)注它，無益于為有害內(nèi)容的目標(biāo)提供任何追索權(quán)。
盡管Telegram頻道仍在分享人工智能生成的成人圖片，其中一些似乎是用其他人工智能工具生成的，還有一些是從其他網(wǎng)站上提取的。雖然該頻道的重點是利用微軟的Designer這一免費且易于使用的工具，但有許多其他方法可以在網(wǎng)上制作這種有害的內(nèi)容。例如，目前任何人都可以下載名人模型并在自己的電腦上本地運行，以生成有害內(nèi)容。在4chan上，一些用戶聲稱他們已經(jīng)發(fā)現(xiàn)了必應(yīng)和Designer的新漏洞。
Telegram頻道上的一位用戶表示：“我堅信，如果這里被關(guān)閉了，我們會找到其他地方來制作人工智能內(nèi)容。”（小?。?/p>
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
