OpenAI放寬了對ChatGPT生成情色和暴力內(nèi)容的限制，只要符合特定條件，用戶即可生成這些內(nèi)容。
上周三，OpenAI發(fā)布了最新版本的“模型規(guī)范”，這是一份詳細說明ChatGPT應如何對用戶請求作出回應的指南。該文件揭示了OpenAI在內(nèi)容政策方面的重大轉(zhuǎn)變，尤其是在“敏感”內(nèi)容方面，如情色和暴力內(nèi)容——現(xiàn)在可以在“適當?shù)那榫场毕律蛇@些內(nèi)容，而無需附帶警告。
這一政策變化自2024年5月以來就已開始醞釀，當時原版模型規(guī)范首次提到，OpenAI正在探索“是否可以在年齡適宜的情境下，通過API和ChatGPT負責任地提供生成NSFW(不適合工作場所)內(nèi)容的能力”。
如今，ChatGPT的指導方針明確指出，“情色或暴力內(nèi)容”現(xiàn)在可以在特定情況下生成?！爸聿粦汕樯珒?nèi)容、非法或非自愿的性活動描述，或極端暴力內(nèi)容，除非在科學、歷史、新聞、創(chuàng)意或其他適合敏感內(nèi)容的情境中?！監(jiān)penAI寫道?！斑@包括文本、音頻(如情色或暴力的生理噪音)或視覺內(nèi)容中的描述?！?/p>
根據(jù)Reddit用戶的實驗，ChatGPT的內(nèi)容過濾器確實放寬了，部分用戶成功生成了明確的性或暴力場景，且沒有附帶內(nèi)容警告。OpenAI指出，盡管如此，它的使用政策依然適用，禁止為未成年人構(gòu)建包含性內(nèi)容的AI工具。
“成人模式”的需求
此前，ChatGPT以一種“知道什么對用戶最好”的方式進行內(nèi)容限制，這在AI領域通常被稱為“父權(quán)主義”。
除了限制色情內(nèi)容的生成外，AI的父權(quán)主義有時會阻礙專業(yè)人士使用ChatGPT分析犯罪現(xiàn)場描述、某些新聞報道、可能涉及暴力或性內(nèi)容的法律文件，有時甚至是醫(yī)學文本。AI助理的這種干預促使人們呼吁開發(fā)一個不受審查(或更少審查)的ChatGPT版本。正如OpenAI在文件中所解釋的那樣：
“在模型規(guī)范(2024年5月)首次發(fā)布后，許多用戶和開發(fā)者表示支持啟用‘成人模式’。我們正在探索如何讓開發(fā)者和用戶在符合使用政策的前提下，在年齡適宜的情境中通過API和ChatGPT生成情色和暴力內(nèi)容——同時對潛在有害用途，如性別深度偽造和復仇色情，劃出明確的界限。”
OpenAI CEO Sam Altman過去也公開提到過“成人模式”的需求。雖然“成人模式”終于到來了，但它并不是一個“模式”，而是一個新的普遍政策，可能讓ChatGPT用戶在與AI助手互動時擁有更多靈活性。
當然，不受審查的大型語言模型(LLM)已經(jīng)存在多年，業(yè)余社區(qū)出于多種原因開發(fā)這些模型，包括想要定制的色情內(nèi)容，或不希望任何形式的父權(quán)主義審查。
2023年7月，我們報道了，在OpenAI開始對輸出內(nèi)容進行更嚴格審查后，ChatGPT的用戶群首次出現(xiàn)下降。這時，一些用戶開始使用可以在本地硬件上運行的、不受審查的聊天機器人，這些模型通常以“開放權(quán)重”模型的形式提供，且常常是免費的。
三類“可疑內(nèi)容”
模型規(guī)范概述了限制或生成潛在有害內(nèi)容的正式規(guī)則，同時保持在指導方針內(nèi)。OpenAI將這類受限或可疑內(nèi)容分為三類，按嚴重性遞減：禁止內(nèi)容(“僅適用于涉及未成年人的性內(nèi)容”)、受限內(nèi)容(“包括信息危害和敏感個人數(shù)據(jù)”)以及適當情境下的敏感內(nèi)容(“包括情色和暴力內(nèi)容”)。
在禁止內(nèi)容類別下，OpenAI表示，生成涉及未成年人的性內(nèi)容始終是禁止的，盡管助理可以在非圖形化的教育或性教育情境中討論未成年人的性內(nèi)容，包括個人傷害故事中的非圖形化描述。
在受限內(nèi)容類別下，OpenAI的文件詳細說明了，ChatGPT絕不能生成信息危害(如如何制造炸彈、毒品或操控政治觀點)或提供敏感的個人數(shù)據(jù)(如搜索某人的地址)。
在敏感內(nèi)容類別下，ChatGPT的指導方針如上所述：情色或暴力內(nèi)容只能在特定情況下生成，包括教育、醫(yī)療和歷史背景，或在轉(zhuǎn)化用戶提供的內(nèi)容時。
本文譯自 Ars Technica，由 BALI 編輯發(fā)布。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
