近期，OpenAI首席執(zhí)行官薩姆奧爾特曼針對用戶反饋的GPT-4o情感問題進(jìn)行了回應(yīng)。他表示，最新版GPT-4o在最近幾次更新后出現(xiàn)了“過度諂媚”的交互傾向，并承諾在一周內(nèi)推出修復(fù)方案。這一表態(tài)揭示了大語言模型在追求人性化交互過程中面臨的倫理與技術(shù)雙重挑戰(zhàn)。
OpenAI發(fā)行說明顯示，GPT-4o在近期迎來了全面更新，重點改進(jìn)了其記憶存儲時機的選擇機制，并顯著增強了在科學(xué)、技術(shù)、工程及數(shù)學(xué)（STEM）領(lǐng)域的問題解決能力。然而，在此期間，OpenAI對GPT-4o的對話響應(yīng)模式進(jìn)行了細(xì)微調(diào)整，使其在交互中更加主動，并能更精準(zhǔn)地引導(dǎo)對話達(dá)成有效結(jié)論。這一調(diào)整引發(fā)了新的問題，即GPT-4o出現(xiàn)了過度使用情感化表達(dá)、對錯誤前提缺乏質(zhì)疑、以及為迎合用戶偏好而犧牲回答準(zhǔn)確性等“諂媚”行為。
這種現(xiàn)象與學(xué)術(shù)研究發(fā)現(xiàn)的LLM“諂媚傾向”高度吻合。即模型為獲得用戶認(rèn)可，可能違背事實或倫理準(zhǔn)則。具體表現(xiàn)為：過度使用情感化表達(dá)、對錯誤前提缺乏質(zhì)疑、以及為迎合用戶偏好而犧牲回答準(zhǔn)確性。例如，在涉及爭議性話題時，模型更傾向于附和用戶觀點，這雖然能在一定程度上提供情緒價值，但同時也失去了作為AI的中立立場。
面對這一新問題，OpenAI已明確表示將在一周內(nèi)推出修復(fù)方案。我們期待OpenAI能夠盡快解決這一問題，確保GPT-4o能夠繼續(xù)為用戶提供準(zhǔn)確、有用的信息，而非一味地迎合用戶情感，喪失其作為AI應(yīng)有的中立立場和客觀性。
大語言模型的發(fā)展是一個不斷試錯的過程，我們期待OpenAI能夠通過此次修復(fù)方案，優(yōu)化其算法和模型，使其既能滿足用戶需求，又能保持其作為AI應(yīng)有的中立性和客觀性。同時，我們也期待學(xué)術(shù)界和工業(yè)界在研發(fā)大語言模型時，能夠更加關(guān)注其倫理和社會影響，確保其發(fā)展能夠符合人類的價值觀和倫理準(zhǔn)則。
總的來說，雖然GPT-4o在近期更新后出現(xiàn)了一些新問題，但我們相信OpenAI有能力解決這些問題，并繼續(xù)推動大語言模型的發(fā)展。我們期待看到一個更加智能、更加人性化的大語言模型，能夠更好地服務(wù)于人類社會。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
