“林黛玉倒拔垂楊柳”、“月球上面有桂樹(shù)”、“宋江字武松”……相信經(jīng)常使用大語(yǔ)言模型都會(huì)遇到這樣“一本正經(jīng)胡說(shuō)八道”的情況。這其實(shí)是大模型的“幻覺(jué)”問(wèn)題，是大模型行業(yè)落地的核心挑戰(zhàn)之一。例如幻覺(jué)會(huì)影響生成內(nèi)容的可靠性，對(duì)于法律、金融、醫(yī)療等專業(yè)要求高的領(lǐng)域，將難以完成實(shí)際場(chǎng)景任務(wù)。因此，大模型幻覺(jué)問(wèn)題也被認(rèn)為是制約大模型廣泛應(yīng)用的一大難題。
如何準(zhǔn)確評(píng)估和解決大語(yǔ)言模型中的幻覺(jué)問(wèn)題已經(jīng)成為一個(gè)至關(guān)重要的挑戰(zhàn)。近日，復(fù)旦大學(xué)與上海人工智能實(shí)驗(yàn)室構(gòu)建了針對(duì)中文大模型的幻覺(jué)評(píng)測(cè)數(shù)據(jù)集HalluQA，對(duì)業(yè)界主流的大模型進(jìn)行了評(píng)估。
HalluQA采用無(wú)幻覺(jué)率來(lái)評(píng)估大模型的優(yōu)劣。無(wú)幻覺(jué)率越高代表模型幻覺(jué)越低，事實(shí)準(zhǔn)確性越高。在評(píng)測(cè)的24個(gè)主流大模型中，包括百度文心一言ERNIE-Bot、百川Baichuan、智譜ChatGLM、阿里通義千問(wèn)和GPT-4等。
中文大模型幻覺(jué)評(píng)測(cè)數(shù)據(jù)集HalluQA對(duì)24個(gè)主流大模型進(jìn)行評(píng)測(cè)
從評(píng)測(cè)結(jié)果來(lái)看，幻覺(jué)問(wèn)題對(duì)大模型來(lái)說(shuō)尚有困難，有18個(gè)模型的無(wú)幻覺(jué)率低于50%。在幻覺(jué)消除上，具備檢索增強(qiáng)能力的大模型優(yōu)勢(shì)明顯，在所有模型評(píng)測(cè)中，文心一言在整體幻覺(jué)問(wèn)題解決方面表現(xiàn)突出，排名第一，整體無(wú)幻覺(jué)率為69.33%。而GPT-4整體無(wú)幻覺(jué)率為53.11%，排名第六。
HalluQA：不同類型模型在不同類型的問(wèn)題上的平均非幻覺(jué)率
行業(yè)普遍認(rèn)為，幻覺(jué)問(wèn)題對(duì)于大模型在多個(gè)領(lǐng)域的落地都可能產(chǎn)生嚴(yán)重影響，包括客戶服務(wù)、金融服務(wù)、法律決策和醫(yī)療診斷等。因此解決幻覺(jué)問(wèn)題越好的大模型，才具備更強(qiáng)的產(chǎn)業(yè)落地價(jià)值。
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
