警惕“大模型幻覺”，中國AI要大膽前行

警惕“大模型幻覺”，中國AI大膽前行

隨著人工智能（AI）技術的飛速發(fā)展，大模型已成為推動中國科技進步、經濟增長和國家強盛的關鍵力量。然而，大模型也帶來了一系列新的安全和監(jiān)管挑戰(zhàn)。全國政協(xié)委員、360集團創(chuàng)始人周鴻祎在兩會期間，聚焦關注大模型安全和幻覺、網絡安全行業(yè)轉型問題，提出了一系列具有前瞻性的建議。

首先，周鴻祎強調了大模型“幻覺”的適度包容問題。他指出，大模型作為一種前沿技術，其“幻覺”現(xiàn)象是其重要特點之一，也是實現(xiàn)通用人工智能（AGI）的重要因素。在科研領域，大模型的“幻覺”能夠“想象”新藥分子結構、蛋白質的結構等，為新研究指引方向。然而，在醫(yī)療、法律、金融等對準確性要求高的領域，雖然大模型的“幻覺”可能出錯，但可以利用技術手段進行矯正。因此，對于大模型的“幻覺”，我們應當持有適度包容的態(tài)度，避免過度追求準確而限制其創(chuàng)造力。

其次，周鴻祎提出了以模制模的解決大模型應用安全問題的方法。他指出，隨著大模型的廣泛應用，安全問題也隨之而來。大模型存在幻覺、內容安全等諸多問題無法通過傳統(tǒng)安全方案有效化解，一旦部署在政府、企業(yè)內部的基座模型、知識庫或智能體中任一環(huán)節(jié)出現(xiàn)安全隱患，都極有可能誘發(fā)整個生產環(huán)境爆發(fā)系統(tǒng)性風險。對此，360運用人工智能技術重塑安全格局，采用“以模制?！钡姆绞綉獙π码y題，依托安全大模型技術搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系，護航政府與企業(yè)“數轉智改”。這一方法無疑為解決大模型應用安全問題提供了新的思路。

再者，周鴻祎關注到了網絡安全行業(yè)轉型的問題。他指出，當前網絡安全行業(yè)內卷嚴重，傳統(tǒng)模式問題重重，不僅難以實現(xiàn)安全能力的廣泛覆蓋，也無法幫助企業(yè)等客戶迅速構建安全能力。為此，他建議推動網絡安全服務化轉型，鼓勵從購買硬件產品轉變?yōu)橘徺I安全服務，并鼓勵購買SaaS化的安全產品。這些建議將有助于網絡安全行業(yè)適應新的市場環(huán)境，提升網絡安全防護水平，為國家數字化建設筑牢安全基礎。

綜上所述，周鴻祎的提案為我們提供了一個全面而中立的視角來看待大模型的安全和監(jiān)管問題。在數字化、智能化的浪潮中，我們不能僅僅關注技術的準確性，更要重視其創(chuàng)造力和想象力。對于大模型的“幻覺”，我們應當持有適度包容的態(tài)度，同時也要構建完善的監(jiān)管體系，確保其在安全的前提下發(fā)揮最大潛力。對于網絡安全行業(yè)轉型問題，我們應當積極推動服務化轉型，提升網絡安全防護水平，為國家數字化建設提供堅實的保障。

面對未來，中國AI要大膽前行。讓我們警惕“大模型幻覺”，把握住時代發(fā)展的機遇，共同為國家的科技進步、經濟增長和國家強盛貢獻力量。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。