北京時(shí)間8月31日下午消息（蔣均牧）英國(guó)國(guó)家網(wǎng)絡(luò)安全中心（NCSC）概述了為企業(yè)集成人工智能驅(qū)動(dòng)的大語(yǔ)言模型（LLM）的風(fēng)險(xiǎn)，并警告開(kāi)發(fā)人員仍未完全掌握系統(tǒng)的弱點(diǎn)和漏洞。
在一篇博文中，該安全機(jī)構(gòu)承認(rèn)，自2022年OpenAI的ChatGPT發(fā)布以來(lái)，大語(yǔ)言模型一直吸引著全球的興趣和好奇心，導(dǎo)致所有行業(yè)的組織都在研究將該技術(shù)用于他們的業(yè)務(wù)。
然而，作為一個(gè)快速發(fā)展的領(lǐng)域，NCSC專(zhuān)家發(fā)現(xiàn)，在一個(gè)不確定的市場(chǎng)中模型是不斷更新的。這可能意味著一家現(xiàn)今提供服務(wù)的初創(chuàng)企業(yè)可能在兩年后就不復(fù)存在了。
因此，使用大語(yǔ)言模型構(gòu)建業(yè)務(wù)的組織需要考慮這樣一個(gè)事實(shí)，即模型可能會(huì)在所使用的API背后發(fā)生變化，從而導(dǎo)致集成的關(guān)鍵部分在某個(gè)時(shí)候停止存在。
該機(jī)構(gòu)進(jìn)一步指出，大語(yǔ)言模型在嵌入組織的業(yè)務(wù)流程時(shí)可能會(huì)帶來(lái)一定的風(fēng)險(xiǎn)，研究人員發(fā)現(xiàn)大語(yǔ)言模型“本質(zhì)上無(wú)法區(qū)分指令和為幫助完成指令而提供的數(shù)據(jù)”。
NCSC舉例稱(chēng)，如果輸入的提示結(jié)構(gòu)正確，銀行使用的AI聊天機(jī)器人可能會(huì)被騙向攻擊者匯款或進(jìn)行未經(jīng)授權(quán)的交易。
“使用大語(yǔ)言模型構(gòu)建業(yè)務(wù)的組織需要小心，就像他們使用處于測(cè)試階段的產(chǎn)品或代碼庫(kù)一樣?！盢CSC補(bǔ)充道。
- 用于地面雷達(dá)設(shè)備標(biāo)校和RCS測(cè)量！我國(guó)成功發(fā)射天平三號(hào)A星02星
- 華為彭紅華：三項(xiàng)工作、五個(gè)舉措，構(gòu)建全方位實(shí)戰(zhàn)化ICT人才賦能體系
- 支持5G-A網(wǎng)絡(luò)！蘋(píng)果iOS 18.4發(fā)布
- 支持5G-A網(wǎng)絡(luò)！蘋(píng)果iOS 18.4發(fā)布
- 邊緣計(jì)算：彌合數(shù)據(jù)中心與設(shè)備之間的差距
- 企業(yè)為何需要融合AI的BI進(jìn)行實(shí)時(shí)預(yù)測(cè)分析
- 什么是具身智能：人工智能的新前沿
- 5G及未來(lái)：人工智能與下一代電信服務(wù)的協(xié)同作用
- 中國(guó)電信旗下企業(yè)轉(zhuǎn)讓智慧城市（合肥）標(biāo)準(zhǔn)化研究院30%股權(quán)
- 中國(guó)移動(dòng)：“寬帶邊疆”提前完成，數(shù)字鄉(xiāng)村“五新升級(jí)”
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。
