AI成為雙刃劍！凱捷調(diào)查：97%組織遭遇過GenAI漏洞攻擊

極客網(wǎng)·網(wǎng)絡安全11月22日 調(diào)研機構(gòu)凱捷研究院（Capgemini Research Institute）近期針對全球范圍內(nèi)13個國家的1000家組織開展了一項深入調(diào)查。結(jié)果表明，90%以上的組織在過去一年中至少經(jīng)歷過一次網(wǎng)絡安全漏洞事件，這一比例與2021年的51%相比有了顯著的增長。

調(diào)查還發(fā)現(xiàn)，在過去一年中，97%的受訪組織至少經(jīng)歷過一次與GenAI相關(guān)的安全漏洞攻擊事件。這份名為《新防御、新威脅：AI與GenAI對網(wǎng)絡安全的影響》的研究報告揭示了AI和GenAI在網(wǎng)絡安全中日益重要的作用，同時強調(diào)了在采用這些技術(shù)過程中存在的重大漏洞。

GenAI應用風險凸顯：網(wǎng)絡安全漏洞與經(jīng)濟損失齊增

這項調(diào)查于2024年5月開展，涵蓋了亞太、歐洲和北美13個國家的1000家組織。受訪者來自銀行、保險、能源、醫(yī)療保健和航空航天等多個關(guān)鍵行業(yè)領(lǐng)域，且這些組織的年收入均超過10億美元。

凱捷網(wǎng)絡安全、云基礎(chǔ)設(shè)施服務全球主管Marco Pereira表示：“迄今為止，AI和GenAI的應用被證明是一把雙刃劍。雖然它們帶來了前所未有的風險，但組織也越來越依賴AI來更快、更準確地檢測網(wǎng)絡安全事件。AI和GenAI為他們的安全團隊提供了強大的新工具，以緩解這些事件并推動防御策略的革新與升級?！?/p>

超過90%的受訪者表示，在過去一年中至少遭遇了一次網(wǎng)絡安全漏洞事件，與2021年的51%相比，這一數(shù)字大幅上升。其中近一半的組織估計，在過去三年中由于漏洞事件導致的財務損失超過5000萬美元。數(shù)據(jù)泄露事件的頻發(fā)與GenAI的應用呈現(xiàn)出同步增長的態(tài)勢，而這些先進技術(shù)正逐漸淪為惡意行為者的攻擊工具。

該報告指出了采用GenAI所帶來的多重風險，例如數(shù)據(jù)中毒、敏感信息泄露以及深度偽造技術(shù)的濫用。約67%的組織對這些問題表示擔憂，而43%的組織報告因涉及深度偽造內(nèi)容的安全事件而造成了直接的經(jīng)濟損失。

此外其他漏洞也不容忽視，例如AI系統(tǒng)可能產(chǎn)生錯誤或誤導性的輸出（這一現(xiàn)象被稱為“幻覺”）、生成有偏見的內(nèi)容，以及提示注入攻擊等。員工對GenAI的不當使用加劇了這些挑戰(zhàn)，不僅擴大了組織的攻擊面，還增加了防御策略的復雜性。

利用AI與GenAI強化網(wǎng)絡安全，檢測與投資策略并行

盡管存在潛要風險，但組織仍在積極利用AI和GenAI來加強其網(wǎng)絡安全框架。超過60%的受訪者表示，AI使他們的威脅檢測時間縮短5%以上，而40%的受訪者表示響應時間也有類似的改善。

五分之三的組織認為AI對于有效檢測威脅和做出響應至關(guān)重要。同樣比例的組織預計，GenAI將通過實現(xiàn)更快識別和緩解復雜威脅，進一步增強其長期網(wǎng)絡安全戰(zhàn)略。

日益嚴峻的威脅態(tài)勢促使59%的組織考慮增加網(wǎng)絡安全預算，他們重點投資于先進的數(shù)據(jù)管理系統(tǒng)、云計算資源和針對AI的風險緩解戰(zhàn)略。

凱捷的報告強調(diào)了采用GenAI帶來的三個主要風險領(lǐng)域：日益復雜的網(wǎng)絡攻擊、不斷擴大的攻擊面，以及自定義GenAI解決方案在整個生命周期中的漏洞。有效應對這些挑戰(zhàn)對于保持強有力的安全態(tài)勢至關(guān)重要。

管理GenAI風險的建議

該報告概述了組織可以采取的幾種安全措施，以平衡GenAI帶來的好處與相關(guān)風險。這些措施包括實施先進的數(shù)據(jù)管理系統(tǒng)以保護敏感信息、制定健全的治理政策以確保合乎道德地使用AI，以及為員工提供有關(guān)AI特定網(wǎng)絡安全風險的培訓。

此外，凱捷還強調(diào)了持續(xù)重新評估安全框架以適應不斷變化的威脅的重要性。通過采用這些策略，組織可以在利用AI和生成式AI的變革潛力的同時，緩解新興的安全漏洞。

谷歌云研究人員最近也警告稱，隨著威脅行為者越來越多地利用基于AI的工具來推進其惡意活動，2025年的網(wǎng)絡攻擊可能呈現(xiàn)更為嚴峻的態(tài)勢。谷歌云在其《2025年網(wǎng)絡安全預測》報告中預測，威脅行為者將使用AI和LLM來策劃并實施更復雜的網(wǎng)絡釣魚攻擊、短信詐騙以及其他社會工程學欺詐手段。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。