2024年大數(shù)據(jù)行業(yè)預(yù)測(cè)（六）

2024年大數(shù)據(jù)行業(yè)預(yù)測(cè)（六）

安全

GenAI將在2024年證明現(xiàn)有的安全意識(shí)培訓(xùn)已經(jīng)過時(shí)；組織將對(duì)其計(jì)劃進(jìn)行現(xiàn)代化改造，以應(yīng)對(duì)這些新的、更復(fù)雜的威脅。隨著GenAI在不良行為者社區(qū)中的大規(guī)模消費(fèi)，傳統(tǒng)安全意識(shí)培訓(xùn)的價(jià)值將迅速下降。企業(yè)將對(duì)安全意識(shí)計(jì)劃進(jìn)行現(xiàn)代化改造，包括持續(xù)以用戶為中心的控制，增強(qiáng)識(shí)別和防御當(dāng)今現(xiàn)代社會(huì)工程攻擊的能力，同時(shí)提供實(shí)時(shí)用戶指導(dǎo)，以防止用戶在不經(jīng)意間意外成為此類攻擊的受害者。–Curtis Simpson，Armis首席信息安全官

2024年，由于人工智能的出現(xiàn)，釣魚培訓(xùn)將不再流行：由于人工智能，現(xiàn)代的對(duì)手正在用新的創(chuàng)新來提升其攻擊游戲。高級(jí)LLM將使攻擊者更容易制作完美的網(wǎng)絡(luò)釣魚電子郵件，不會(huì)留下錯(cuò)別字或奇怪的格式供受害者捕獲。因此，我們所知道的網(wǎng)絡(luò)釣魚培訓(xùn)將變得過時(shí)。企業(yè)將需要尋求其他形式的網(wǎng)絡(luò)安全培訓(xùn)，以確保其關(guān)鍵資產(chǎn)受到保護(hù)，并采用更復(fù)雜的防御措施。–Eric Skinner，Trend Micro副總裁

隨著人工智能增強(qiáng)攻防戰(zhàn)略，API安全不斷發(fā)展：2023年，AI開始改變網(wǎng)絡(luò)安全，在進(jìn)攻和防御安全方面發(fā)揮著關(guān)鍵作用。傳統(tǒng)上，識(shí)別和利用復(fù)雜的一次性API漏洞需要人工干預(yù)。人工智能現(xiàn)在正在改變這一格局，使流程自動(dòng)化，從而實(shí)現(xiàn)具有成本效益的大規(guī)模攻擊。我預(yù)測(cè)到2024年，攻擊的復(fù)雜性和可擴(kuò)展性將顯著增加。隨著人工智能成為惡意行為者和防御者的強(qiáng)大工具，我們將見證一個(gè)關(guān)鍵的轉(zhuǎn)變，重新定義數(shù)字安全的動(dòng)態(tài)。–Shay Levi，Noname Security首席技術(shù)官兼聯(lián)合創(chuàng)始人

欺騙性AI驅(qū)動(dòng)技術(shù)將在2024年變得突出：隨著時(shí)間的推移，網(wǎng)絡(luò)安全的復(fù)雜程度呈指數(shù)級(jí)發(fā)展，但隨著生成式AI變得更加突出，2023年出現(xiàn)了一些最快的創(chuàng)新。由于這些工具通常普遍可用且易于訪問，因此我們必須評(píng)估其對(duì)當(dāng)前網(wǎng)絡(luò)環(huán)境造成的風(fēng)險(xiǎn)。生成式人工智能對(duì)于網(wǎng)絡(luò)安全行業(yè)而言是一把雙刃劍，其可以讓防御者變得更快、更有能力，但也為對(duì)手做同樣的事情。隨著生成式人工智能在模仿人類方面變得越來越好，攻擊者的技術(shù)變得越來越具有欺騙性，也越來越難以被發(fā)現(xiàn)，這使得傳統(tǒng)的社會(huì)工程跡象更難以從第一接觸點(diǎn)識(shí)別出來。這些趨勢(shì)將持續(xù)到2024年，并且變得更加危險(xiǎn)。重要的是，該行業(yè)的能力在來年繼續(xù)跟上攻擊者對(duì)生成式人工智能和5G等新興技術(shù)的使用。–Siroui Mushegian，Barracuda首席信息官

人工智能將在組織如何分析安全數(shù)據(jù)，并采取行動(dòng)方面發(fā)揮越來越重要的作用：我們將開始看到使用人工智能與分析和運(yùn)營(yíng)手冊(cè)相關(guān)的可量化的好處。這些優(yōu)勢(shì)將有助于緩解安全運(yùn)營(yíng)中心(SOC)分析師目前所做的一些繁重工作。人工智能還將有利于響應(yīng)和緩解能力轉(zhuǎn)化為操作能力。–Mike Spanbauer，Juniper Networks首席技術(shù)官

從生產(chǎn)力到危險(xiǎn)：人工智能對(duì)身份安全的影響：在數(shù)字化轉(zhuǎn)型的更廣泛背景下，人工智能以前所未有的方式提高了生產(chǎn)力，并開辟了非凡的可能性，例如創(chuàng)建與人類創(chuàng)造的內(nèi)容幾乎沒有區(qū)別的逼真圖像、視頻和文本。但在即將到來的一年里，組織必須做好迎接人工智能這把雙刃劍的準(zhǔn)備。這種超現(xiàn)實(shí)內(nèi)容生成的能力具有深遠(yuǎn)的影響，生成式人工智能的興起，將增強(qiáng)基于身份的攻擊。人工智能的發(fā)展與更廣泛的基于身份的風(fēng)險(xiǎn)和漏洞交織在一起，包括日益增長(zhǎng)的網(wǎng)絡(luò)釣魚和魚叉式網(wǎng)絡(luò)釣魚活動(dòng)的威脅，以及攻擊者針對(duì)特定個(gè)人或群體的技術(shù)，并且通常會(huì)包含已知目標(biāo)感興趣的信息。由于人工智能的能力，這已經(jīng)呈現(xiàn)出新的維度。進(jìn)入2024年，組織必須保持警惕，了解技術(shù)風(fēng)險(xiǎn)，投資先進(jìn)的安全措施，并全面了解其身份基礎(chǔ)設(shè)施，以便有機(jī)會(huì)抵御威脅行為者。–Yaron Kassner，Silverfort聯(lián)合創(chuàng)始人兼首席技術(shù)官

人工智能將推動(dòng)主動(dòng)安全模型的采用。人們將更加關(guān)注主動(dòng)方法和工具，包括防火墻、零信任、惡意軟件和強(qiáng)化。GenAI面臨的最主要威脅問題是，日益增長(zhǎng)的隱私問題、無法檢測(cè)的網(wǎng)絡(luò)釣魚攻擊以及攻擊數(shù)量/速度的增加。應(yīng)對(duì)人工智能帶來的復(fù)雜安全挑戰(zhàn)，需要戰(zhàn)略規(guī)劃和主動(dòng)措施。安全問題以一種近年來從未有過的方式出現(xiàn)了。–Mike Loukides，O’Reilly Media副總裁

人工智能的快速應(yīng)用將需要安全專業(yè)人員進(jìn)行新的評(píng)估：ChatGPT面世已經(jīng)一年了，自其首次亮相以來，我們已經(jīng)看到人工智能工具的大規(guī)模擴(kuò)散。說其改變了組織的工作方式是一種保守的說法。然而，隨著組織急于采用人工智能，許多組織對(duì)如何實(shí)現(xiàn)正確的安全控制缺乏基本的了解。到2024年，安全團(tuán)隊(duì)面臨的最大挑戰(zhàn)將是，妥善保護(hù)其組織已經(jīng)使用的人工智能工具和技術(shù)。我們已經(jīng)看到了針對(duì)GenAI模型的攻擊，如模型反演、數(shù)據(jù)中毒和提示注入；隨著行業(yè)采用更多的人工智能工具，這些新型應(yīng)用中的人工智能攻擊面將會(huì)擴(kuò)大。這將帶來一些挑戰(zhàn):改進(jìn)人工智能的使用方式，以幫助提高效率和威脅檢測(cè)，同時(shí)應(yīng)對(duì)這些工具引入的新漏洞。再加上不良行為者也在使用這些工具來幫助自動(dòng)化新威脅的開發(fā)和執(zhí)行，這已經(jīng)為新的安全事件創(chuàng)建了一個(gè)成熟的環(huán)境。就像任何新技術(shù)一樣，企業(yè)在采用人工智能時(shí)需要平衡安全性、便利性和創(chuàng)新性，并確保其了解人工智能的潛在影響。–Chaz Lever博士，Devo安全研究高級(jí)總監(jiān)

消費(fèi)者將更加關(guān)注人工智能：最近的一項(xiàng)調(diào)查發(fā)現(xiàn)，超過一半(51%)的消費(fèi)者曾是身份盜竊的受害者，或者認(rèn)識(shí)受害者，81%的消費(fèi)者擔(dān)心在網(wǎng)上購(gòu)物時(shí)出現(xiàn)人工智能欺詐。消費(fèi)者和企業(yè)有保護(hù)自己和彼此的社會(huì)責(zé)任，呼吁更多的安全工具來保護(hù)個(gè)人信息。企業(yè)對(duì)消費(fèi)者層面還必須加強(qiáng)教育，以避免數(shù)據(jù)泄露，例如在線購(gòu)物時(shí)，以及購(gòu)物者在零售商網(wǎng)站上保存支付信息時(shí)。身份驗(yàn)證工具，例如移動(dòng)身份驗(yàn)證，的重要性會(huì)越來越凸顯。–Tim Brown，Prove identity全球身份認(rèn)證官

警惕2024年生成式人工智能的武器化：今年和未來的最大威脅涉及生成式人工智能的武器化，以驅(qū)動(dòng)更復(fù)雜的網(wǎng)絡(luò)釣魚攻擊，以及我們將如何從安全角度解決這一問題。我們知道，人類的訓(xùn)練不足以陰止商業(yè)電子郵件泄露(BEC)攻擊的成功。根據(jù)美國(guó)聯(lián)邦調(diào)查局（FBI）的《互聯(lián)網(wǎng)犯罪報(bào)告》，在2022年，僅BEC就造成了約27億美元的損失，其他類型的網(wǎng)絡(luò)釣魚造成了5200萬(wàn)美元的損失。有了這樣的激勵(lì)，網(wǎng)絡(luò)犯罪分子越來越多地加倍進(jìn)行網(wǎng)絡(luò)釣魚和BEC嘗試，而生成式人工智能進(jìn)一步推動(dòng)了這一過程。到2024年，我們將看到更多此類人為攻擊，由于使用了人工智能，這些攻擊變得更加復(fù)雜和有針對(duì)性。我們需要重新考慮如何應(yīng)對(duì)這一問題的路線圖。我們應(yīng)該預(yù)料到，基于人工智能的攻擊會(huì)加速，變得更加普遍和有針對(duì)性，而且也會(huì)更加成功。攻擊者正在從依賴大量網(wǎng)絡(luò)釣魚電子郵件的發(fā)送方式，轉(zhuǎn)變?yōu)楝F(xiàn)在針對(duì)具有某人身份、銀行帳戶或個(gè)人詳細(xì)信息的特定信息的人，這使得詐騙更加令人信服。我們將看到這些社會(huì)工程攻擊的針對(duì)性和復(fù)雜性，以及最終的成功都顯著增加。電子郵件將繼續(xù)成為最大的威脅媒介，但我們現(xiàn)在在任何地方都可以看到這些攻擊，包括短信、語(yǔ)音消息、Slack等工作協(xié)作工具和社交媒體。在任何可以收到個(gè)人和商業(yè)消息的地方，都可能受到攻擊。–Patrick Harr，SlashNext首席執(zhí)行官

安全數(shù)據(jù)共享成為生成式AI驅(qū)動(dòng)的網(wǎng)絡(luò)防御的關(guān)鍵：生成式AI是一種雙重用途的技術(shù)，有可能引領(lǐng)人類前進(jìn)；但如果管理不當(dāng)，則使人類倒退，甚至走向潛在的滅絕。API推動(dòng)系統(tǒng)、軟件和數(shù)據(jù)點(diǎn)之間的集成，對(duì)于以安全、受保護(hù)的方式實(shí)現(xiàn)人工智能的潛力至關(guān)重要。人工智能在網(wǎng)絡(luò)防御中的應(yīng)用也是如此。到2024年，組織將認(rèn)識(shí)到安全的數(shù)據(jù)共享，對(duì)于構(gòu)建強(qiáng)大、有彈性的人工智能驅(qū)動(dòng)的未來至關(guān)重要。雖然人工智能無疑證明了人類的聰明才智和潛力，但其安全和合乎道德的應(yīng)用勢(shì)在必行。這不僅僅是獲取人工智能工具；這是安全集成的責(zé)任和義務(wù)，主要是通過API促進(jìn)的。–Ameya Talwalkar，Cequence Security首席執(zhí)行官兼創(chuàng)始人

人工智能驅(qū)動(dòng)的攻擊和防御：網(wǎng)絡(luò)犯罪分子將越來越多地使用人工智能(AI)來自動(dòng)化和增強(qiáng)其攻擊。作為回應(yīng)，網(wǎng)絡(luò)安全防御將更多地依賴人工智能和機(jī)器學(xué)習(xí)來進(jìn)行威脅檢測(cè)和自動(dòng)事件響應(yīng)，從而形成一場(chǎng)持續(xù)的算法之戰(zhàn)。–Joseph Carson，Delinea首席安全科學(xué)家

威脅行為者將贏得2024年人工智能之戰(zhàn)：生成式人工智能的興起引發(fā)了一場(chǎng)激烈的爭(zhēng)論。組織會(huì)及時(shí)利用生成式人工智能，還是威脅行為者會(huì)更快地利用生成式人工智能來獲得優(yōu)勢(shì)？不幸的是，隨著威脅行為者在采用生成式人工智能方面超過組織，天平將向黑暗面傾斜。準(zhǔn)備好應(yīng)對(duì)深度偽造、復(fù)雜的網(wǎng)絡(luò)釣魚活動(dòng)，以及逃避端點(diǎn)安全防御的隱形有效負(fù)載的無情攻擊。這些挑戰(zhàn)將以前所未有的方式，考驗(yàn)網(wǎng)絡(luò)安全防御者的勇氣。–Aleksandr Yampolskiy博士，SecurityScorecard聯(lián)合創(chuàng)始人兼首席執(zhí)行官

黑客將開始利用人工智能，制造一場(chǎng)危機(jī)：雖然這是偉大技術(shù)創(chuàng)新的意外后果，但我們將開始看到人工智能落入不良行為者之手可能造成損害的證據(jù)。人工智能工具可以幫助黑客提高一個(gè)數(shù)量級(jí)的生產(chǎn)力。這將使其能夠更快地植入惡意軟件，發(fā)現(xiàn)漏洞，并利用弱姿態(tài)。–Ratan Tipirneni，Tigera總裁兼首席執(zhí)行官

人工智能已經(jīng)為網(wǎng)絡(luò)防御者提供了巨大的優(yōu)勢(shì)，使其能夠提高能力、減少勞動(dòng)并更好地防御威脅。我們預(yù)計(jì)這些功能和優(yōu)勢(shì)將在2024年激增，因?yàn)榉烙邠碛性摷夹g(shù)，從而根據(jù)特定用例指導(dǎo)其開發(fā)。從本質(zhì)上講，我們擁有主場(chǎng)優(yōu)勢(shì)，并打算充分利用。另一方面，雖然我們的一線調(diào)查人員在2023年發(fā)現(xiàn)攻擊者使用人工智能的情況非常有限，但到2024年，我們預(yù)計(jì)攻擊者將使用生成式人工智能和LLM來個(gè)性化并緩慢擴(kuò)展其活動(dòng)。攻擊者將盡其所能來模糊良性和惡意人工智能應(yīng)用之間的界限，因此防御者必須采取更快、更有效的響應(yīng)行動(dòng)。–Phil Venables，Google Cloud首席信息安全官

隨著網(wǎng)絡(luò)安全攻擊風(fēng)險(xiǎn)的上升，到2024年，政府必須采取積極主動(dòng)的安全措施，確保其與居民的官方溝通渠道不被利用或受到影響，并且首先要非常謹(jǐn)慎地處理從居民那里獲得的任何敏感信息。每個(gè)人都應(yīng)該尋找的主要部分是，設(shè)置多重身份驗(yàn)證的能力，使威脅行為者盡可能難以進(jìn)入潛在的通信系統(tǒng)，如Facebook或X(以前的Twitter)。–Ben Sebree，CivicPlus研發(fā)高級(jí)副總裁

生成式AI的新惡意用途將會(huì)出現(xiàn)：對(duì)人工智能的恐懼是有根據(jù)的，但不是我們預(yù)期的方式。內(nèi)容創(chuàng)建雖然對(duì)網(wǎng)絡(luò)安全構(gòu)成風(fēng)險(xiǎn)，但現(xiàn)代解決方案可以解決這一風(fēng)險(xiǎn)。真正的威脅是，生成式人工智能正在開發(fā)計(jì)劃和組織攻擊的能力。如果這種情況發(fā)生，那就意味著人工智能可以動(dòng)態(tài)設(shè)計(jì)和執(zhí)行攻擊，并利用互聯(lián)網(wǎng)上的信息來實(shí)現(xiàn)這一點(diǎn)。生成式人工智能有望消除我們相對(duì)于對(duì)手的最大優(yōu)勢(shì)：復(fù)雜攻擊所需的時(shí)間和資源。如果生成式人工智能能夠策劃攻擊，就會(huì)極大地改變力量平衡。如今，黑客需要數(shù)周時(shí)間才能發(fā)現(xiàn)漏洞。未來，人工智能可以在幾秒鐘或幾分鐘內(nèi)完成同樣的事情；而且不需要一支具有不同技能的黑客團(tuán)隊(duì)，只需要一個(gè)人來處理人工智能。–Adrien Gendre，Vade首席產(chǎn)品和技術(shù)官

人們很容易通過極其負(fù)面的視角，來看待不良行為者為邪惡目的而對(duì)微調(diào)LLM的網(wǎng)絡(luò)安全影響。雖然人工智能確實(shí)將使黑客能夠擴(kuò)展其所做的工作，但對(duì)于安全專業(yè)人員而言亦是如此。好消息是各國(guó)政府并沒有坐以待斃。構(gòu)建定制LLM為其他注重安全的政府機(jī)構(gòu)和商業(yè)組織提供了一條可行的前進(jìn)道路。雖然只有資金雄厚的大型技術(shù)企業(yè)才有資源從頭開始建立LLM，但許多企業(yè)都擁有專業(yè)知識(shí)和資源來微調(diào)開源LLM，以減輕不良行為者的威脅。我們有責(zé)任確保，無論出于惡意目的而創(chuàng)建的是什么，都要有一種平等的、相反的力量，來為善創(chuàng)造相同的工具集。–Aaron Mulgrew，F(xiàn)orcepoint解決方案架構(gòu)師

自2022年以來，我們見證了數(shù)據(jù)安全和監(jiān)管合規(guī)技術(shù)領(lǐng)域的顯著轉(zhuǎn)變。這一轉(zhuǎn)變標(biāo)志著技術(shù)整合的開始，預(yù)計(jì)未來幾年將持續(xù)下去。隨著消費(fèi)者尋求滿足數(shù)據(jù)安全和監(jiān)管要求的解決方案，同時(shí)最大限度地減少所需的專業(yè)知識(shí)、成本和工作量，利基和單一解決方案產(chǎn)品和供應(yīng)商越來越受到收購(gòu)和合作伙伴的追捧。使2024年變得特別有趣的是最近的發(fā)展和收購(gòu)，目前表明供應(yīng)商將在新的一年中采取一些不同的路徑——一些供應(yīng)商將優(yōu)先考慮增強(qiáng)其云功能，而另一些供應(yīng)商將合并現(xiàn)有技術(shù)，以提供整合的一體化產(chǎn)品。其他企業(yè)只是想回答數(shù)據(jù)風(fēng)險(xiǎn)問題。這些發(fā)展將會(huì)有重疊，但最終的贏家將是消費(fèi)者，其將看到企業(yè)數(shù)據(jù)資產(chǎn)覆蓋范圍的大幅增長(zhǎng)、技能要求的降低，以及傳統(tǒng)細(xì)分技術(shù)之間協(xié)同作用的提高。–Terry Ray，Imperva副總裁兼首席技術(shù)官

對(duì)數(shù)據(jù)和人工智能的信任將是做出明智決策的首要條件，但這種信任只能通過了解來實(shí)現(xiàn)。首席執(zhí)行官需要了解企業(yè)如何收集和構(gòu)建數(shù)據(jù)、其數(shù)據(jù)基礎(chǔ)設(shè)施有哪些方面可以改進(jìn)，以及在2024年能夠有效使用人工智能的局限性。這意味著數(shù)據(jù)基礎(chǔ)設(shè)施、質(zhì)量、安全性和完整性，不能簡(jiǎn)單地委托給首席技術(shù)官(CTO)、首席信息官(CIO)或首席數(shù)據(jù)官(CDO)。首席執(zhí)行官必須非常熟悉其在人工智能中投入的內(nèi)容，以便在適當(dāng)?shù)谋尘跋聦?duì)人工智能產(chǎn)生的結(jié)果采取行動(dòng)。–Allison Arzeno，Assurance IQ首席執(zhí)行官

人工智能投資的激增，將引發(fā)人工智能安全的重大轉(zhuǎn)變，重塑技術(shù)安全格局：2024年，隨著人工智能投資的持續(xù)激增，人工智能安全領(lǐng)域?qū)⒊霈F(xiàn)關(guān)鍵轉(zhuǎn)變。隨著人工智能模型，特別是大型語(yǔ)言模型和生成式人工智能，被集成到不同行業(yè)軟件鏈的各個(gè)方面，保護(hù)這些技術(shù)免受快速注入和其他惡意攻擊等不斷變化的威脅的需求將達(dá)到前所未有的水平。盡管這些進(jìn)步相對(duì)新穎，但嚴(yán)格的安全措施的必要性將受到關(guān)注，這標(biāo)志著人工智能技術(shù)發(fā)展歷程中的一個(gè)分水嶺時(shí)刻。當(dāng)我們繼續(xù)努力應(yīng)對(duì)海量數(shù)據(jù)和新挑戰(zhàn)的未知領(lǐng)域時(shí)，將見證共同努力來鞏固邊界，并確保這一變革性技術(shù)的負(fù)責(zé)任增長(zhǎng)。–JP Perez-Etchegoyen，Onapsis首席技術(shù)官

到2024年，將過渡到人工智能生成的定制惡意軟件和網(wǎng)絡(luò)攻擊的全面自動(dòng)化：網(wǎng)絡(luò)安全團(tuán)隊(duì)面臨著使用生成式人工智能和其他高級(jí)工具快速自動(dòng)化創(chuàng)建和執(zhí)行惡意軟件的重大威脅。2023年，能夠生成高度定制惡意軟件的人工智能系統(tǒng)出現(xiàn)，為威脅行為者提供了新的強(qiáng)大武器。來年，重點(diǎn)將從僅僅生成定制的惡意軟件轉(zhuǎn)向自動(dòng)化整個(gè)攻擊過程。這將使即使是不熟練的威脅行為者也更容易發(fā)起成功的攻擊。–Adi Dubin，Skybox Security產(chǎn)品管理副總裁

生成式人工智能將成為影子IT的最大推動(dòng)者：傳統(tǒng)上對(duì)影子IT的擔(dān)憂主要圍繞成本控制，但今年，隨著生成式人工智能服務(wù)在企業(yè)內(nèi)未經(jīng)批準(zhǔn)的使用迅速增長(zhǎng)，這種風(fēng)險(xiǎn)已經(jīng)擴(kuò)大到知識(shí)產(chǎn)權(quán)和客戶數(shù)據(jù)暴露在組織之外。到2024年，我們預(yù)計(jì)，如果企業(yè)沒有強(qiáng)大的人工智能合規(guī)政策，和對(duì)員工使用的工具的可見性，那么其PII暴露率會(huì)更高。還可以，至少會(huì)出現(xiàn)幾起專有源代碼被無意中用于訓(xùn)練不受IT控制的人工智能模型的事件。這對(duì)整個(gè)技術(shù)團(tuán)隊(duì)和企業(yè)領(lǐng)導(dǎo)者來說是一個(gè)重要的警鐘，應(yīng)迫切需要圍繞負(fù)責(zé)任的生成式人工智能使用制定積極主動(dòng)的強(qiáng)制計(jì)劃。–Heath Thompson，Quest Software總裁兼總經(jīng)理

以人工智能為中心的監(jiān)控系統(tǒng)：安全與安防：在發(fā)生安全事件時(shí)，傳統(tǒng)的視頻監(jiān)控系統(tǒng)需要有人審查數(shù)小時(shí)的鏡頭以發(fā)現(xiàn)關(guān)鍵事件，這是一個(gè)耗時(shí)的過程，可能會(huì)延遲響應(yīng)。視頻監(jiān)控行業(yè)準(zhǔn)備向人工智能驅(qū)動(dòng)的安全系統(tǒng)轉(zhuǎn)型。傳統(tǒng)視頻監(jiān)控系統(tǒng)正在向全面的人工智能安防解決方案演進(jìn)。這些系統(tǒng)將記錄視頻片段，但也會(huì)做更多的事情來增強(qiáng)安全性。這種轉(zhuǎn)變反映了這樣一個(gè)事實(shí)：客戶對(duì)視頻不再那么感興趣，而更關(guān)心預(yù)防和解決安全問題。利用機(jī)器學(xué)習(xí)、算法和計(jì)算機(jī)視覺，人工智能安全和安保系統(tǒng)將有效處理和解釋視頻內(nèi)容，從而實(shí)現(xiàn)實(shí)時(shí)威脅檢測(cè)。這些人工智能驅(qū)動(dòng)的安全系統(tǒng)將成為常態(tài)，提供智能、主動(dòng)的解決方案，最大限度地減少問題，并增強(qiáng)各種類型環(huán)境的整體安全性。–Dean Drako，Eagle Eye Networks首席執(zhí)行官

普遍存在的基于人工智能的網(wǎng)絡(luò)攻擊導(dǎo)致“多重危機(jī)”的出現(xiàn)：我們?cè)?022年看到了人工智能的出現(xiàn)，看到了濫用人工智能作為攻擊媒介的出現(xiàn)，這有助于進(jìn)行網(wǎng)絡(luò)釣魚嘗試更敏銳、更有效。到2024年，預(yù)計(jì)隨著企業(yè)轉(zhuǎn)型，網(wǎng)絡(luò)攻擊將變得普遍。如今，人工智能愛好者有可能成為人工智能即時(shí)注入的犧牲品。到2024年，攻擊者將發(fā)現(xiàn)利用人工智能更容易攻擊傳統(tǒng)IT和云容器，以及越來越多的ICS和OT環(huán)境，從而導(dǎo)致“多重危機(jī)”的出現(xiàn)。這種危機(jī)不僅威脅到金融影響，同時(shí)還會(huì)產(chǎn)生連鎖效應(yīng)，影響人類生活。由于地緣政治威脅的增加，關(guān)鍵計(jì)算基礎(chǔ)設(shè)施將面臨更大的威脅。網(wǎng)絡(luò)防御將實(shí)現(xiàn)自動(dòng)化，利用人工智能來適應(yīng)更新的攻擊模型。–Agnidipta Sarkar，ColorTokens副首席信息安全顧問

生成式AI的安全計(jì)劃：隨著企業(yè)開始將生成式AI項(xiàng)目從實(shí)驗(yàn)階段轉(zhuǎn)向生產(chǎn)階段，對(duì)數(shù)據(jù)安全的擔(dān)憂變得至關(guān)重要。經(jīng)過敏感數(shù)據(jù)培訓(xùn)的LLM可能會(huì)被操縱，通過即時(shí)注入攻擊來暴露該數(shù)據(jù)。有權(quán)訪問敏感數(shù)據(jù)的LLM會(huì)帶來合規(guī)、安全和治理風(fēng)險(xiǎn)。圍繞在生產(chǎn)中保護(hù)LLM的工作，將需要組織更多地關(guān)注數(shù)據(jù)發(fā)現(xiàn)和分類，以便為“提供”語(yǔ)言模型的數(shù)據(jù)創(chuàng)建透明度。–Dan Benjamin，Dig Security首席執(zhí)行官兼聯(lián)合創(chuàng)始人

生成式人工智能將增強(qiáng)而不是取代網(wǎng)絡(luò)安全中的SOC分析師：隨著網(wǎng)絡(luò)安全領(lǐng)域的發(fā)展，由于其成熟度的限制，生成式人工智能在安全運(yùn)營(yíng)中心(SOC)中的作用將以增強(qiáng)而不是取代人類分析師為特征。新一代人工智能將主要通過必要的專業(yè)知識(shí)，來協(xié)助和提高SOC員工的能力，以解釋其輸出，這對(duì)中級(jí)分析師尤其有價(jià)值。企業(yè)將需要在營(yíng)銷炒作中辨別真正的新一代人工智能貢獻(xiàn)，在投資于新一代人工智能等更多技術(shù)或雇傭額外的SOC分析師之間的爭(zhēng)論將持續(xù)下去，而人為因素仍然至關(guān)重要。成功將取決于將這些工具與分析人員的工作流程結(jié)合起來，而不是依賴于膚淺的智能。–Andrew Hollister，loghyth實(shí)驗(yàn)室研發(fā)副總裁兼首席信息安全官

到2024年底，美國(guó)95%的消費(fèi)者將成為深度偽造的受害者：每個(gè)企業(yè)和消費(fèi)者都在追隨人工智能潮流，欺詐者也不例外。網(wǎng)絡(luò)犯罪分子此前已經(jīng)找到了欺騙系統(tǒng)的方法。2023年初，其被發(fā)現(xiàn)繞過ChatGPT的反濫用限制來生成和審查惡意代碼。現(xiàn)在，ChatGPT已完全連接到互聯(lián)網(wǎng)，并且能夠生成圖像——這是完美深度偽造的秘訣。2023年，52%的消費(fèi)者認(rèn)為其可以檢測(cè)到深度偽造視頻，這反映出消費(fèi)者的過度自信。深度偽造已經(jīng)變得非常復(fù)雜，幾乎無法用肉眼檢測(cè)到，而現(xiàn)在生成式人工智能使其創(chuàng)作變得比以往任何時(shí)候都更容易。錯(cuò)誤信息已經(jīng)像野火一樣蔓延，而隨著即將到來的選舉，深度偽造只會(huì)變得更加復(fù)雜。到2024年底，絕大多數(shù)美國(guó)消費(fèi)者都將接觸到深度偽造，無論是否知道這是合成媒體。–Stuart Wells，Jumio首席技術(shù)官

無論頭條新聞如何暗示，根據(jù)我們?cè)诎踩\(yùn)營(yíng)中心親眼所見，2024年企業(yè)網(wǎng)絡(luò)面臨的最大風(fēng)險(xiǎn)不會(huì)來自人工智能發(fā)起的攻擊。人工智能有望為防御者和攻擊者提供支持，但我們看到，當(dāng)缺乏可見性或安全控制時(shí)，網(wǎng)絡(luò)攻擊實(shí)際上進(jìn)展得最快。為什么這一點(diǎn)值得注意？雖然最近圍繞人工智能的炒作和隨后的恐懼只會(huì)繼續(xù)下去，但最大的威脅將來自現(xiàn)有的漏洞和不安全的配置，而攻擊者不需要人工智能來利用這些漏洞。–Aaron Walton，Expel威脅情報(bào)分析師

2024年，人工智能只會(huì)讓不良行為者更容易進(jìn)行有針對(duì)性的攻擊。如今的攻擊很簡(jiǎn)單，其將繼續(xù)瞄準(zhǔn)我們從一開始就沒能彌補(bǔ)的缺陷——太多的連接，沒有足夠的可見性或洞察力來了解什么在與什么通信。在建立網(wǎng)絡(luò)彈性方面，更廣泛地采用零信任和“假設(shè)違約”方法確實(shí)是我們?nèi)〉眠M(jìn)展的唯一途徑。否則，我們將繼續(xù)看到網(wǎng)絡(luò)空間的巨大損失。–Paul Dant，Illumio網(wǎng)絡(luò)安全戰(zhàn)略與研究高級(jí)總監(jiān)

存儲(chǔ)

人工智能將加速存儲(chǔ)和安全要求：從本質(zhì)上講，生成式人工智能模型會(huì)產(chǎn)生大量數(shù)據(jù)。因此，在接下來的一年中，組織預(yù)計(jì)其數(shù)據(jù)存儲(chǔ)和安全需求將激增，從而導(dǎo)致對(duì)可擴(kuò)展存儲(chǔ)解決方案的投資，無論是本地、基于云還是混合。人工智能生成的數(shù)據(jù)的動(dòng)態(tài)和連續(xù)生產(chǎn)將需要更頻繁的備份周期，企業(yè)將需要實(shí)施更強(qiáng)大的數(shù)據(jù)生命周期管理解決方案來確定數(shù)據(jù)保留、歸檔或刪除策略，確保只長(zhǎng)期存儲(chǔ)有價(jià)值的數(shù)據(jù)。鑒于人工智能生成的見解對(duì)業(yè)務(wù)至關(guān)重要，確保備份的完整性也至關(guān)重要。鑒于人工智能生成的數(shù)據(jù)可能敏感且關(guān)鍵，加強(qiáng)的安全措施將是加速存儲(chǔ)難題的最后一部分，這意味著數(shù)據(jù)安全需要融入所有生成人工智能項(xiàng)目的結(jié)構(gòu)中，包括預(yù)防、檢測(cè)和數(shù)據(jù)可恢復(fù)性。–Tony Liau，Object First產(chǎn)品副總裁

我們最終克服了數(shù)據(jù)孤島問題：到2024年，組織將越來越多地采用并行全球文件系統(tǒng)，真正實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型。文件系統(tǒng)傳統(tǒng)上隱藏在專有存儲(chǔ)層中，該存儲(chǔ)層通常將文件系統(tǒng)和組織的數(shù)據(jù)鎖定到存儲(chǔ)供應(yīng)商平臺(tái)中。將數(shù)據(jù)從一個(gè)供應(yīng)商的存儲(chǔ)類型移動(dòng)到另一個(gè)供應(yīng)商的存儲(chǔ)類型，或者移動(dòng)到不同的位置或云，涉及創(chuàng)建文件系統(tǒng)元數(shù)據(jù)和實(shí)際文件本質(zhì)的新副本。文件副本的激增，以及跨孤島啟動(dòng)副本管理所需的復(fù)雜性會(huì)中斷用戶訪問，并且是阻礙IT現(xiàn)代化和整合的關(guān)鍵問題。傳統(tǒng)的文件系統(tǒng)范例被困在供應(yīng)商的存儲(chǔ)平臺(tái)中，在單個(gè)數(shù)據(jù)中心的孤島中是不方便的。但越來越多的云遷移使問題變得更加復(fù)雜，因?yàn)閾碛写罅糠墙Y(jié)構(gòu)化數(shù)據(jù)的企業(yè)，通常很難將所有文件完全遷移到云中。與試圖通過將文件副本從一個(gè)地方轉(zhuǎn)移到另一個(gè)地方來管理存儲(chǔ)孤島和分布式環(huán)境的解決方案不同，可以跨越來自任何供應(yīng)商的所有存儲(chǔ)類型，并跨單個(gè)或多個(gè)位置和云的高性能并行全局文件系統(tǒng)更加有效。–Molly Presley，Hammerspace營(yíng)銷高級(jí)副總裁

從專用存儲(chǔ)到AI平臺(tái)的優(yōu)化商品存儲(chǔ)：AI工作負(fù)載的增長(zhǎng)，推動(dòng)了針對(duì)速度和吞吐量進(jìn)行優(yōu)化的專用高性能計(jì)算(HPC)存儲(chǔ)的采用。但到2024年，預(yù)計(jì)將轉(zhuǎn)向商品化存儲(chǔ)。云對(duì)象存儲(chǔ)、NVMe閃存和其他存儲(chǔ)解決方案將進(jìn)行優(yōu)化，以實(shí)現(xiàn)經(jīng)濟(jì)高效的可擴(kuò)展性。專用存儲(chǔ)的高成本和復(fù)雜性，將讓位于針對(duì)人工智能需求量身定制的靈活、更便宜、易于管理的商品存儲(chǔ)，從而使更多組織能夠使用經(jīng)濟(jì)高效的解決方案，來存儲(chǔ)和處理數(shù)據(jù)密集型工作負(fù)載。–Haoyuan Li，Alluxio創(chuàng)始人兼首席執(zhí)行官

綜合數(shù)據(jù)

人工智能生成的數(shù)據(jù)：數(shù)據(jù)一直被視為做出明智決策的可靠且公正的方式。當(dāng)我們應(yīng)對(duì)人工智能生成數(shù)據(jù)的增長(zhǎng)時(shí)，組織將需要花費(fèi)時(shí)間和監(jiān)督來驗(yàn)證數(shù)據(jù)或風(fēng)險(xiǎn)幻覺結(jié)果。這些數(shù)據(jù)集的另一個(gè)重大影響是，數(shù)據(jù)在網(wǎng)絡(luò)攻擊中被修改的風(fēng)險(xiǎn)，這造成結(jié)果將是災(zāi)難性的。我們依靠正確的數(shù)據(jù)來投票、接受政府服務(wù)、登錄工作設(shè)備和應(yīng)用，并做出明智的、數(shù)據(jù)驅(qū)動(dòng)的決策。如果組織或政府的數(shù)據(jù)被威脅行為者修改，或者我們?cè)谖唇?jīng)驗(yàn)證的情況下過于信任人工智能生成的數(shù)據(jù)，將會(huì)產(chǎn)生廣泛的后果。–Sri Mukkamala，Ivanti首席產(chǎn)品官

垂直行業(yè)/應(yīng)用

強(qiáng)大的數(shù)據(jù)引擎將使金融數(shù)據(jù)移動(dòng)成為可能：金融組織剛剛開始意識(shí)到其數(shù)據(jù)的潛力，將其用于財(cái)務(wù)規(guī)劃和分析、預(yù)算規(guī)劃等方面的指導(dǎo)。然而，大部分?jǐn)?shù)據(jù)仍然是孤立的，我們已經(jīng)達(dá)到了這樣的程度：這些組織擁有如此多的數(shù)據(jù)，需要開始思考這些數(shù)據(jù)如何為企業(yè)帶來價(jià)值，否則就會(huì)面臨失去競(jìng)爭(zhēng)優(yōu)勢(shì)的風(fēng)險(xiǎn)。到2024年，我們將看到金融組織尋求對(duì)其跨存儲(chǔ)庫(kù)的數(shù)據(jù)進(jìn)行分類和協(xié)調(diào)，以實(shí)現(xiàn)新的解決方案。因此，數(shù)據(jù)引擎、數(shù)據(jù)平臺(tái)和數(shù)據(jù)湖，將成為有效理解和利用此類數(shù)據(jù)的關(guān)鍵工具。因此，我們預(yù)計(jì)金融科技應(yīng)用將不斷增長(zhǎng)，從而實(shí)現(xiàn)聚合數(shù)據(jù)分析、報(bào)告和可視化。–Bernie Emsley，insightsoftware首席技術(shù)官

人工智能將成為2024年聯(lián)絡(luò)中心內(nèi)持續(xù)學(xué)習(xí)文化培養(yǎng)的推動(dòng)力，提高代理的批判性思維能力。認(rèn)識(shí)到適應(yīng)性的作用，聯(lián)絡(luò)中心管理者將分配資金用于培訓(xùn)計(jì)劃，使代理能夠適應(yīng)不斷變化的挑戰(zhàn)，并認(rèn)識(shí)到這些技能對(duì)未來生產(chǎn)力至關(guān)重要。超過60%的管理者認(rèn)為批判性思維是未來代理所需的首要技能。招聘策略將側(cè)重于表現(xiàn)出強(qiáng)大的批判性思維能力和不斷學(xué)習(xí)新技能的積極意愿的個(gè)人。–Dave Hoekstra，Calabrio首席產(chǎn)品官

全章【完】！

若想查看“2024年大數(shù)據(jù)行業(yè)預(yù)測(cè)”相關(guān)篇章，請(qǐng)點(diǎn)擊：

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。