AI是企業(yè)的朋友還是敵人？集成genAI的挑戰(zhàn)與機(jī)遇

極客網(wǎng)·企業(yè)級IT 6月13日 SolarWinds公司最新發(fā)布的2024年IT趨勢報(bào)告《AI：朋友還是敵人？》顯示，盡管90%的IT專業(yè)人士希望在其組織中實(shí)施生成性人工智能（genAI），但超過一半的人對集成、安全和隱私問題表示擔(dān)憂。

在對大約7000名IT專業(yè)人士進(jìn)行的在線調(diào)查中，SolarWinds公司發(fā)現(xiàn)，盡管幾乎所有受訪者都渴望采用genAI和其他基于AI的工具，但不到一半的受訪者認(rèn)為他們的基礎(chǔ)設(shè)施能夠適應(yīng)這項(xiàng)新技術(shù)。只有43%的受訪者表示他們相信公司的數(shù)據(jù)庫能夠滿足AI增加的需求，而更少的人（38%）信任用于開發(fā)這項(xiàng)技術(shù)的數(shù)據(jù)或訓(xùn)練的質(zhì)量。

報(bào)告指出，隱私和安全問題被認(rèn)為是genAI集成的主要障礙，IT專業(yè)人士特別呼吁增加政府監(jiān)管來解決安全（72%）和隱私（64%）問題。當(dāng)被問及AI的挑戰(zhàn)時(shí)，41%的受訪者表示他們有過負(fù)面經(jīng)歷；其中，隱私問題（48%）和安全風(fēng)險(xiǎn)（43%）是最常被提及的。

超過一半的受訪者還認(rèn)為，政府監(jiān)管應(yīng)該在打擊虛假信息方面發(fā)揮作用。報(bào)告中提到：“為了確保AI的成功和安全采用，IT專業(yè)人士認(rèn)識到，組織必須制定關(guān)于道德、數(shù)據(jù)隱私和合規(guī)性的全面政策，這指向了道德考慮和對工作被取代的擔(dān)憂，作為AI采用的其他重要障礙?！?/p>

SolarWinds報(bào)告還發(fā)現(xiàn)，超過三分之一的組織仍然缺乏指導(dǎo)適當(dāng)genAI實(shí)施的道德、隱私和合規(guī)政策。SolarWinds的技術(shù)和工程高級副總裁Krishna Sai表示：“盡管AI的討論在行業(yè)中占據(jù)了主導(dǎo)地位，但I(xiàn)T領(lǐng)導(dǎo)者和團(tuán)隊(duì)認(rèn)識到，這項(xiàng)仍在發(fā)展中的技術(shù)存在巨大的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)因急于快速而非智能地構(gòu)建AI而加劇?！?/p>

事實(shí)上，領(lǐng)先的安全專家預(yù)測，黑客將越來越多地針對genAI系統(tǒng)，并嘗試通過破壞數(shù)據(jù)或模型本身來“投毒”。今年早些時(shí)候，美國國家標(biāo)準(zhǔn)技術(shù)研究院（NIST）發(fā)表了一篇論文，警告說“投毒攻擊非常強(qiáng)大，可以導(dǎo)致可用性違規(guī)或完整性違規(guī)。”

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。