亞馬遜云科技代聞：大語言模型應(yīng)用加速“零信任”在企業(yè)落地

9月6日消息，近日，亞馬遜云科技re:Inforce 2023中國站峰會召開。作為一年一度云安全的大會，re:Inforce 2023全球大會6月在美國召開并發(fā)布了一系列新安全服務(wù)。這次中國站的大會則將關(guān)注點(diǎn)聚焦在“AI時代的安全”。

事實(shí)上，在過去大半年的時間里，生成式AI應(yīng)用場景在全球呈現(xiàn)井噴式發(fā)展。生成式AI已經(jīng)應(yīng)用到企業(yè)創(chuàng)新的各個環(huán)節(jié)，包括智能客服、自動生成代碼、創(chuàng)意內(nèi)容生產(chǎn)等等。生成式AI應(yīng)用如此廣泛的與企業(yè)生產(chǎn)、用戶生活聯(lián)系起來，安全的重要性不言而喻。

“一個很有意思的現(xiàn)象是，生成式AI的需求越來越多從業(yè)務(wù)部門提出。生成式AI不只是技術(shù)部門進(jìn)行創(chuàng)新的工具或平臺，而是變成了業(yè)務(wù)增強(qiáng)競爭力的一個核心手段”，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞表示，生成式AI應(yīng)用需求如此旺盛，給企業(yè)技術(shù)部門帶來了前所未有的挑戰(zhàn)。

如何構(gòu)建一套完備的生成式AI應(yīng)用安全保護(hù)屏障？代聞強(qiáng)調(diào)，應(yīng)從全棧角度來考慮安全問題，構(gòu)建生成式AI應(yīng)用的安全問題包括三個方面：數(shù)據(jù)和模型的安全、應(yīng)用安全、全球合規(guī)。

首先，數(shù)據(jù)和模型安全是構(gòu)建AI應(yīng)用的關(guān)鍵。

這其中，數(shù)據(jù)安全涉及到保護(hù)存儲中、傳輸中、使用中的數(shù)據(jù)安全。代聞表示，亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢，再到將數(shù)據(jù)傳輸給 AI平臺進(jìn)行模型的訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類和治理。

代聞?wù)J為，對于大模型訓(xùn)練而言，通過對靜態(tài)數(shù)據(jù)的加密只是一個基本的防護(hù)。另一個很重要的對數(shù)據(jù)的保護(hù)是“如何能識別敏感數(shù)據(jù)”，比信用卡的卡號、身份證ID等等。

此次大會上，亞馬遜云科技新推出了“敏感數(shù)據(jù)保護(hù)解決方案”。據(jù)介紹，該方案可以集中管理所有的賬號，同時自動地發(fā)現(xiàn)各種存儲中的敏感數(shù)據(jù)，該解決方案允許客戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型，該方案利用機(jī)器學(xué)習(xí)、模式匹配的方式自動識別敏感數(shù)據(jù)，并提供可視化面板，幫助客戶更輕松地對敏感數(shù)據(jù)進(jìn)行管理和保護(hù)。

模型訓(xùn)練后進(jìn)入生產(chǎn)環(huán)境的安全防護(hù)同樣重要。此前亞馬遜云科技已推出Amazon Bedrock和多種生成式AI服務(wù)和功能，以幫助客戶構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序。代聞介紹，Amazon Bedrock全面地使用亞馬遜云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、權(quán)限控制和所有行為的日志。

第二，應(yīng)用安全是實(shí)現(xiàn)AI價值的保障。

代聞表示，生成式AI應(yīng)用安全應(yīng)該貫穿從開發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個反饋的過程。

具體應(yīng)用時，代聞強(qiáng)調(diào)：“大語言模型最后要變成應(yīng)用來提供服務(wù)，怎么樣讓大語言模型為企業(yè)內(nèi)不同的人提供不同的API，以前是靠應(yīng)用程序和網(wǎng)絡(luò)邊界來隔離的，現(xiàn)在網(wǎng)絡(luò)邊界已經(jīng)不足夠了，網(wǎng)絡(luò)邊界只是用戶認(rèn)證的基礎(chǔ)條件，大語言模型的出現(xiàn)加速了零信任在企業(yè)中的落地?！?/p>

企業(yè)需要對訪問大模型的應(yīng)用進(jìn)行權(quán)限管理，確保只有在擁有特定權(quán)限的應(yīng)用，才能訪問或者調(diào)用大模型里的制定API。代聞介紹，亞馬遜云科技推出幾個工具，幫助客戶在自己的亞馬遜云科技環(huán)境下構(gòu)建這套機(jī)制：

Amazon Verified Access 可以搭建一套無需VPN的網(wǎng)絡(luò)驗(yàn)證系統(tǒng)，Amazon Verified Access還支持可以設(shè)置規(guī)則。這些管控，可以在幾乎不對應(yīng)用進(jìn)行任何代碼改變的情況下部署和發(fā)生。

亞馬遜云科技日前推出了Amazon Verified Permissions，為用戶構(gòu)建的應(yīng)用程序提供細(xì)粒度授權(quán)和權(quán)限管理，用戶可以使用該服務(wù)管理其應(yīng)用程序的角色和屬性的訪問控制。

此外，代聞也特別提到：“零信任和網(wǎng)絡(luò)控制并不是一個二選一的關(guān)系，在亞馬遜云科技看來，零信任能夠?qū)崿F(xiàn)按需的授權(quán)和認(rèn)證，而網(wǎng)絡(luò)控制依然是非常需要的，把這兩個概念應(yīng)該加起來，才能夠?qū)崿F(xiàn)企業(yè)的端到端的應(yīng)用安全，尤其在大模型的時代中?！?/p>

第三，全球合規(guī)重要性與日俱增

大模型運(yùn)用帶來的業(yè)務(wù)的變化給安全帶來的挑戰(zhàn)，當(dāng)前合規(guī)環(huán)境不斷變化，已經(jīng)有超過130多個國家和地區(qū)制定和頒布了數(shù)據(jù)保護(hù)和隱私安全相關(guān)的法律法規(guī)，安全合規(guī)變得越來越重要。

代聞介紹，亞馬遜云科技在全球獲得140多個安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中，能夠?yàn)榇笠?guī)模批量審查提供安全控制，利用自動化減少手工操作以降低錯誤，利用AI提供一致性判斷，利用AI/ML技術(shù)實(shí)現(xiàn)自動審查，全面提升合規(guī)效率。同時，亞馬遜云科技APN合作伙伴網(wǎng)絡(luò)提供數(shù)百種行業(yè)領(lǐng)先的安全解決方案，實(shí)現(xiàn)多層保護(hù)客戶的應(yīng)用和數(shù)據(jù)安全。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。