Amazon Bedrock上新多項新功能，讓生成式AI應用學得廣、說得準、記得住

7月17日消息，剛剛結(jié)束的亞馬遜云科技紐約峰會，生成式AI仍然是重點。在會上，亞馬遜云科技圍繞其生成式AI三層架構(gòu)中的中間層Amazon Bedrock和應用層Amazon Q生成式AI助手推出了多項新功能和新服務。

亞馬遜云科技生成式AI三層架構(gòu)

以Transformer架構(gòu)為基礎(chǔ)的大模型“天生”就存在一些弱點，比如幻覺現(xiàn)象、專業(yè)知識不夠、缺乏長期記憶力等等。以大模型為基礎(chǔ)打造的生成式AI應用自然天生也會“遺傳上”這些問題。

Amazon Bedrock提供了利用LLM和其他基礎(chǔ)模型輕松快速地構(gòu)建、部署和擴展生成性AI應用程序的工具。

這次大會上，亞馬遜云科技針對中間層Amazon Bedrock的功能和服務上新，重點解決基礎(chǔ)大模型專業(yè)知識不夠、幻覺、缺乏長期記憶等問題。

1、解決數(shù)據(jù)不夠“?！焙汀皬V”的問題

目前，行業(yè)內(nèi)通常會使用外掛數(shù)據(jù)庫檢索增強生成（RAG）來幫助基礎(chǔ)模型提供更相關(guān)、準確和定制的響應。

Amazon Bedrock的知識庫功能備受關(guān)注，它可以讓模型讀懂用戶專屬的內(nèi)容以擴充模型的知識面，從而提升生成結(jié)果的關(guān)聯(lián)性和準確性。

Amazon Bedrock這次更新擴大了數(shù)據(jù)連據(jù)器范圍，除了Amazon S3之外，用戶現(xiàn)在還可以將第三方Web域數(shù)據(jù)源、Confluence、Salesforce和SharePoint作為數(shù)據(jù)源接入到Amazon Bedrock當中。

比如，很多用戶在Web域中存儲日常使用的數(shù)據(jù)，這項更新使得這些用戶能夠更方便地將生成式AI帶入到其日常應用場景當中。

2、解決一本正經(jīng)的胡說八道的幻覺問題

生成式AI應用生成的結(jié)果有時會出現(xiàn)幻覺現(xiàn)象，為了解決這個為題，這次Amazon Bedrock在其Guardrails（護欄）中推出了基于上下文基礎(chǔ)檢查、情境基礎(chǔ)檢查的幻覺檢測功能。

事實上，Amazon Bedrock的Guardrails首次在re:Invent 2023預覽版中發(fā)布，支持內(nèi)容過濾和拒絕主題等政策。在2024年4月正式發(fā)布時，Guardrails支持四種保護措施：拒絕主題、內(nèi)容過濾器、敏感信息過濾器和文字過濾器。

這一次，Amazon Bedrock宣布推出另外兩項功能：

一是，基于上下文基礎(chǔ)檢查的幻覺檢測功能，

二是，Amazon Bedrock的Guardrails支持新的ApplyGuardrail API，Apply Guardrail API可評估所有基礎(chǔ)模型（包括Amazon Bedrock上的大模型、自定義和第三方大模型）的輸入提示和模型響應，從而實現(xiàn)對所有生成人工智能應用程序的集中管理。

基于上下文基礎(chǔ)檢查的幻覺檢測功能是一種檢測幻覺的新策略類型，是在之前推出的四種檢測保護措施后的第五種保障措施?？梢栽诓换谄髽I(yè)數(shù)據(jù)或與用戶查詢無關(guān)的模型響應中檢測幻覺。這可用于提高RAG、摘要或信息提取等用例中的響應質(zhì)量。

基于上下文基礎(chǔ)檢查的幻覺檢測功能有兩個過濾參數(shù)（Grounding和Relevance）：

設(shè)定閾值

用戶現(xiàn)在可以在Amazon Bedrock的Guardrails中設(shè)置針對生成結(jié)果準確性的關(guān)聯(lián)值，低于這一設(shè)定閾值的生成結(jié)果就會被Guardrails判定為不相關(guān)的幻覺結(jié)果并不予顯示。這項功能是通過對上下文的基礎(chǔ)性檢查來提供的，以更好的避免基礎(chǔ)模型產(chǎn)生的幻覺問題。

例如，用戶可以使用Amazon Bedrock知識庫的上下文基礎(chǔ)檢查，通過過濾不基于企業(yè)數(shù)據(jù)的不準確響應來部署值得信賴的RAG應用程序。從企業(yè)數(shù)據(jù)源檢索到的結(jié)果被上下文基礎(chǔ)檢查策略用作參考源，以驗證模型響應。

3、解決記不住的問題

針對生成式AI記不住的問題，Amazon Bedrock的代理（Agent）功能推出了 跨多個交互的記憶保留特性，基于該功能構(gòu)建的代理（現(xiàn)在也被稱為智能體），能夠隨時間推移學習并適應每個用戶的獨特需求和偏好，同時多個記憶之間完全分離，每個用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下。這項功能將有助于提升預訂航班或是處理客戶反饋等復雜任務代理下的用戶體驗。

用戶可設(shè)置1-30天的內(nèi)存持續(xù)時間，超過此期間的所有會話摘要都將被刪除。

例如，企業(yè)用于處理客戶反饋的智能體現(xiàn)在可以知道與同一客戶之前和正在進行的交互。每個用戶的對話歷史和上下文都安全地存儲在唯一的內(nèi)存標識符（ID）下，確保用戶之間的完全分離。通過記憶保留，可以更容易地構(gòu)建提供無縫、自適應和個性化體驗的智能體。

此外，Amazon Bedrock還推出了代碼解釋支持功能，它允許Agent代理在安全的沙箱環(huán)境中動態(tài)生成和運行代碼片段，從而顯著提升其處理復雜任務的能力，包括數(shù)據(jù)分析、可視化、文本處理、方程求解和優(yōu)化問題等，并支持多種數(shù)據(jù)類型和格式，同時在需要時由大型語言模型（LLM）決定是否調(diào)用該功能，以確保靈活性和安全性。

同時，在應用層，Amazon Q也有多項新服務。

Amazon Q Apps現(xiàn)已正式可用。這是Amazon Q Business中的一項功能，借助這項新功能，用戶可以通過自然語言對話的方式，構(gòu)建基于企業(yè)數(shù)據(jù)的生成式AI應用，并安全地將其發(fā)布到企業(yè)內(nèi)部的應用程序庫Amazon Q Apps Library中，并添加多個應用類型標簽，從讓企業(yè)內(nèi)的使用者方便地進行檢索，以查找其所需的Q Apps應用。

另外，此次更新中，亞馬遜云科技將 Amazon Q Developer擴展到Amazon SageMaker Studio中，以簡化并加速機器學習的工作流程。機器學習模型開發(fā)過程很復雜，數(shù)據(jù)科學家花費太多時間尋找合適的工具、文檔或方法，這項服務將為數(shù)據(jù)科學家節(jié)省數(shù)周甚至數(shù)月的工作時間。該功能提供基于自然語言的交互，并通過推薦每個任務的最佳工具、提供分步指導、生成入門代碼以及在遇到錯誤時提供故障排除幫助，以及為開發(fā)者量身定制針對機器學習開發(fā)生命周期的詳細執(zhí)行計劃。值得一提的是，這項更新將在所有提供Amazon SageMaker的區(qū)域中提供。

Amazon Q Developer現(xiàn)在還 擴展至在用戶自己的集成開發(fā)環(huán)境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發(fā)者私有代碼庫生成的代碼建議，這使得開發(fā)者能夠更好地打造其專屬的代碼助手。

另外，在這次紐約峰會上，亞馬遜云科技宣布了全球第二批獲得生成式AI能力認證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數(shù)據(jù)、八斗智能、墨奇科技、神州數(shù)碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨?？萍己腿A訊網(wǎng)絡。

今年3月，亞馬遜云科技在全球推出業(yè)內(nèi)首個生成式AI能力認證，旨在驗證、認可在利用亞馬遜云科技生成式AI技術(shù)方面擁有專業(yè)知識、實踐經(jīng)驗和成功案例的合作伙伴。

截止目前，全球已有60余家合作伙伴獲得了該認證。

亞馬遜云科技生成式AI與機器學習市場推廣全球副總裁Rahul Pathak表示，“我們非常興奮迎來新一批獲得亞馬遜云科技生成式AI能力認證的合作伙伴。自該能力認證推出以來，這些合作伙伴已經(jīng)在全球范圍內(nèi)幫助客戶構(gòu)建和部署了許多生成式AI工作負載，取得了顯著成就和積極影響。”

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。