Amazon Bedrock上新專有模型導(dǎo)入、模型評(píng)估等功能

4月24日消息，美東時(shí)間23日，亞馬遜云科技宣布推出Amazon Bedrock的全新功能，為客戶提供了一種更簡單、更快捷、更安全的方法，幫助客戶開發(fā)先進(jìn)的生成式AI應(yīng)用。

同時(shí)，Amazon Bedrock還上新了更多模型選擇：包括針對(duì)使用RAG的應(yīng)用場景優(yōu)化后的Amazon Titan Text Embeddings V2、正式可用的Titan Image Generator，以及Meta Llama 3基礎(chǔ)模型已正式可用，Cohere的Command R和Command R+模型也即將推出。

這次Amazon Bedrock上新的功能包括：

1、全新的專有模型導(dǎo)入功能讓客戶更輕松地將其專屬模型導(dǎo)入到Amazon Bedrock中，減少運(yùn)營成本并加速應(yīng)用程序的開發(fā)。

據(jù)介紹，現(xiàn)在，借助全新的Amazon Bedrock專有模型導(dǎo)入功能，企業(yè)現(xiàn)在能夠?qū)⒆约旱亩ㄖ颇Ｐ蛯?dǎo)入到Amazon Bedrock中，以完全托管的API形式進(jìn)行訪問。

只需點(diǎn)擊幾下，企業(yè)用戶即可將他們使用Amazon SageMaker或其他工具開發(fā)的模型集成到Amazon Bedrock平臺(tái)上。

模型通過自動(dòng)化驗(yàn)證流程后，企業(yè)用戶便可像訪問平臺(tái)上其他模型一樣，訪問自己的定制模型，同時(shí)享受到目前Amazon Bedrock所具備的所有服務(wù)——包括無縫的可擴(kuò)展性、強(qiáng)大的應(yīng)用保護(hù)能力、遵循負(fù)責(zé)任的AI原則、利用檢索增強(qiáng)生成（RAG）擴(kuò)充模型知識(shí)庫、輕松創(chuàng)建用于完成多步任務(wù)的代理（Agents）、進(jìn)行微調(diào)以持續(xù)訓(xùn)練和優(yōu)化模型，且無需管理底層基礎(chǔ)設(shè)施。

這一新功能讓企業(yè)能夠輕松地通過同一API訪問Amazon Bedrock的模型與自己的定制模型。

據(jù)悉，Amazon Bedrock專有模型導(dǎo)入功能現(xiàn)已推出預(yù)覽版并支持三種最受歡迎的開放模型架構(gòu)：Flan-T5、Llama和Mistral，并計(jì)劃未來支持更多模型。

2、全新的模型評(píng)估功能使企業(yè)用戶能夠廣泛且便捷地選擇完全托管模型，讓評(píng)估模型的時(shí)間從幾個(gè)星期縮短到幾個(gè)小時(shí)。

構(gòu)建生成式AI應(yīng)用程序的關(guān)鍵一步是找到合適的模型，而選擇特定應(yīng)用場景的最佳模型則需要客戶在準(zhǔn)確性和性能之間達(dá)成微妙的平衡?，F(xiàn)在，企業(yè)還需要花費(fèi)大量時(shí)間分析每個(gè)新模型如何滿足他們的應(yīng)用場景。

今天，Amazon Bedrock的模型評(píng)估功能已正式可用，亞馬遜云科技表示它是企業(yè)快速分析和比較Amazon Bedrock上模型的最快方式，讓評(píng)估模型的時(shí)間從幾個(gè)星期縮短到幾個(gè)小時(shí)。

企業(yè)用戶通過選擇預(yù)定義的評(píng)估標(biāo)準(zhǔn)（例如準(zhǔn)確性和魯棒性）并上傳自有數(shù)據(jù)集/提示詞庫，或者從內(nèi)置的、公開可用的資源中進(jìn)行選擇。對(duì)于主觀標(biāo)準(zhǔn)或需要細(xì)致判斷的內(nèi)容，Amazon Bedrock使客戶能夠?qū)⑷斯徍巳谌牍ぷ髁鞒讨?，以根?jù)特定應(yīng)用場景的指標(biāo)（如相關(guān)性、風(fēng)格和品牌聲音）對(duì)模型進(jìn)行評(píng)估。

一旦設(shè)置完成，Amazon Bedrock將運(yùn)行評(píng)估并生成報(bào)告，使客戶能夠輕松了解模型在關(guān)鍵指標(biāo)上的表現(xiàn)，并迅速選擇最適合其應(yīng)用場景的模型。

3、Amazon Bedrock Guardrails功能正式可用，企業(yè)用戶可以利用該功能輕松實(shí)施防護(hù)措施，去除個(gè)人信息和敏感信息、褻瀆語言、特定詞匯并屏蔽有害內(nèi)容。

許多模型使用內(nèi)置控制來過濾不良和有害內(nèi)容，亞馬遜云科技表示，其大多數(shù)客戶希望進(jìn)一步定制他們的生成式AI應(yīng)用程序，以確保生成結(jié)果更具相關(guān)性，在符合公司政策的同時(shí)遵循負(fù)責(zé)任的AI原則。

現(xiàn)在，Amazon Bedrock的Guardrails功能已正式可用，它在基礎(chǔ)模型的原生能力之上提供了行業(yè)領(lǐng)先的安全保護(hù)，能夠幫助客戶阻止高達(dá)85%的有害內(nèi)容。

Guardrails允許客戶在單一服務(wù)中同時(shí)擁有內(nèi)置和定制的防護(hù)機(jī)制，并可與Amazon Bedrock中的所有大語言模型（LLMs）以及經(jīng)過微調(diào)的模型一起使用。

要?jiǎng)?chuàng)建一個(gè)Guardrail，客戶只需提供一個(gè)自然語言描述來定義其應(yīng)用程序上下文中不予顯示的主題即可。此外，客戶還可以設(shè)置閾值以過濾如仇恨言論、侮辱、黃色用語、或在提示詞中含有攻擊和暴力性等內(nèi)容，并設(shè)置過濾器來移除任何個(gè)人信息和敏感信息、褻瀆言論或特定的屏蔽詞。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。