助力1000+企業(yè)后 亞馬遜云科技給出「構建生成式AI應用」的關鍵步驟

10月27日消息,在亞馬遜云科技生成式AI構建者大會上,亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建透露,截至目前,亞馬遜云科技通過開箱即用的生成式AI服務及工具,已幫助1000+中小企業(yè)和初創(chuàng)公司快速實現(xiàn)生成式AI創(chuàng)新,已賦能10W+中國開發(fā)者,并給出了在端到端構建生成式AI應用時,企業(yè)還開發(fā)者應該注意的關鍵步驟。

6個月 助力1000+企業(yè)實現(xiàn)生成式AI創(chuàng)新

今年4月中旬,亞馬遜云科技推出多款生成式AI產(chǎn)品和服務,包括Amazon Bedrock(一項全新全托管服務,它允許用戶通過API訪問亞馬遜云科技和第三方基礎模型提供商的預訓練基礎模型)、Amazon Titan基礎模型,并向個人開發(fā)者免費開放AI編程工具Amazon CodeWhisperer。

Amazon Bedrock是企業(yè)使用基礎模型構建和擴展生成式AI應用程序的最簡單方法,它是一項無服務器服務,提供了廣泛的模型選擇、數(shù)據(jù)隱私,并且能夠自定義模型,無需管理任何基礎設施。

陳曉建介紹,Amazon Bedrock目前提供的基礎模型來自Meta、Anthropic、Stability AI、 AI21 Labs、Cohere等第三方領先提供商以及自身的Amazon Titan模型等,近期還加入了Meta的下一代開源大模型Llama2以及Anthropic的Claude2等熱門基礎模型。

同時,陳曉建強調:“Amazon Bedrock代理功能是一項全新的全托管功能,代理功能就會自動分解任務并創(chuàng)建編排計劃,無需任何手動編碼。該代理通過簡單的 API 接口安全地連接到公司數(shù)據(jù),自動將數(shù)據(jù)轉換為機器可讀的格式,并增加相關信息以生成最準確的回答。然后,代理可以自動調用 API 來滿足用戶的請求?!?/p>

亞馬遜云科技推出的Amazon CodeWhisperer則是一款人工智能編碼伙伴,在基礎模型高級選項中使用,可以實時生成代碼建議,從根本上提高開發(fā)人員的生產(chǎn)力。與未使用的參與者相比,使用Amazon CodeWhisperer的參與者完成任務的速度平均快57%,成功率高27%。

就是借助上述這些開箱即用的生成式AI服務及工具,陳曉建表示,亞馬遜云科技已幫助1000+中小企業(yè)和初創(chuàng)公司快速實現(xiàn)生成式AI創(chuàng)新,已賦能10W+中國開發(fā)者。

陳曉建也強調,開發(fā)生成式AI應用是一個充滿挑戰(zhàn)的系統(tǒng)工程,并不是單純的產(chǎn)品和服務拼接,因此,如何加速客戶最終應用的商業(yè)化落地,除了亞馬遜本身的資源以外,還需要構建強大的合作伙伴生態(tài),攜手助力解決生成式AI應用構建中的各種技術問題,加速應用落地。

目前,在國內,亞馬遜云科技也和國內大模型創(chuàng)業(yè)企業(yè)百川智能進行合作,給與企業(yè)客戶更多大模型選擇。

盡管已經(jīng)服務1000+企業(yè),陳曉建向TechWeb表示,生成式AI應用整體還處在一個非常早期的階段,生成式AI未來可以做的工作、帶來的整個技術前景是非常廣泛的,可能會超出我們每個人的想象?,F(xiàn)階段最重要的是能夠快速地了解行業(yè)、了解客戶訴求,包括自身能力提升等。

端到端的構建生成式AI應用的關鍵步驟

在過去6個月時間,亞馬遜云科技團隊已經(jīng)有了服務1000+中小企業(yè)和初創(chuàng)公司快速實現(xiàn)生成式AI創(chuàng)新的經(jīng)驗。

在陳曉建看來,“生成式AI不僅僅是大模型,單獨的基礎模型無法執(zhí)行任務”。整個生成式AI應用就像是浮在海面的冰山,露在海面上方能被大多數(shù)人看到的冰山一角就像是基礎模型,而在冰川的底部,同樣需要大量的基礎模型以外的服務來支撐,如加速芯片,數(shù)據(jù)庫,數(shù)據(jù)分析,數(shù)據(jù)安全服務等等。

亞馬遜云科技提供了完整的端到端的生成式AI技術堆棧,從底層的加速層如加速芯片,存儲優(yōu)化,到中間層模型構建工具和服務,再到最上層的生成式AI相關應用,每一層都在針對客戶的不同需求持續(xù)創(chuàng)新?!?/p>

因而在“端到端的構建生成式AI應用”時又有哪些關鍵路徑需要走呢?

亞馬遜云科技團隊給出了四個步驟、五個層面:在步驟上,從應用范圍、模型選擇、模型適配和模型調整、最終到應用程序集成;五個層面,則涉及到選擇合適的應用場景入手、借助專門構建的生成式AI工具和基礎設施、融合企業(yè)私有化數(shù)據(jù)的數(shù)據(jù)基座、AI原生應用構建和生成式AI服務。

具體而言,在選擇合適的應用場景,從典型場景入手創(chuàng)新業(yè)務模式方面,陳曉建表示,目前生成式AI典型的應用場景帶給企業(yè)的業(yè)務價值主要體現(xiàn)在三個方面:增強客戶體驗、提升員工生產(chǎn)力與創(chuàng)造力、優(yōu)化業(yè)務流程。

在亞馬遜云科技過往的經(jīng)驗中,目前生成式AI應用得非??斓木褪怯螒蛐袠I(yè),游戲行業(yè)本身有非常多的流程和素材生成都可以通過生成式AI來改善;營銷方面,國內數(shù)字營銷企業(yè)易點天下通過亞馬遜云科技的技術推出了一個“生成式AI數(shù)字營銷平臺”;海爾創(chuàng)新設計中心通過生成式AI之后,借助于文生圖、圖生圖這樣的技術,可以非常高效地來快速生成素材,生產(chǎn)力提升20%。

在借助專門構建的生成式AI工具和基礎設施方面,亞馬遜云科技的CEO Adam Selipsky認為,沒有一個基礎模型可以適用于所有的業(yè)務場景。而用戶應該做的是,根據(jù)自己的場景去選擇一個最適合自己的基礎模型。因而亞馬遜云科技推出了Amazon Bedrock和Amazon SageMaker JumpStart這兩項服務,幫助客戶去安全地、便捷地選擇最適合其業(yè)務的模型。Amazon CodeWhisperer這款AI編程工具則可以提高開發(fā)者效率。

另外,面向生成式AI構建強大的數(shù)據(jù)“基座”,需要一套全面的服務,以便能夠存儲用于構建和微調模型的各種類型的數(shù)據(jù);還需要服務間的集成,以打破數(shù)據(jù)孤島,確保能夠隨時訪問所有數(shù)據(jù);還需要在構建生成式AI應用程序的整個生命周期中,確保數(shù)據(jù)安全并對其進行管理。

每一個客戶都會有自己的私域數(shù)據(jù),這些業(yè)務數(shù)據(jù),通用的大語言模型是不知道的。如果企業(yè)客戶需要訓練一個大語言模型的環(huán)境,能夠更好地了解自身業(yè)務就需要把私域的知識庫和大語言模型進行打通。使用私有化數(shù)據(jù),打造差異化競爭優(yōu)勢。

最后,構建一個AI原生應用方面,亞馬遜服務百萬客戶無數(shù)次變化的現(xiàn)代化應用轉型過程中,積累了一些不變的經(jīng)驗,陳曉建分享給生成式AI時代的構建者:包括以微服務化和事件驅動架構為核心的設計框架,松耦合的去處理每個功能模塊之間的互相依賴;Serverless First簡化運維,提升效率;數(shù)據(jù)決策優(yōu)先,像資產(chǎn)一樣重視數(shù)據(jù),數(shù)據(jù)能力作為應用的核心競爭壁壘加入到生成式AI應用的設計理念中來;安全圍欄,影響面控制,減小爆炸半徑,將安全與數(shù)據(jù)的合規(guī)與保護放在前所未有的重要地位;避免重復造輪子,除了技術本身,在DevOps,基礎設施即服務,自動化等現(xiàn)代應用治理理念持續(xù)投入,促進企業(yè)內部的應用資產(chǎn)與實踐的分享,構建高效敏捷的構建者文化。

極客網(wǎng)企業(yè)會員

免責聲明:本網(wǎng)站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內容可能涉嫌侵犯其知識產(chǎn)權或存在不實內容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。

2023-10-30
助力1000+企業(yè)后 亞馬遜云科技給出「構建生成式AI應用」的關鍵步驟
10月27日消息,在亞馬遜云科技生成式AI構建者大會上,亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建透露,截至目前,亞馬遜云科技通過開箱即用的生成式AI服務及工具,已幫助1000+中小企業(yè)和初創(chuàng)公司快速實現(xiàn)生成式AI創(chuàng)新,已賦能

長按掃碼 閱讀全文