o Amazon EC2 C7g實(shí)例由新的Amazon Graviton3處理器支持,與Amazon Graviton2處理器支持的當(dāng)前一代C6g實(shí)例相比,計(jì)算密集型工作負(fù)載性能提高多達(dá)25%
o Amazon EC2 Trn1實(shí)例由Amazon Trainium芯片支持,在Amazon EC2中為絕大多數(shù)機(jī)器學(xué)習(xí)模型訓(xùn)練提供最佳性價(jià)比及最快的訓(xùn)練速度
o Amazon EC2 Im4gn/Is4gen/I4i實(shí)例配備新的Amazon Nitro SSDs,可為I/O密集型工作負(fù)載提供最佳存儲(chǔ)性能
2021年12月1日,在亞馬遜云科技re:Invent全球大會(huì)上,亞馬遜云科技宣布推出三款由自研芯片支持的新Amazon Elastic Compute Cloud (Amazon EC2)實(shí)例,幫助客戶顯著提升在Amazon EC2上運(yùn)行的工作負(fù)載的性能、成本和能源效率。新C7g 實(shí)例由Amazon Graviton3 處理器支持,與由 Amazon Graviton2 處理器支持的當(dāng)前一代 C6g 實(shí)例相比,性能提高25%。由Amazon Trainium芯片支持的新Trn1實(shí)例為在Amazon EC2中訓(xùn)練絕大多數(shù)機(jī)器學(xué)習(xí)模型提供最佳性價(jià)比,及最快的訓(xùn)練速度?;谧匝蠥mazon Nitro SSDs(固態(tài)驅(qū)動(dòng)器)的新存儲(chǔ)優(yōu)化型Im4gn/Is4gen/ I4i實(shí)例為在Amazon EC2上運(yùn)行的I/O密集型工作負(fù)載提供最佳存儲(chǔ)性能。這些基于亞馬遜云科技自研芯片的新Amazon EC2實(shí)例的發(fā)布,將幫助客戶支持其關(guān)鍵業(yè)務(wù)應(yīng)用程序。
亞馬遜云科技Amazon EC2副總裁David Brown表示:“我們對(duì)自研芯片的持續(xù)投入升級(jí),已經(jīng)讓客戶在當(dāng)今一些關(guān)鍵工作負(fù)載中獲得了巨大的性價(jià)比優(yōu)勢(shì)。客戶希望我們?cè)诿恳淮碌腅C2實(shí)例上不斷突破邊界。亞馬遜云科技的持續(xù)創(chuàng)新讓客戶有機(jī)會(huì)使用這些全新的、改變游戲規(guī)則的實(shí)例運(yùn)行其重要的工作負(fù)載,獲得更好的性價(jià)比?!?/p>
C7g實(shí)例由新的Amazon Graviton3處理器支持,與由Amazon Graviton2處理器支持的當(dāng)前一代C6g實(shí)例相比,性能提高多達(dá)25%
基于Amazon Graviton2的計(jì)算實(shí)例自2020年推出以來(lái),被眾多客戶如DirecTV、Discovery、Epic Games、Formula 1、Honeycomb.io、Intuit、Lyft、MercardoLibre、NextRoll、Nielsen、SmugMug、Snap、Splunk和Sprinklr等在生產(chǎn)中使用并已經(jīng)獲得顯著的性能提升和成本節(jié)省?;贕raviton2的系列實(shí)例共有12種,包括通用型、計(jì)算優(yōu)化型、內(nèi)存優(yōu)化型、存儲(chǔ)優(yōu)化型、突發(fā)性能型和加速計(jì)算型實(shí)例,讓客戶擁有云上至深至廣的計(jì)算選擇,并兼顧性價(jià)比和能效。隨著客戶在云中開(kāi)展更多計(jì)算密集型工作負(fù)載如高性能計(jì)算(HPC)、游戲和機(jī)器學(xué)習(xí)推理,相應(yīng)的計(jì)算、存儲(chǔ)、內(nèi)存和網(wǎng)絡(luò)需求也隨之增長(zhǎng),客戶需要尋求更佳的性價(jià)比和能效來(lái)運(yùn)行這些工作負(fù)載。
由Amazon Graviton3處理器支持的C7g實(shí)例與由 Graviton2 處理器支持的當(dāng)前一代 C6g 實(shí)例相比,可將計(jì)算密集型工作負(fù)載性能提高多達(dá)25%。Amazon Graviton3處理器與Graviton2相比,為科學(xué)計(jì)算、機(jī)器學(xué)習(xí)和媒體編碼工作負(fù)載提供高達(dá)2倍的浮點(diǎn)運(yùn)算性能,為加密工作負(fù)載速度提升高達(dá)2倍,為機(jī)器學(xué)習(xí)工作負(fù)載提供高達(dá)3倍的性能。Amazon Graviton3處理器的能效也更高,在相同性能下,與同類型EC2實(shí)例對(duì)比,可節(jié)省高達(dá)60%的能源消耗。C7g實(shí)例是云中第一個(gè)采用最新DDR5內(nèi)存的實(shí)例,與基于Amazon Graviton2的實(shí)例相比,它提高了50%的內(nèi)存帶寬,從而提高了科學(xué)計(jì)算等內(nèi)存密集型應(yīng)用的性能。與基于Amazon Graviton2的實(shí)例相比,C7g實(shí)例的網(wǎng)絡(luò)帶寬也高出20%。C7g 實(shí)例支持 Elastic Fabric Adapter (EFA),允許應(yīng)用程序直接與網(wǎng)絡(luò)接口卡通信,提供更低且更一致的延遲,提高需要大規(guī)模并行處理(如 HPC 和視頻編碼)的應(yīng)用程序的性能。C7g實(shí)例現(xiàn)已提供預(yù)覽版。
由Amazon Trainium芯片支持的Trn1實(shí)例為在Amazon EC2中訓(xùn)練絕大多數(shù)機(jī)器學(xué)習(xí)模型提供最佳性價(jià)比,及最快的訓(xùn)練速度
越來(lái)越多客戶正在構(gòu)建、訓(xùn)練和部署機(jī)器學(xué)習(xí)模型,支持能夠重塑其業(yè)務(wù)和客戶體驗(yàn)的應(yīng)用程序。為了確保提高準(zhǔn)確性,這些機(jī)器學(xué)習(xí)模型必須構(gòu)建在越來(lái)越多的訓(xùn)練數(shù)據(jù)上,導(dǎo)致其訓(xùn)練成本越來(lái)越高。這可能會(huì)限制客戶能夠部署的機(jī)器學(xué)習(xí)模型數(shù)量。亞馬遜云科技為機(jī)器學(xué)習(xí)提供至深至廣的計(jì)算服務(wù)選擇,包括采用NVIDIA A100 Tensor Core GPU的EC2 P4d實(shí)例和采用Habana Labs Gaudi 加速器的 EC2 DL1 實(shí)例。但是,即使擁有當(dāng)今最快的加速實(shí)例,訓(xùn)練持續(xù)變大的機(jī)器學(xué)習(xí)模型仍然是非常昂貴和耗時(shí)的。
由Amazon Trainium芯片支持的Trn1實(shí)例為在Amazon EC2中進(jìn)行深度學(xué)習(xí)模型訓(xùn)練提供最佳性價(jià)比以及最快的訓(xùn)練速度,與P4d實(shí)例相比,通過(guò)Trn1實(shí)例訓(xùn)練深度學(xué)習(xí)模型的成本降低多達(dá)40%。Trn1實(shí)例提供800Gbps EFA網(wǎng)絡(luò)帶寬(比最新基于GPU的EC2實(shí)例高兩倍),并與Amazon FSx for Lustre高性能存儲(chǔ)集成,讓客戶可以啟動(dòng)具有EC2 UltraClusters功能的Trn1實(shí)例。通過(guò)EC2 UltraClusters,開(kāi)發(fā)人員可以將機(jī)器學(xué)習(xí)訓(xùn)練擴(kuò)展到一萬(wàn)多個(gè)與 PB 級(jí)網(wǎng)絡(luò)互連的 Trainium 加速器,讓客戶按需訪問(wèn)超算級(jí)性能,即便是最大型和最復(fù)雜的模型,訓(xùn)練時(shí)間也可以從幾個(gè)月縮短到幾天。Trn1實(shí)例現(xiàn)已提供預(yù)覽版。
采用全新Amazon Nitro SSDs的Im4gn/Is4gen/ I4i實(shí)例可為I/O密集型工作負(fù)載提供最佳存儲(chǔ)性能
如今,客戶將I3/I3en存儲(chǔ)優(yōu)化型實(shí)例用于需要直接訪問(wèn)本地存儲(chǔ)數(shù)據(jù)集的應(yīng)用程序,比如橫向擴(kuò)展的事務(wù)型和關(guān)系型數(shù)據(jù)庫(kù)(如MySOL和PostgreSQL),NoSQL數(shù)據(jù)庫(kù)(如Cassandra、MongoDB、Redis等),大數(shù)據(jù)(如Hadoop)和數(shù)據(jù)分析工作負(fù)載(如Spark、Hive、Presto等)。I3/I3en實(shí)例以低成本提供非易失性內(nèi)存標(biāo)準(zhǔn)(NVMe) SSD支持的實(shí)例存儲(chǔ),針對(duì)低延遲、高 I/O 性能和吞吐量進(jìn)行了優(yōu)化。客戶喜歡I3/I3en實(shí)例提供的快速事務(wù)處理能力,但隨著其工作負(fù)載的不斷升級(jí)——在更大規(guī)模的數(shù)據(jù)集上處理更復(fù)雜的事務(wù),他們需要在不增加成本的情況下獲得更高的計(jì)算性能和更快的數(shù)據(jù)訪問(wèn)速度。
Im4gn/Is4gen/I4i實(shí)例旨在通過(guò)架構(gòu)最大限度提高I/O密集型工作負(fù)載的存儲(chǔ)性能。通過(guò)自研的 Amazon Nitro SSDs ,Im4gn/Is4gen/I4i實(shí)例提供高達(dá) 30 TB 的 NVMe 存儲(chǔ),與上一代I3實(shí)例相比,I/O 延遲降低了 60%,延遲可變性降低了 75%,從而最大限度地提高了應(yīng)用程序性能。Amazon Nitro SSDs通過(guò)優(yōu)化存儲(chǔ)堆棧、虛擬化管理程序和硬件與Amazon Nitro 系統(tǒng)緊密集成。與使用商用SSD相比,亞馬遜云科技同時(shí)管理Amazon Nitro SSDs的硬件和固件,使SSD更新交付速度更快,讓客戶可以從改進(jìn)的功能中獲益。Im4gn 實(shí)例(現(xiàn)已可用)采用 Amazon Graviton2 處理器,與 I3 實(shí)例相比,性價(jià)比提高多達(dá) 40%,每 TB存儲(chǔ)成本降低多達(dá) 44%。Is4gen 實(shí)例(現(xiàn)已可用)也采用 Amazon Graviton2 處理器,與 I3en 實(shí)例相比,每 TB 存儲(chǔ)成本降低多達(dá) 15%,計(jì)算性能提高多達(dá) 48%。I4i實(shí)例(即將可用)采用英特爾第三代可擴(kuò)展處理器(Ice Lake),與當(dāng)前一代 I3 實(shí)例相比,計(jì)算性能提高多達(dá) 55%。
SAP HANA是世界領(lǐng)先的內(nèi)存數(shù)據(jù)庫(kù),是SAP業(yè)務(wù)技術(shù)平臺(tái)的基礎(chǔ)。SAP HANA數(shù)據(jù)庫(kù)與分析總裁Irfan Khan表示:“過(guò)去十年中,SAP HANA幫助客戶管理他們最關(guān)鍵的事務(wù)和分析工作負(fù)載。亞馬遜云科技在基于ARM的Amazon Graviton處理器的持續(xù)投入與創(chuàng)新,與亞馬遜云科技的合作帶來(lái)諸多可能,為我們的企業(yè)客戶和SAP HANA云支持的SAP云分析和數(shù)據(jù)管理解決方案帶來(lái)了顯著的運(yùn)營(yíng)效率和性能提升?!?/p>
Twitter承載著當(dāng)前正在發(fā)生和人們正在討論的事情。Twitter平臺(tái)主管Nick Tornow表示:“Twitter正在進(jìn)行一個(gè)為期多年的項(xiàng)目,利用基于Amazon Graviton處理器的Amazon EC2實(shí)例來(lái)提供Twitter時(shí)間線。為進(jìn)一步提高效率,我們測(cè)試了新的基于Amazon Graviton3處理器的C7g實(shí)例。在一系列可以代表Twitter工作負(fù)載性能的基準(zhǔn)測(cè)試中,我們發(fā)現(xiàn)基于Amazon Graviton3處理器的C7g實(shí)例與基于Amazon Graviton2處理器的C6g實(shí)例相比,可將性能提高20%-80%,同時(shí)還將尾部延遲減少多達(dá)35%。我們非常高興并期待利用基于Amazon Graviton3處理器的實(shí)例獲得更好的性價(jià)比?!?/p>
一級(jí)方程式(F1)賽車始于1950年,是世界上最負(fù)盛名的賽車比賽,也是全球最受歡迎的年度體育賽事?!盎贏mazon Graviton2處理器的C6g實(shí)例已經(jīng)為我們的一些CFD(計(jì)算流體仿真力學(xué))工作負(fù)載提供了最佳性價(jià)比?,F(xiàn)在,我們發(fā)現(xiàn)在同樣的模擬中,基于Graviton3的 C7g實(shí)例比基于Graviton2的 C6g實(shí)例快40%?!币患?jí)方程式管理首席技術(shù)官Pat Symonds表示:“我們很高興EFA將在這種實(shí)例類型中標(biāo)配?;贕raviton3的實(shí)例在性價(jià)比方面的優(yōu)越表現(xiàn),我們期待它成為運(yùn)行所有CFD工作負(fù)載的最佳選擇?!?/p>
Epic Games創(chuàng)立于1991年,是Fortnite、Unreal、Gears of War、Shadow Complex和Infinity Blade系列游戲的創(chuàng)造者。Epic的Unreal Engine技術(shù)為PC、主機(jī)、手機(jī)、AR、VR和Web帶來(lái)了高保真、交互式的體驗(yàn)。Epic Games高級(jí)工程總監(jiān)Mark Imbriaco表示:“當(dāng)我們展望未來(lái),為玩家構(gòu)建更加引人入勝的沉浸式體驗(yàn)時(shí),我們很高興使用基于Amazon Gravtion3處理器的EC2實(shí)例。我們的測(cè)試表明,它們甚至適用于要求最嚴(yán)苛、延遲敏感度最高的工作負(fù)載,同時(shí)提供卓越的性價(jià)比,提升了《堡壘之夜》和任何基于虛擬引擎創(chuàng)造的游戲體驗(yàn)。”
Honeycomb開(kāi)發(fā)了一個(gè)可視化平臺(tái),讓工程團(tuán)隊(duì)可以可視化、分析和改善云應(yīng)用程序的質(zhì)量和性能?!拔覀兒芨吲d能夠基于Amazon Graviton3的預(yù)覽實(shí)例測(cè)試我們的高吞吐遙感攝取工作負(fù)載?!?nbsp;honeycomb.io首席開(kāi)發(fā)者布道師Liz Fong-Jones表示:“在處理相同工作負(fù)載的情況下,我們運(yùn)行的C7g實(shí)例比C6g少30%,延遲降低了30%。我們期待在Amazon Graviton3的C7g實(shí)例正式可用后盡快投入到我們的生產(chǎn)環(huán)境中?!?/p>
Meta AI專注于將人們與其關(guān)心的事物聯(lián)系起來(lái),提供有意義且安全的體驗(yàn),推進(jìn)機(jī)器學(xué)習(xí)并指導(dǎo)開(kāi)放研究。Meta AI PyTorch工程高級(jí)總監(jiān)Lin Qiao表示:“PyTorch開(kāi)發(fā)人員不斷創(chuàng)新,以提高深度學(xué)習(xí)模型的準(zhǔn)確性,并找到更好的方法解決問(wèn)題。同時(shí),這些模型的規(guī)模呈指數(shù)級(jí)增長(zhǎng),這讓訓(xùn)練它們變得更加困難,成本更高。我們的PyTorch團(tuán)隊(duì)一直在與Amazon Neuron團(tuán)隊(duì)合作,為易用性和性能設(shè)定了一個(gè)高標(biāo)準(zhǔn),確保在PyTorch中為T(mén)rainium等加速器提供原生支持。這其中包括研究集體計(jì)算原語(yǔ),以及為擴(kuò)展性能和分布式訓(xùn)練設(shè)置適當(dāng)?shù)幕A(chǔ)。我們期待與亞馬遜云科技合作,將Trainium與PyTorch原生產(chǎn)品(如eager mode和dynamic shapes)進(jìn)行更多集成?!?/p>
Anthropic構(gòu)建了可靠、可解釋和可操控的人工智能系統(tǒng),這些系統(tǒng)將有機(jī)會(huì)為商業(yè)和公共利益創(chuàng)造價(jià)值。Anthropic聯(lián)合創(chuàng)始人Tom Brown表示:“我們的研究興趣橫跨多個(gè)領(lǐng)域,包括自然語(yǔ)言、人工反饋、縮放定律、強(qiáng)化學(xué)習(xí)、代碼生成和可解釋性。我們成功的一個(gè)關(guān)鍵是利用現(xiàn)代基礎(chǔ)設(shè)施,讓我們可以啟動(dòng)超大高性能深度學(xué)習(xí)加速器的集群。 我們期待使用Amazon Trainium芯片支持的Trn1實(shí)例,因?yàn)樗鼈兙哂星八从械哪芰?,可以擴(kuò)展到上萬(wàn)個(gè)節(jié)點(diǎn),還有更高的網(wǎng)絡(luò)帶寬,這將讓我們可以在控制成本的同時(shí)更快地迭代。”
Splunk是領(lǐng)先的數(shù)據(jù)平臺(tái)提供商,旨在調(diào)查、監(jiān)控、分析和處理任何規(guī)模的數(shù)據(jù)。Splunk云平臺(tái)和基礎(chǔ)設(shè)施副總裁Brad Murphy表示:“我們運(yùn)行基于C/C++的工作負(fù)載來(lái)索引和搜索事件數(shù)據(jù)。我們的工作負(fù)載受CPU限制,并受益于高容量和低延遲的SSD存儲(chǔ)。在評(píng)估由Amazon Graviton2支持的新Im4gn/Is4gen實(shí)例時(shí),我們觀察到,與當(dāng)前使用的I3/I3en實(shí)例相比,搜索運(yùn)行時(shí)間減少了50%。Im4gn和Is4gen實(shí)例成為運(yùn)行我們存儲(chǔ)密集型工作負(fù)載的絕佳選擇,性價(jià)比顯著提升且TCO更低?!?/p>
Sprinklr通過(guò) 30 多個(gè)數(shù)字化渠道幫助全球大型企業(yè)提升客戶滿意度——使用為企業(yè)構(gòu)建的先進(jìn)、復(fù)雜的人工智能引擎來(lái)創(chuàng)建洞察力驅(qū)動(dòng)的策略,創(chuàng)造更優(yōu)秀的客戶體驗(yàn)?!拔覀?cè)谟葾mazon Graviton2處理器支持的Amazon EC2 Im4gn/Is4gen實(shí)例上對(duì)基于Java的搜索工作負(fù)載進(jìn)行了基準(zhǔn)測(cè)試。與較大的I3en實(shí)例相比,較小的 Is4gen 實(shí)例就能提供相似的性能,這意味著有機(jī)會(huì)顯著降低TCO?!?Sprinklr工程副總裁Abhay Bansal表示:“我們?cè)趯⒐ぷ髫?fù)載從I3實(shí)例遷移到Im4gn實(shí)例時(shí),還發(fā)現(xiàn)查詢延遲顯著降低,多達(dá)50%,性價(jià)比提升40%。遷移到基于Amazon Graviton2的實(shí)例很容易,完成基準(zhǔn)測(cè)試需要兩周時(shí)間。我們對(duì)已有的經(jīng)驗(yàn)感到非常滿意,并期待基于Im4gn和Is4gen實(shí)例在生產(chǎn)環(huán)境中運(yùn)行這些工作負(fù)載?!?/p>
Redis Enterprise通過(guò)幫助軟件團(tuán)隊(duì)為實(shí)時(shí)世界創(chuàng)建高性能數(shù)據(jù)層,為全球超過(guò)8000個(gè)組織提供關(guān)鍵任務(wù)應(yīng)用程序和服務(wù)。Redis聯(lián)合創(chuàng)始人兼首席技術(shù)官Yiftach Shoolman表示:“我們非常高興看到,全新低延遲Amazon Nitro SSDs的Amazon EC2 I4i實(shí)例提供比上一代實(shí)例更快的交易速度。我們預(yù)計(jì)I4i實(shí)例更強(qiáng)的存儲(chǔ)性能和更快的網(wǎng)絡(luò)和處理器速度將為我們那些基于I4i實(shí)例使用Redis-on-Flash的客戶帶來(lái)顯著改善,獲得更具吸引力的TCO?!?/p>
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 350億美元收購(gòu)案在歐盟遇阻,新思科技提出補(bǔ)救措施
- 高通在與Arm的法律糾紛中部分勝訴,但Arm表態(tài)將尋求再審
- 臺(tái)積電2納米芯片性能提升僅15%,知情人士稱試產(chǎn)良率超過(guò)60%
- 半導(dǎo)體2025:影響技術(shù)革命的新興趨勢(shì)
- 這家普通人不熟悉的公司,市值如何超過(guò)萬(wàn)億美元
- 增資超30億元 華為增持旗下極目機(jī)器公司
- 傳蘋(píng)果將在新一代iPhone SE中采用自研5G基帶芯片,速度僅為高通的一半
- 美國(guó)模擬芯片巨頭亞德諾過(guò)去一年全球減員2000人,2024財(cái)年?duì)I收同比下降23%
- 移動(dòng)芯片之王Arm,下一步要做AI芯片之王
- 2025年全球半導(dǎo)體市場(chǎng)規(guī)模將達(dá)6971億美元,AI驅(qū)動(dòng)增長(zhǎng)勢(shì)頭強(qiáng)勁
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。