服務(wù)云原生 Graviton2處理器帶來40%性價比提升 AWS中國高管詳解背后關(guān)鍵技術(shù)

2月5日消息，日前，亞馬遜云服務(wù)（AWS）正式宣布，由 AWS Graviton2 處理器提供支持的 Amazon Elastic Compute Cloud （Amazon EC2） M6g、C6g 和 R6g 實例（注1）已在由光環(huán)新網(wǎng)運營的 AWS 中國（北京）地區(qū)和由西云數(shù)據(jù)運營的 AWS 中國（寧夏）區(qū)域推出。這是AWS自研處理器首次落地中國區(qū)域。

截至2021年1月，AWS推出了近400種Amazon EC2實例，被全球幾百萬客戶廣泛使用。

作為一款A(yù)WS自研、基于Arm架構(gòu)、原生為云而設(shè)計開發(fā)的芯片，AWS Graviton2 處理器于2019年12月在AWS re:Invent大會上正式發(fā)布。歷時1年多正式落地中國，AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡表示，Graviton2 處理器將給客戶帶來很多驚喜，Graviton2的使用場景會打破大家對于ARM在企業(yè)級應(yīng)用適用范圍的原有認(rèn)知。

事實上，因為海外業(yè)務(wù)需求增長，國內(nèi)企業(yè)涂鴉智能和大觥科技均已率先采用Graviton2 處理器支持的Amazon EC2實例來賦能公司業(yè)務(wù)發(fā)展。

據(jù)涂鴉云端開發(fā)部首席架構(gòu)師陳亞焱介紹，涂鴉提供全球化AI+IoT平臺，每天處理設(shè)備請求840億次，請求高峰達(dá)150萬次/秒，日處理1.2億次AI語音交互。去年的黑五、圣誕、元旦，涂鴉均迎來一波流量增長高峰，這就要求平臺必須做到非常實時的擴(kuò)容。目前涂鴉已經(jīng)將公司約40%的實例切換至Graviton2架構(gòu)的實例上。基于Graviton2實例，涂鴉CPU性能提升100%，CPU占用率從之前的27%降到12%；服務(wù)器單價降低20%，整體性價比提升2.5倍。

大觥科技有限公司是一家專注AI影像處理領(lǐng)域科研和應(yīng)用的公司，該公司服務(wù)多家電影廠、電視臺、影視后期等企業(yè)級客戶，同時針對個人用戶，推出了國內(nèi)app“你我當(dāng)年”，以及海外app“Remini”。大觥科技副總裁袁泉介紹，2020年2月，海外Remini業(yè)務(wù)量出現(xiàn)猛烈增長，使得公司算力支持遇到瓶頸，于是開始跟AWS合作。通過對比Graviton系列的C6g和傳統(tǒng)架構(gòu)的C5.large兩款機(jī)型，發(fā)現(xiàn)C6g在性能上提升了30%，在成本上節(jié)約了38%。

根據(jù)AWS官方提供的更全面的對比測試數(shù)據(jù)顯示，與同配置X86實例相比，由AWS Graviton2處理器提供支持的Amazon EC2 M6g、C6g和R6g實例的性價比提高了40%。

Graviton2處理器何以有如此高的性能提升，近日AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡和AWS大中華區(qū)產(chǎn)品部計算與存儲總監(jiān)周舸接受了TechWeb等的采訪，對Graviton2處理器及其支持的EC2實例背后的關(guān)鍵技術(shù)及產(chǎn)品服務(wù)發(fā)展戰(zhàn)略進(jìn)行了解讀。

AWS自研芯片

談及Graviton2處理器就不得不談AWS的自研芯片戰(zhàn)略。

2013年AWS開始跟Annapurna labs合作研發(fā)第一代Nitro。此后，Amazon收購了Annapurna labs，將其變成自己的半導(dǎo)體設(shè)計公司，由此揭開了自研半導(dǎo)體芯片的發(fā)展歷程。

目前，AWS的自研芯片有3條主線。

第一條是AWS Nitro。2017年AWS第一次公開介紹Nitro，Nitro的研發(fā)升級旨在為用戶提供更高的網(wǎng)絡(luò)訪問性能。到2020年，Nitro已經(jīng)發(fā)展到了第四代。Nitro架構(gòu)及Nitro卡的升級迭代，讓AWS網(wǎng)絡(luò)能力從最初10G的時代跨入到100G再到2020年的400G，存儲帶寬能力提升好幾倍。

第二條，針對機(jī)器學(xué)習(xí)，AWS在2019年推出了AWS Inferentia專門用于推理的芯片；另外，AWS計劃在2021年推出自研的專門為訓(xùn)練工作負(fù)載設(shè)計的AWS Trainium芯片。

第三條，就是在CPU部分的投入和研究。2018年的時候，AWS首次推出基于ARM架構(gòu)的Graviton第一代CPU芯片。2019年re:Invent，AWS推出第二代產(chǎn)品Graviton2。此后的2020年開始有很多客戶遷移至Graviton2。

Graviton2的設(shè)計關(guān)鍵

周舸強(qiáng)調(diào)，Graviton2是最新的基于ARM架構(gòu)自研的芯片，也是第一個真正的以云為原生設(shè)計的，適合運營現(xiàn)代化應(yīng)用負(fù)載提供云服務(wù)的芯片。

AWS究竟是如何思考和設(shè)計ARM架構(gòu)的CPU？Graviton2到底跟傳統(tǒng)的X86有什么不一樣？對此周舸進(jìn)行了解讀。

周舸介紹，設(shè)計Graviton2的目標(biāo)很簡單，希望每一個核在Graviton2里面，都能夠達(dá)到最好的真實性能，滿足客戶現(xiàn)代化應(yīng)用的需要。同時，我們希望在一個CPU里，放盡量多獨立的核，以便最大程度的讓它充分發(fā)揮平行擴(kuò)展的能力。

通過比較基于Graviton2的實例C6g.large和基于X86架構(gòu)英特爾CPU的實例C5.large，這種差異化設(shè)計更能一目了然。

C5.large是AWS基于Intel內(nèi)核的計算密集型實例。C6g.large實例基于Graviton2內(nèi)核實現(xiàn)。

周舸介紹，這兩個實例最明顯的區(qū)別是，C5.large一個核里可以跑兩個線程，每一個線程相當(dāng)于一個獨立的任務(wù)在運行，通過SMT去控制和協(xié)調(diào)。兩個線程共享一級和二級緩存。這是標(biāo)準(zhǔn)的Intel的內(nèi)核設(shè)計特色。Graviton2采用兩個物理核，每一個核只跑一個線程，只完成一個任務(wù)，獨享L1和L2緩存，互相不受干擾。

周舸強(qiáng)調(diào)， 基于Graviton2的C6g.large實例一級緩存多了4倍，二級緩存增大2倍。這些都充分讓Graviton2內(nèi)核的CPU能夠最大程度的適應(yīng)云原生可平行擴(kuò)展的微服務(wù)化應(yīng)用，能夠充分發(fā)揮它的能力。這是我們設(shè)計Graviton2的最關(guān)鍵的一些特點。

與第一代AWS Graviton處理器相比，AWS Graviton2處理器性能達(dá)到前者7倍、計算核心數(shù)量達(dá)到4倍、緩存達(dá)到2倍、內(nèi)存速度達(dá)到5倍。AWS Graviton2處理器具有全天候運行的256位內(nèi)存加密功能，每個核心的加密性能速度比第一代AWS Graviton處理器提高50%。

目前，AWS Graviton2 處理器提供支持的 Amazon EC2 M6g、C6g 和 R6g 實例已經(jīng)正式落地中國。

其中，Amazon EC2 M6g為通用型實例，為工作負(fù)載提供均衡的計算、內(nèi)存和網(wǎng)絡(luò)資源，可用于開源軟件應(yīng)用程序，例如微服務(wù)、游戲服務(wù)器和消息隊列等；C6g為計算優(yōu)化型實例，計算資源配比較高，適用于計算密集型應(yīng)用程序，例如高性能計算、批處理、廣告服務(wù)、視頻編碼、游戲、科學(xué)建模、分布式分析和基于CPU的機(jī)器學(xué)習(xí)推理等工作負(fù)載；R6g為內(nèi)存優(yōu)化型實例，內(nèi)存資源配比較高，適用于內(nèi)存密集型應(yīng)用程序，例如開源數(shù)據(jù)庫、內(nèi)存數(shù)據(jù)庫和實時大數(shù)據(jù)分析。三類實例都分別有8種資源大小可供選擇，分別為1個、2個、4個、8個、16個、32個、48個和64個vCPU，并且可以作為按需實例、預(yù)留實例或Spot實例購買，充分體現(xiàn)了云計算資源配置的靈活性。

AWS大中華區(qū)云服務(wù)產(chǎn)品管理總經(jīng)理顧凡表示，云計算的創(chuàng)新始終沒有停止，客戶的需求始終是AWS創(chuàng)新的動力源泉。AWS與英特爾、AMD、英偉達(dá)、賽靈思等芯片廠商都有著深入的合作，我們推出自研處理器，旨在為客戶提供更多樣化的計算實例選擇，在提供出色性能的同時節(jié)省大量成本，滿足客戶不同應(yīng)用場景的需求。

顧凡也向TechWeb強(qiáng)調(diào)，我們把選擇權(quán)交給客戶，讓客戶根據(jù)自己的需求去選擇合適的產(chǎn)品。我們會在客戶充分地體會到Graviton2帶來的性價比提升的情況下，幫助他們在中國區(qū)域用起來。 (文/寧萌)

(注1：實例是AWS提出的一個云計算基本概念，它是指在一段時間內(nèi)分配的一組計算資源。用通俗的叫法，實例也被稱作云服務(wù)器、虛擬服務(wù)器、云主機(jī)、虛擬機(jī)等等。)

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。