在一家大型電商公司中,有一個(gè)名為"星辰"的產(chǎn)品推薦團(tuán)隊(duì)。他們的任務(wù)是為每一個(gè)用戶尋找屬于他們的那顆“星”——最適合他們的產(chǎn)品。
在尋找產(chǎn)品的過(guò)程中,最大的挑戰(zhàn)就是如何在億萬(wàn)商品中,找到最符合每個(gè)用戶需求和喜好的那一款。他們嘗試過(guò)各種方法,但總是無(wú)法達(dá)到理想的效果。于是,他們決定嘗試使用大模型。
隨著大模型的階段性部署,"星辰"搭建起一座連接用戶和商品的橋梁,幫助用戶在繁雜的商品海洋中找到他們的寶藏。同時(shí)星辰團(tuán)隊(duì)也收獲了他們的成果.....近年來(lái),大模型的發(fā)展取得了巨大的突破,許多"星辰"這樣的企業(yè)都因大模型收獲了成功。然而,AI入局帶來(lái)的算力需求“跳變”,為AI的算力供給提出了新的要求——AI時(shí)代,應(yīng)用正倒逼著AI算力加速擴(kuò)展。
目前,支持AI計(jì)算的硬件多種多樣,CPU、GPU、FPGA、ASIC都在在AI領(lǐng)域中都扮演著至關(guān)重要的角色,在AI領(lǐng)域,它們的作用就像是一場(chǎng)接力賽中不同賽道的選手。GPU主要負(fù)責(zé)“沖刺”,而CPU則是起跑選手,負(fù)責(zé)啟動(dòng)和協(xié)調(diào)整個(gè)比賽。
然而,隨著AI進(jìn)一步優(yōu)化計(jì)算,對(duì)CPU的性能提出了更高的要求。
AMD EPYC處理器恰恰就可以滿足這一要求。甚至,AMD EPYC新一代處理器正逐步突破數(shù)據(jù)中心的極限,提供更強(qiáng)大的性能、效率和可擴(kuò)展性進(jìn)一步為AI賦能。
現(xiàn)在,CPU在AI計(jì)算中的作用越來(lái)越大。在業(yè)內(nèi),一群AI研究人員得出了結(jié)論——“是時(shí)候讓CPU再次攻克AI了”。
AMD攜EPYC 爭(zhēng)霸“AI江山”
AMD很早就推出了擁有超高性能的EPYC系列處理器,如今它又在AI計(jì)算領(lǐng)域展現(xiàn)出新的活力。
EPYC堪稱(chēng)AMD歷史上最成功的產(chǎn)品系列之一,經(jīng)歷了初代Naples(那不勒斯),二代Rome(羅馬),三代Milan(米蘭)的潮流風(fēng)暴后,四代Genoa(熱那亞)等系列的相繼推出,則將EPYC一副“壯麗之城”的圖景展現(xiàn)在人們面前。
2022年,AMD發(fā)布了Zen 4架構(gòu)的AMD EPYC處理器“Genoa”,采用了先進(jìn)的5nm工藝,最多可達(dá)到96核心192線程,配備了12通道DDR5內(nèi)存和160條PCIe 5.0總線。更大的內(nèi)存總線,可以令更多數(shù)據(jù)在內(nèi)存中進(jìn)行快速加載,從而有效減少因數(shù)據(jù)傳輸而造成的時(shí)延;更多的PCIe總線意味著在單臺(tái)服務(wù)器上可以接入更多AI計(jì)算板卡,意味著在更小數(shù)據(jù)中心空間內(nèi)可以提供出更高密度的AI算力。
在今年6月份舉辦的“數(shù)據(jù)中心與AI技術(shù)首映”上,AMD針對(duì)云原生負(fù)載進(jìn)行性了優(yōu)化,帶來(lái)了以吞吐量為導(dǎo)向,擁有最高終端密度和效率的AMD EPYC 9704處理器“Bergamo”。
如果說(shuō)Genoa是專(zhuān)注于通用的工作負(fù)載,Bergamo則專(zhuān)注于云服務(wù)器和數(shù)據(jù)中心,適用于云原生工作負(fù)載。搭載了820億顆晶體管的Bergamo,能夠最高支持 128 個(gè) Zen 4c 核心,兼容x86 ISA 指令,可相對(duì)滿足深度云計(jì)算的應(yīng)用需求。針對(duì)云原生應(yīng)用,從數(shù)據(jù)上看,與至強(qiáng)鉑金8490H相比,Bergamo的性能優(yōu)勢(shì)更是最高達(dá)到驚人的2.6倍。事實(shí)上,更多的核心數(shù)量,對(duì)AI應(yīng)用的處理能力更強(qiáng)。更高的加速主頻,則為AI計(jì)算提供了更高的管理和控制能力。
Bergamo EPYC 9704系列處理器包括EPYC 9754、EPYC 9754S、EPYC 9734三個(gè)型號(hào)。其中,EPYC 9754和EPYC 9754S兩款擁有高達(dá)128核心,前者256路線程,后者則為128路線程,熱功耗均為360W,默頻2.25GHz,最高可加速至3.1GHz。EPYC 9734則擁有112個(gè)核心,224路線程,熱功耗為320W,默頻和加速頻率也降至2.2GHz和3.0GHz,三款產(chǎn)品的L3緩存均為256MB。
同樣在本次活動(dòng)上,AMD還帶來(lái)了針對(duì)更高性能計(jì)算的“Genoa-X”,它將每個(gè)CCD上額外堆疊了64MB 3D緩存,那么12個(gè)CCD就是768MB,總的三級(jí)緩存達(dá)到了驚人的1152MB,這也是處理器緩存史上第一次突破1GB,如果算上6MB一級(jí)緩存(每核心獨(dú)享64KB)、96MB二級(jí)緩存(每核心獨(dú)享1MB),Genoa-X的緩存總量達(dá)到了1254MB,性能堪稱(chēng)恐怖!
Genoa-X配備了3D V-Cache技術(shù),能夠使其在更加繁重的工作負(fù)載中釋放出更高性能,讓更多數(shù)據(jù)以更高的效能在CPU中傳遞,從而有效提升AI以及需要更多緩存處理計(jì)算的能力。3D V-Cache技術(shù)采用業(yè)界首創(chuàng)的Hybrid bond加穿透硅通孔技術(shù)(TSV)工藝,可以讓L3緩存垂直堆疊,在不改變處理器面積的前提下,可使L3緩存(SRAM)總數(shù)增加三倍。
同時(shí),更高的Cache能在更短的時(shí)鐘周期內(nèi),對(duì)AI應(yīng)用進(jìn)行有效處理。資料顯示,采用3D V-Cache的Genoa-X 系列可以在Ansys CFX中每天完成更多的設(shè)計(jì)任務(wù),從而大幅加速產(chǎn)品開(kāi)發(fā)。
擁有這樣性能的第四代AMD EPYC處理器,幾乎都是當(dāng)前技術(shù)條件下所能達(dá)到的極致。
第四代AMD EPYC處理器 處處透著“領(lǐng)先”
第四代AMD EPYC處理器性能卓越的主要原因之一體現(xiàn)在Zen 4及Zen 4c架構(gòu)方面。
AMD Zen架構(gòu)誕生于2017年,迄今已經(jīng)先后有了14nm Zen、12nm Zen+、7nm Zen 2、7nm Zen 3,以及5nm Zen 4 Genoa處理器產(chǎn)品。Genoa擁有先進(jìn)的5nm工藝、Zen 4架構(gòu),憑借成熟的Chiplet布局,做到最多96核心192線程,還有12通道DDR5內(nèi)存、160條PCIe 5.0總線。
技術(shù)的持續(xù)突破和迭代,使得AMD處理器在近年來(lái)得到了“井噴式”的增長(zhǎng),無(wú)論是產(chǎn)品性能,還是產(chǎn)品的功耗,AMD處理器都做到了空前的高度。
隨著AMD沿襲對(duì)創(chuàng)新和品質(zhì)的追求,在“Zen”架構(gòu)的強(qiáng)勢(shì)加持下,AMD走出了一條近乎完美的處理器之路。
Zen 4c架構(gòu)的Bergamo讓我們看到了AMD“Zen”架構(gòu)“再下一城”。Bergamo首次采用Zen 4c核心,它與Zen 4都基于同樣的ISA指令集和IPC性能,幾乎所有的微架構(gòu)指標(biāo)都一模一樣。
Zen 4c核心的專(zhuān)用L2緩存,大小與Zen 4核心相同,這意味著L2 SRAM單元占用著相同的面積,而AMD通過(guò)讓L2控制邏輯電路更緊湊來(lái)減少L2緩存的區(qū)域面積,而在不包含L2和相關(guān)電路的區(qū)域,核心面積極大程度縮小。相比Zen4, Zen 4c設(shè)計(jì)面積縮小了35%,每瓦性能顯著提高。Zen 4c核心針對(duì)性能和功耗的最佳平衡點(diǎn)進(jìn)行了優(yōu)化,這為我們提供了更好的密度和能效。
第四代AMD EPYC處理器的強(qiáng)大性能不言而喻,但AMD并未滿足于此,正進(jìn)一步拓展EPYC處理器生態(tài),與其他廠商的硬件配合,展現(xiàn)出無(wú)與倫比的強(qiáng)大效果。
NVIDIA的DGX高性能計(jì)算平臺(tái),就一直在使用頂級(jí)的EPYC處理器,可以加速各種類(lèi)型的AI工作負(fù)載,如數(shù)據(jù)分析、訓(xùn)練和推理等。
第四代AMD EPYC處理器強(qiáng)大的性能已領(lǐng)先業(yè)界一步,無(wú)疑已經(jīng)成為AI計(jì)算領(lǐng)域綜合能力最強(qiáng)的選擇之一。這個(gè)充滿變數(shù)的AI時(shí)代,在提升算力的未來(lái)道路上,第四代AMD EPYC處理器必將顛覆市場(chǎng)格局!
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- CSDN「智研社」第四期活動(dòng)開(kāi)啟-共敘大模型驅(qū)動(dòng)的云產(chǎn)業(yè)變革與應(yīng)用創(chuàng)新
- 助推低空經(jīng)濟(jì)發(fā)展 2025北京無(wú)人機(jī)展會(huì) 歡迎您
- 第十五屆中國(guó)國(guó)際納米技術(shù)產(chǎn)業(yè)博覽會(huì)
- CHInano 2025 第十五屆中國(guó)國(guó)際納米技術(shù)產(chǎn)業(yè)博覽會(huì)
- 文旅類(lèi):品牌較量的新高地丨第十六屆虎嘯獎(jiǎng)?wù)髻愡M(jìn)行中!
- 短劇風(fēng)向標(biāo) | 短劇對(duì)接會(huì)圓滿落幕 聽(tīng)7位行業(yè)專(zhuān)家?guī)?lái)出海干貨分享
- 答案即將揭曉|2024視聽(tīng)圈,誰(shuí)在突破重圍,誰(shuí)在改變未來(lái)?
- 十余年煉就細(xì)分王者,這家激光企業(yè)“毫厘之間見(jiàn)真功”
- 銅業(yè)龍頭齊聚南昌!SMM銅業(yè)大會(huì)第一波進(jìn)程函搶先看!
- IBS 2025 第十三屆中國(guó)國(guó)際生物質(zhì)能源與有機(jī)固廢資源化利用高峰論壇
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。