12月7日消息,AMD在7日凌晨 2 點舉辦“Advancing AI”活動中,正式宣布了旗艦 AI GPU 加速器 MI300X,其性能比英偉達的 H100 高出 60%。
IT之家報道,AMD 提到,在訓練性能方面,MI300X 與競爭對手(H100)不相上下,并提供具有競爭力的價格 / 性能,同時在推理工作負載方面表現(xiàn)更為出色。
該芯片完全基于 CDNA 3 架構(gòu)設(shè)計,混合使用 5nm 和 6nm IP,晶體管數(shù)量達到 1530 億個。
設(shè)計方面,主中介層采用無源芯片布局,該芯片使用第 4 代 Infinity Fabric 解決方案容納互連層。中介層總共包括 28 個芯片,其中包括 8 個 HBM3 封裝、16 個 HBM 封裝之間的虛擬芯片和 4 個有源芯片,每個有源芯片都有 2 個計算芯片。
每個基于 CDNA 3 GPU 架構(gòu)的 GCD 總共有 40 個計算單元,相當于 2560 個內(nèi)核??偣灿邪藗€計算芯片 (GCD),因此總共有 320 個計算和 20,480 個核心單元。
在良率方面,AMD 將縮減這些內(nèi)核的一小部分,我們將看到總共 304 個計算單元(每個 GPU 小芯片 38 個 CU),總共有 19,456 個流處理器。
內(nèi)存方面,MI300X 采用 HBM3 內(nèi)存,容量最高 192GB,比前代 MI250X(128 GB)高 50%。該內(nèi)存將提供高達 5.3 TB / s 的帶寬和 896 GB/s 的 Infinity Fabric 帶寬。
AMD 為 MI300X 配備了 8 個 HBM3 堆棧,每個堆棧為 12-Hi,同時集成了 16 Gb IC,每個 IC 為 2 GB 容量或每個堆棧 24 GB。
相比之下,NVIDIA 即將推出的 H200 AI 加速器提供 141 GB 容量,而英特爾的 Gaudi 3 將提供 144 GB 容量。
在功耗方面,AMD Instinct MI300X 的額定功率為 750W,比 Instinct MI250X 的 500W 增加了 50%,比 NVIDIA H200 增加了 50W。
其中一種配置是技嘉的 G593-ZX1 / ZX2 系列服務(wù)器,提供多達 8 個 MI300X GPU 加速器和兩個 AMD EPYC 9004 CPU。這些系統(tǒng)將配備多達 8 個 3000W 電源,總功率為 18000W。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 特斯拉CEO馬斯克身家暴漲,穩(wěn)居全球首富寶座
- 阿里巴巴擬發(fā)行 26.5 億美元和 170 億人民幣債券
- 騰訊音樂Q3持續(xù)穩(wěn)健增長:總收入70.2億元,付費用戶數(shù)1.19億
- 蘋果Q4營收949億美元同比增6%,在華營收微降
- 三星電子Q3營收79萬億韓元,營業(yè)利潤受一次性成本影響下滑
- 賽力斯已向華為支付23億,購買引望10%股權(quán)
- 格力電器三季度營收同比降超15%,凈利潤逆勢增長
- 合合信息2024年前三季度業(yè)績穩(wěn)健:營收增長超21%,凈利潤增長超11%
- 臺積電四季度營收有望再攀高峰,預(yù)計超260億美元刷新紀錄
- 韓國三星電子決定退出LED業(yè)務(wù),市值蒸發(fā)超4600億元
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。