英特爾推出Gaudi 3加速器：部分性能超越H100 將于Q2面向OEM 廠商出貨

4月10日消息 在企業(yè)級AI基礎設施市場上，英偉達毫無疑問占據(jù)了先發(fā)優(yōu)勢，但英特爾在奮起直追。

北京時間4月9日晚間，英特爾Vision大會召開。英特爾重磅發(fā)布了英特爾至強6處理器的全新品牌，推出英特爾Gaudi 3加速器，以高性能、開放性和靈活性助力企業(yè)推進生成式AI創(chuàng)新，并發(fā)布了涵蓋全新開放、可擴展系統(tǒng)，下一代產(chǎn)品和一系列戰(zhàn)略合作的全棧解決方案，以加速生成式AI落地。

其中，英特爾Gaudi 3加速器將會是英特爾對抗英偉達的利器。英特爾CEO基辛格也對此寄予厚望。企業(yè)希望將生成式AI從試驗階段擴展到應用階段。因此，他們需要基于諸如英特爾Gaudi 3 AI加速器這樣的高性能、經(jīng)濟實用、節(jié)能的處理器所打造的可快速部署的解決方案。并且，Gaudi 3還能滿足復雜性、成本效益、碎片化、數(shù)據(jù)可靠性和合規(guī)性等需求。

英特爾表示，英特爾Gaudi 3 AI加速器將為AI系統(tǒng)提供動力，該AI系統(tǒng)可通過以太網(wǎng)的通用標準連接多達數(shù)萬個加速器。與上一代產(chǎn)品相比，英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升，以及1.5倍的內(nèi)存帶寬提升。該加速器將為尋求大規(guī)模部署生成式AI的企業(yè)帶來AI訓練和推理方面的重大飛躍。

英特爾Gaudi 3預計可大幅縮短70億和130億參數(shù)Llama2模型，以及1750億參數(shù)GPT-3模型的訓練時間。此外，在Llama 7B、70B和Falcon 180B大型語言模型（LLM）的推理吞吐量和能效方面也展現(xiàn)了出色性能。英特爾Gaudi 3加速器提供開放的、基于社區(qū)的軟件和行業(yè)標準以太網(wǎng)網(wǎng)絡，允許企業(yè)靈活地從單個節(jié)點擴展到擁有數(shù)千個節(jié)點的集群、超級集群和超大集群，支持大規(guī)模的推理、微調(diào)和訓練。

對于Gaudi 3 芯片，英特爾在此前的新聞通氣會上稱該產(chǎn)品的能效是英偉達芯片的兩倍多，運行 AI 模型的速度是英偉達 H100 GPU芯片的1.5倍。

Gaudi系列是英特爾在2022年5月面向人工智能應用場景專門推出的芯片品牌，用以對標英偉達的人工智能計算芯片。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨，包括戴爾、惠普和超微電腦在內(nèi)的公司將使用該芯片。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。