字節(jié)跳動自主研發(fā)AI GPU,旨在減少對英偉達依賴

據媒體報道,字節(jié)跳動正在開發(fā)兩款專門用于人工智能領域的GPU,并計劃到2026年實現大規(guī)模量產。據悉,這兩款AI GPU將由臺積電負責制造,這將有助于字節(jié)跳動降低對英偉達的依賴,并且符合美國的出口管控法規(guī)。

目前,這兩款GPU正處于設計階段,一款專為AI訓練設計,另一款則用于AI推理。預計它們將采用臺積電的先進制程技術N4或N5生產,與英偉達的Blackwell系列制程技術相似。字節(jié)跳動期望在2026年實現這些GPU的大規(guī)模生產及部署。

今年,字節(jié)跳動已經投入超過20億美元購買超過20萬臺英偉達H20 GPU,單價約為10000美元,其中許多訂單尚未交付。由于市場上英偉達GPU供不應求且價格高昂,字節(jié)跳動決定開發(fā)自家的人工智能硬件。

英偉達為了應對去年美國實施的出口管控政策,為中國市場特別設計了DGX H20等產品。盡管HGX H20的性能相比英偉達的高端H100有所削減,但它仍然配備了96GB的HBM3內存、最高4TB/s的內存帶寬和8路GPU互聯能力,因此在實際應用中仍然受到企業(yè)客戶的青睞。盡管字節(jié)跳動的新GPU可能會受到美國出口管制的限制,無法在性能上超越HGX H20,但其成本將大幅降低。

字節(jié)跳動在自主開發(fā)AI GPU方面面臨的最大挑戰(zhàn)是,公司目前依賴英偉達的CUDA及相應軟件棧進行AI訓練和推理。如果轉向自家GPU,字節(jié)跳動將需要開發(fā)新的軟件平臺,并確保軟件與硬件的兼容性。

(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )

贊助商
2024-12-19
字節(jié)跳動自主研發(fā)AI GPU,旨在減少對英偉達依賴
字節(jié)跳動正在開發(fā)兩款專門用于人工智能領域的GPU,并計劃到2026年實現大規(guī)模量產。據悉,這兩款AI GPU將由臺積電負責制造,這將有助于字節(jié)跳動降低對英偉達的

長按掃碼 閱讀全文