極客網(wǎng)·芯片8月25日 GPU市場需求旺盛，導(dǎo)致英偉達(dá) H100 GPU供不應(yīng)求。根據(jù)《金融時(shí)報(bào)》最近的報(bào)道，英偉達(dá)預(yù)計(jì)其最新的H100 GPU今年在全球的銷量達(dá)到55萬塊。
對(duì)GPU的需求顯然來自生成式AI的開發(fā)熱潮，但高性能計(jì)算市場也在盡力搶購。目前尚不清楚這個(gè)數(shù)字是否包括中國專用的A800和H800 GPU。
另據(jù)行業(yè)KOL透露，英偉達(dá)制造一塊H100 GPU的成本為3320美元，而平均零售價(jià)約為3萬美元，利潤高達(dá)9倍。
英偉達(dá)GPU大部分流向美國公司，中東也在搶購
報(bào)道指出，雖然大部分GPU流向美國科技公司，但沙特阿拉伯已經(jīng)購買了3000多塊，阿聯(lián)酋也購買了數(shù)千塊。
阿聯(lián)酋已經(jīng)在阿布扎比馬斯達(dá)爾城的國有技術(shù)創(chuàng)新研究所開發(fā)了自己的開源大型語言模型，這個(gè)名為Falcon模型使用了384塊A100 GPU。
沙特阿卜杜拉國王科技大學(xué)正在建造自己的基于GPU的超級(jí)計(jì)算機(jī)Shaheen III，它采用了700個(gè)Grace Hopper芯片，結(jié)合了Grace CPU和H100 Tensor Core GPU。這些GPU被用來創(chuàng)建一個(gè)LLM。
H100 GPU是英偉達(dá)的旗艦產(chǎn)品，具有14592個(gè)CUDA內(nèi)核、80GB HBM3容量、5120位內(nèi)存總線，平均售價(jià)高達(dá)3萬美元。黃仁勛曾聲稱，這是公司第一款為生成式AI設(shè)計(jì)的芯片。
據(jù)報(bào)道，2023年上半年與2022年全年相比，生成式AI初創(chuàng)企業(yè)的投資增長了5倍以上。自從2022年第三季度以來，生成式AI基礎(chǔ)設(shè)施類別的投資增長已經(jīng)超過70%。
3320美元成本賣30000，英偉達(dá)GPU利潤驚人
Nvidia H100 GPU的成本取決于其封裝方式以及用戶購買的數(shù)量。目前(2023年8月)H100 PCIe GPU的零售價(jià)約為3萬美元(交貨時(shí)間也可能有所不同)。
粗略估計(jì)，到2023年，全球GPU市場支出將達(dá)到165億美元，其中很大一部分資金將流向英偉達(dá)。
據(jù)《巴倫周刊》資深作家Tae Kim在最近發(fā)布的一篇社交媒體帖子中估計(jì)，英偉達(dá)制造一塊H100 GPU的成本為3320美元，而根據(jù)其零售價(jià)格，這意味獲得將近9倍的利潤。
有媒體報(bào)道，英偉達(dá)的合作伙伴臺(tái)積電的產(chǎn)能，已幾乎無法滿足GPU的市場需求。GPU需要采用更復(fù)雜的CoWoS制造工藝(臺(tái)積電的一種“2.5D”封裝技術(shù)，其中多個(gè)有源硅芯片，通常是GPU和HBM堆棧，集成在無源硅中間層上) 。使用CoWoS增加了一個(gè)復(fù)雜的多步驟、高精度的工藝過程，減慢了GPU的生產(chǎn)速度。
英偉達(dá)DGX系統(tǒng)副總裁兼總經(jīng)理Charlie Boyle證實(shí)了這一點(diǎn)。Boyle表示，生產(chǎn)的延遲并不是由于臺(tái)積電的需求計(jì)算錯(cuò)誤或晶圓產(chǎn)量問題，而是受到芯片封裝CoWoS技術(shù)的限制。
此外由于可用性降低、大量采購和價(jià)格上漲，GPU的供不應(yīng)求已經(jīng)開始影響HPC（高性能計(jì)算）市場的發(fā)展。
- 英特爾CEO陳立武：致力于建設(shè)一個(gè)偉大的代工廠
- 英特爾前CEO：臺(tái)積電巨額投資難振興美國芯片制造
- 全球十大芯片設(shè)計(jì)廠商最新份額：英偉達(dá)獨(dú)占半壁江山，中國4家入圍
- 英特爾迎來新掌門，陳立武能否力挽狂瀾
- 安森美擬以每股35.10美元現(xiàn)金收購Allegro MicroSystems
- ASML發(fā)布2024年財(cái)報(bào)：凈利潤同比下降3.4%，增長面臨挑戰(zhàn)
- 特朗普：應(yīng)當(dāng)廢除《芯片法案》 這毫無意義
- 臺(tái)積電在美投資千億美元仍難逃關(guān)稅大棒？專家：很難實(shí)施
- 美國微芯科技宣布裁員2000人，以應(yīng)對(duì)汽車芯片需求放緩
- 英特爾18A工藝受關(guān)注：英偉達(dá)、博通測試，代工市場懸念待解
免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。
