極客網(wǎng)·芯片8月25日 GPU市場需求旺盛，導(dǎo)致英偉達(dá) H100 GPU供不應(yīng)求。根據(jù)《金融時報》最近的報道，英偉達(dá)預(yù)計其最新的H100 GPU今年在全球的銷量達(dá)到55萬塊。

對GPU的需求顯然來自生成式AI的開發(fā)熱潮，但高性能計算市場也在盡力搶購。目前尚不清楚這個數(shù)字是否包括中國專用的A800和H800 GPU。

另據(jù)行業(yè)KOL透露，英偉達(dá)制造一塊H100 GPU的成本為3320美元，而平均零售價約為3萬美元，利潤高達(dá)9倍。

英偉達(dá)GPU大部分流向美國公司，中東也在搶購

報道指出，雖然大部分GPU流向美國科技公司，但沙特阿拉伯已經(jīng)購買了3000多塊，阿聯(lián)酋也購買了數(shù)千塊。

阿聯(lián)酋已經(jīng)在阿布扎比馬斯達(dá)爾城的國有技術(shù)創(chuàng)新研究所開發(fā)了自己的開源大型語言模型，這個名為Falcon模型使用了384塊A100 GPU。

沙特阿卜杜拉國王科技大學(xué)正在建造自己的基于GPU的超級計算機(jī)Shaheen III，它采用了700個Grace Hopper芯片，結(jié)合了Grace CPU和H100 Tensor Core GPU。這些GPU被用來創(chuàng)建一個LLM。

H100 GPU是英偉達(dá)的旗艦產(chǎn)品，具有14592個CUDA內(nèi)核、80GB HBM3容量、5120位內(nèi)存總線，平均售價高達(dá)3萬美元。黃仁勛曾聲稱，這是公司第一款為生成式AI設(shè)計的芯片。

據(jù)報道，2023年上半年與2022年全年相比，生成式AI初創(chuàng)企業(yè)的投資增長了5倍以上。自從2022年第三季度以來，生成式AI基礎(chǔ)設(shè)施類別的投資增長已經(jīng)超過70%。

3320美元成本賣30000，英偉達(dá)GPU利潤驚人

Nvidia H100 GPU的成本取決于其封裝方式以及用戶購買的數(shù)量。目前(2023年8月)H100 PCIe GPU的零售價約為3萬美元(交貨時間也可能有所不同)。

粗略估計，到2023年，全球GPU市場支出將達(dá)到165億美元，其中很大一部分資金將流向英偉達(dá)。

據(jù)《巴倫周刊》資深作家Tae Kim在最近發(fā)布的一篇社交媒體帖子中估計，英偉達(dá)制造一塊H100 GPU的成本為3320美元，而根據(jù)其零售價格，這意味獲得將近9倍的利潤。

有媒體報道，英偉達(dá)的合作伙伴臺積電的產(chǎn)能，已幾乎無法滿足GPU的市場需求。GPU需要采用更復(fù)雜的CoWoS制造工藝(臺積電的一種“2.5D”封裝技術(shù)，其中多個有源硅芯片，通常是GPU和HBM堆棧，集成在無源硅中間層上) 。使用CoWoS增加了一個復(fù)雜的多步驟、高精度的工藝過程，減慢了GPU的生產(chǎn)速度。

英偉達(dá)DGX系統(tǒng)副總裁兼總經(jīng)理Charlie Boyle證實了這一點。Boyle表示，生產(chǎn)的延遲并不是由于臺積電的需求計算錯誤或晶圓產(chǎn)量問題，而是受到芯片封裝CoWoS技術(shù)的限制。

此外由于可用性降低、大量采購和價格上漲，GPU的供不應(yīng)求已經(jīng)開始影響HPC（高性能計算）市場的發(fā)展。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。