TechWeb 文 / 新喀鴉

隨著一些模型（例如大型語(yǔ)言模型）達(dá)到數(shù)萬(wàn)億參數(shù)，AI、高性能計(jì)算和數(shù)據(jù)分析變得日益復(fù)雜。以英偉達(dá)為首的很多公司都推出了一系列用于AI計(jì)算的相關(guān)芯片。

而在近期美國(guó)加州圣何塞的AMD Advancing AI大會(huì)上，AMD正式公布了Instinct MI300系列加速器的詳細(xì)規(guī)格與性能，以及眾多的應(yīng)用部署案例。那么AMD新發(fā)布的Instinct MI300到底怎么樣？

AMD Instinct MI300系列

MI300系列包含MI300A和MI300X兩款產(chǎn)品，其中MI300A是集成了CPU+GPU的APU（Accelerated Processing Units）產(chǎn)品。MI300X則是采用了純GPU設(shè)計(jì)的GPU產(chǎn)品。

目前MI300系列在市場(chǎng)上的競(jìng)爭(zhēng)對(duì)手無(wú)疑是英偉達(dá)的H100。在AMD官網(wǎng)上具體對(duì)比參數(shù)如下：

MI300A與H100相比，在AI算力方面兩者幾乎不分上下。

MI300A與H100相比，在高性能計(jì)算方面MI300A有著相對(duì)明顯的優(yōu)勢(shì)。

MI300A與H100相比，在內(nèi)存容量和帶寬方面MI300A有著相對(duì)明顯的優(yōu)勢(shì)。

MI300X與H100相比，在AI算力方面MI300X有著一定的優(yōu)勢(shì)。

MI300X與H100相比，在高性能計(jì)算方面MI300X有著相對(duì)明顯的優(yōu)勢(shì)。

MI300A與H100相比，在內(nèi)存容量和帶寬方面MI300A有著相對(duì)明顯的優(yōu)勢(shì)。

不過(guò)值得一提的是，MI300X有著304個(gè)CU（計(jì)算單元），而H100則只有132個(gè)SM（流式多處理器）。這樣看來(lái)MI300X其實(shí)是靠“堆規(guī)格”把算力堆上去的。這就會(huì)造成在同樣的成本下，算力方面H100比起MI300X更有優(yōu)勢(shì)。不過(guò)鑒于目前英偉達(dá)憑借各種優(yōu)勢(shì)把H100賣(mài)得很貴，AMD“堆規(guī)格”的策略也許是個(gè)不錯(cuò)的競(jìng)爭(zhēng)方式。

ROCm 6

AMD在這次大會(huì)上還宣布將推出最新的AMD ROCm 6開(kāi)放軟件平臺(tái)，不僅能提升AI加速性能，還增加了對(duì)生成式AI多項(xiàng)新功能的支持，包括FlashAttention、HIPGraph和vLLM等。

在生態(tài)系統(tǒng)層面，AMD的合作伙伴數(shù)量不斷增加，除了Pytorch和Hugging Face外，OpenAI Triton 3.0版本也將支持AMD GPU。

AMD的軟件生態(tài)圈ROCm（Radeon Open Compute Ecosystem）于2016年4月發(fā)布，相比2007年發(fā)布的英偉達(dá)CUDA起步較晚。因此目前從軟件生態(tài)角度看，英偉達(dá)CUDA仍然具有相當(dāng)?shù)膬?yōu)勢(shì)。

重要客戶

根據(jù)目前的消息顯示Meta、微軟、甲骨文以及服務(wù)器供應(yīng)商戴爾、惠普、聯(lián)想、超微等將成為MI300系列的重要客戶。這些公司的具體動(dòng)向如下：

Meta正在新增AMD Instinct MI300X加速器至其數(shù)據(jù)中心。

微軟近期發(fā)布Azure ND MI300x v5虛擬機(jī)（VM）系列產(chǎn)品。

甲骨文計(jì)劃引入搭載AMD MI300X的裸機(jī)實(shí)例用于其高性能計(jì)算，且該基于MI300X的實(shí)例預(yù)計(jì)將支援配備高速RDMA網(wǎng)絡(luò)的OCI Supercluster。

戴爾展示了Dell PowerEdge XE9680服務(wù)器，其配備8個(gè)MI300系列加速器。

惠普近期發(fā)布首款搭載AMD MI300A APU的超算加速器HPE Cray Supercomputing EX255a，預(yù)計(jì)于2024年上半年上市。

聯(lián)想宣布計(jì)劃將在2024年上半年推出基于AMD MI300系列加速器的創(chuàng)新設(shè)計(jì)。

超微推出基于第4代AMD EPYC處理器和AMD Instinct MI300系列加速器的H13系列新產(chǎn)品。

AMD中國(guó)官網(wǎng)

AMD美國(guó)官網(wǎng)

另外，目前在AMD中國(guó)官網(wǎng)AMD Instinct 加速器頁(yè)面中還沒(méi)有出現(xiàn)MI300系列的相關(guān)介紹，在“產(chǎn)品陣容”部分還是MI200系列的介紹信息。因此，MI300系列產(chǎn)品可能暫時(shí)不會(huì)向中國(guó)出售。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。