7月28日消息，Micron Technology Inc.（美光科技股份有限公司）今日宣布，公司已開始出樣業(yè)界首款 8 層堆疊的 24GB 容量第二代 HBM3 內存，其帶寬超過 1.2TB/s，引腳速率超過 9.2Gb/s，比當前市面上現有的 HBM3 解決方案性能可提升最高 50%。美光第二代 HBM3 產品與前一代產品相比，每瓦性能提高 2.5 倍，創(chuàng)下了關鍵型人工智能（AI）數據中心性能、容量和能效指標的新紀錄，將助力業(yè)界縮短大型語言模型（如 GPT-4 及更高版本）的訓練時間，為 AI 推理提供高效的基礎設施，并降低總體擁有成本（TCO）。
美光基于業(yè)界前沿的 1β DRAM 制程節(jié)點推出高帶寬內存（HBM）解決方案，將 24Gb DRAM 裸片封裝進行業(yè)標準尺寸的 8 層堆疊模塊中。此外，美光 12 層堆疊的 36GB 容量產品也將于 2024 年第一季度開始出樣。與當前市面上其他的 8 層堆疊解決方案相比，美光 HBM3 解決方案的容量提升了 50%。美光第二代 HBM3 產品的性能功耗比和引腳速度的提升對于管理當今 AI 數據中心的極端功耗需求至關重要。美光通過技術革新實現了能效的顯著提升，例如與業(yè)界其他 HBM3 解決方案相比，美光將硅通孔（TSV）數量翻倍，增加 5 倍金屬密度以降低熱阻，以及設計更為節(jié)能的數據通路。
美光作為 2.5D/3D 堆疊和先進封裝技術領域長久以來的存儲領導廠商，有幸成為臺積電 3DFabric 聯盟的合作伙伴成員，共同構建半導體和系統(tǒng)創(chuàng)新的未來。在第二代 HBM3 產品開發(fā)過程中，美光與臺積電攜手合作，為 AI 及高性能計算（HPC）設計應用中順利引入和集成計算系統(tǒng)奠定了基礎。臺積電目前已收到美光第二代 HBM3 內存樣片，正與美光密切合作進行下一步的評估和測試，助力客戶的下一代高性能計算應用創(chuàng)新。
美光第二代 HBM3 解決方案滿足了生成式 AI 領域對多模態(tài)、數萬億參數 AI 模型日益增長的需求。憑借高達 24GB 的單模塊容量和超過 9.2Gb/s 的引腳速率，美光 HBM3 能使大型語言模型的訓練時間縮短 30% 以上，從而降低總體擁有成本。此外，美光 HBM3 將觸發(fā)每日查詢量的顯著增加，從而更有效地利用訓練過的模型。美光第二代 HBM3 內存擁有業(yè)界一流的每瓦性能，將切實推動現代 AI 數據中心節(jié)省運營開支。在已經部署的 1,000 萬個圖形處理器（GPU）用例中，單個 HBM 模塊可節(jié)約 5W 功耗，能在五年內節(jié)省高達 5.5 億美元的運營費用。
美光副總裁暨計算與網絡事業(yè)部計算產品事業(yè)群總經理 Praveen Vaidyanathan 表示：“美光第二代 HBM3 解決方案旨在為客戶及業(yè)界提供卓越的人工智能和高性能計算解決方案。我們的一個重要考量標準是，該產品在客戶平臺上是否易于集成。美光 HBM3 具有完全可編程的內存內建自測試（MBIST）功能，可在完整規(guī)格的引腳速度下運行，使美光能為客戶提供更強大的測試能力，實現高效協作，助力客戶縮短產品上市時間?！?/p>
英偉達超大規(guī)模和高性能計算副總裁 Ian Buck 表示：“生成式 AI 的核心是加速計算，HBM 的高帶寬至關重要，并帶來更出色的能效。我們與美光在眾多產品領域保持了長期合作，非常期待與美光在第二代 HBM3 產品上繼續(xù)合作，加速 AI 創(chuàng)新。”
第二代 HBM3 是美光領先技術的又一個里程碑。美光此前宣布推出基于 1α（1-alpha）節(jié)點、24Gb 單塊 DRAM 裸片的 96GB 容量 DDR5 模組用于大容量服務器解決方案；如今推出基于 1β 節(jié)點、24Gb 單塊 DRAM 裸片的 24GB 容量 HBM3 產品，并計劃于 2024 年上半年推出基于 1β 節(jié)點、32Gb 單塊 DRAM 裸片的 128GB 容量 DDR5 模組。這些新品展現了美光在 AI 服務器領域的前沿技術創(chuàng)新。
免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。
