7月16日消息,日前,華為發(fā)布大模型時代AI存儲新品,為基礎模型訓練、行業(yè)模型訓練,細分場景模型訓練推理提供存儲最優(yōu)解,釋放AI新動能。
華為數據存儲產品線總裁周躍峰表示,企業(yè)在開發(fā)及實施大模型應用過程中,面臨四大挑戰(zhàn):
首先,數據準備時間長,數據來源分散,歸集慢,預處理百TB數據需10天左右;
其次,多模態(tài)大模型以海量文本、圖片為訓練集,當前海量小文件的加載速度不足100MB/s,訓練集加載效率低;
大模型參數頻繁調優(yōu),訓練平臺不穩(wěn)定,平均約2天出現一次訓練中斷,需要Checkpoint機制恢復訓練,故障恢復耗時超過一天;
最后,大模型實施門檻高,系統搭建繁雜,資源調度難,GPU資源利用率通常不到40%。
華為順應大模型時代AI發(fā)展趨勢,針對不同行業(yè)、不同場景大模型應用,推出OceanStor A310深度學習數據湖存儲與FusionCube A3000訓/推超融合一體機。
華為數據存儲產品線總裁 周躍峰
OceanStor A310深度學習數據湖存儲,面向基礎/行業(yè)大模型數據湖場景,實現從數據歸集、預處理到模型訓練、推理應用的AI全流程海量數據管理。OceanStor A310單框5U支持業(yè)界最高的400GB/s帶寬以及1200萬IOPS的最高性能,可線性擴展至4096節(jié)點,實現多協議無損互通。全局文件系統GFS實現跨地域智能數據編織,簡化數據歸集流程;通過近存計算實現近數據預處理,減少數據搬移,預處理效率提升30 %。
FusionCube A3000訓/推超融合一體機,面向行業(yè)大模型訓練/推理場景,針對百億級模型應用,集成OceanStor A300高性能存儲節(jié)點、訓/推節(jié)點、交換設備、AI平臺軟件與管理運維軟件,為大模型伙伴提供拎包入住式的部署體驗,實現一站式交付。開箱即用,2小時內即可完成部署。訓/推節(jié)點與存儲節(jié)點均可獨立水平擴展,以匹配不同規(guī)模的模型需求。同時FusionCube A3000通過高性能容器實現多個模型訓練推理任務共享GPU,將資源利用率從40%提升到70%以上。FusionCube A3000支持兩種靈活的商業(yè)模式,包括華為昇騰一站式方案,以及開放計算、網絡、AI平臺軟件的第三方伙伴一站式方案。
周躍峰表示:“大模型時代,數據決定AI智能的高度。作為數據的載體,數據存儲成為AI大模型的關鍵基礎設施。華為數據存儲未來將持續(xù)創(chuàng)新,面向AI大模型時代提供多樣化的方案與產品,攜手伙伴共同推進AI賦能千行百業(yè)。”
- 何小鵬回應特斯拉煥新 Model Y“撞臉小鵬” :好的設計總是心有靈犀
- 余承東評價特斯拉煥新 Model Y:智界R7仍然保持領先優(yōu)勢
- 文遠知行自動駕駛小巴在瑞士蘇黎世機場啟動測試運營
- 《原始征途》正式版今日上線 首次推出小程序版本
- 魏建軍親自掛帥 長城汽車將打造超豪車品牌:售價或超百萬
- 特斯拉煥新 Model Y發(fā)布!宣傳文案稱“盡管對比” 雷軍回復了兩個字
- 美光斥資70億美元在新加坡增建先進封裝廠 預計明年竣工投運
- TikTok可能被禁之際 美國網紅們推廣字節(jié)“小黃書”
- 李佳琦直播間年貨節(jié)專場直播開啟:首次開設寵物、潮玩&IP專場
- WiFi萬能鑰匙:與江蘇衛(wèi)視與達成深度合作
免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。