科技云報(bào)到原創(chuàng)。

從古代的算盤到如今的超級(jí)計(jì)算機(jī)，人類計(jì)算能力的承載形式在不斷演化。

隨著以ChatGPT為代表的生成式AI席卷全球，大模型已經(jīng)成為推動(dòng)技術(shù)創(chuàng)新的關(guān)鍵驅(qū)動(dòng)力。無論是自然語言處理中的GPT系列、BERT等預(yù)訓(xùn)練模型，還是計(jì)算機(jī)視覺領(lǐng)域的ViT和SWIN Transformer，這些模型的參數(shù)量往往以數(shù)十億甚至數(shù)萬億計(jì)，對(duì)計(jì)算資源的需求呈指數(shù)級(jí)增長(zhǎng)。

面對(duì)如此巨大的算力需求，企業(yè)如何在平衡算力與能耗開支的前提下，高效地利用和管理算力資源，是實(shí)現(xiàn)降本增效的重要命題。這其中，對(duì)算力基礎(chǔ)設(shè)施和軟件平臺(tái)的精細(xì)化運(yùn)營(yíng)管理成為破題的關(guān)鍵。

全球AI持續(xù)井噴 大模型與智算共振

超大基礎(chǔ)模型的訓(xùn)練需要多項(xiàng)關(guān)鍵技術(shù)作為支撐，其中算力、算法和數(shù)據(jù)被喻為驅(qū)動(dòng)人工智能向前的“三駕馬車”。

自生成式人工智能服務(wù)（AIGC）和GPT大模型訓(xùn)練爆火后，圍繞算力、算法和數(shù)據(jù)相關(guān)的討論此起彼伏，國(guó)產(chǎn)大模型應(yīng)用更是呈現(xiàn)出“千模大戰(zhàn)”的狀態(tài)。

眾所周知，大模型是一項(xiàng)“燒錢”的業(yè)務(wù)，而“燒錢”的最主要原因由于大模型的計(jì)算復(fù)雜度很高，每次訓(xùn)練都需要使用大量的算力來進(jìn)行計(jì)算和推理。

根據(jù)阿伯丁大學(xué)、MIT等機(jī)構(gòu)的研究者對(duì)算力需求的研究發(fā)現(xiàn)，在2010年之前訓(xùn)練所需的算力增長(zhǎng)符合摩爾定律，大約每20個(gè)月翻一番。自2010年初深度學(xué)習(xí)問世以來，訓(xùn)練所需的算力快速增長(zhǎng)，大約每6個(gè)月翻一番。2015年末，隨著大規(guī)模機(jī)器學(xué)習(xí)模型的出現(xiàn)，訓(xùn)練算力的需求提高了10到100倍，出現(xiàn)了一種新的趨勢(shì)。

根據(jù)OpenAI公開數(shù)據(jù)推測(cè)，如果按照每秒1000萬億次的計(jì)算，每次模型訓(xùn)練需3640天的計(jì)算能力，且全球AI訓(xùn)練所用的計(jì)算量，平均每3.43個(gè)月便會(huì)翻一番，算力需求的指數(shù)級(jí)增長(zhǎng)曲線將更加陡峭。

大模型對(duì)算力的需求是顯而易見的，但更關(guān)鍵的點(diǎn)可能在于能否把算力更高效地挖掘出來。在不同的階段，企業(yè)對(duì)于算力需求也不盡相同。在訓(xùn)練階段，企業(yè)對(duì)算力的追求可能是“大”，這一方面能夠做出更大的模型，另一方面也能夠進(jìn)行更快速的迭代。但到用戶開始接受這個(gè)效果的時(shí)候，就要涉及到怎樣做才能更劃算的問題，也就是說在部署階段，可能要更關(guān)注“精”的問題，盡可能用相對(duì)少的算力實(shí)現(xiàn)最大程度的作用。

與算力需求一路高歌猛進(jìn)形成鮮明對(duì)比的是，當(dāng)前在算力使用上仍面臨許多挑戰(zhàn)，存在著利用率低、混合算力協(xié)同調(diào)度難等問題?！吨袊?guó)算力發(fā)展觀察報(bào)告》顯示，有些算力中心整體算力利用率不足30%，大量的算力資源在沉睡中等待被喚醒，算力供需矛盾凸顯。

在此背景下，如何汲取硬件資源提供的每一滴能力、加速模型的訓(xùn)練速度成為行業(yè)首要考慮的問題。為此，智能算力作為新型算力服務(wù)模式的重要性愈加突顯，其不僅可以實(shí)現(xiàn)算力資源的最優(yōu)利用，還能夠靈活地適應(yīng)不同業(yè)務(wù)場(chǎng)景的需求，提高整體效率。

當(dāng)前，人工智能技術(shù)在多模態(tài)感知、決策規(guī)劃、自主控制等多個(gè)特定領(lǐng)域突破，向更開放的通用場(chǎng)景加速融合，以創(chuàng)造能在復(fù)雜、多元開放環(huán)境中不斷重構(gòu)的超級(jí)智能算力場(chǎng)景。這種演進(jìn)使智能算力變得不可或缺，且不再局限于簡(jiǎn)單的算力疊加或升級(jí)，而是在多元重構(gòu)驅(qū)動(dòng)下實(shí)現(xiàn)算力的極致拓展與躍遷。

智能算力作為新型基礎(chǔ)設(shè)施，已是萬千行業(yè)智能化變革的核心驅(qū)動(dòng)力，智算服務(wù)由此也將成為重要的IT基礎(chǔ)服務(wù)，將重塑整個(gè)IT基礎(chǔ)設(shè)施領(lǐng)域的市場(chǎng)格局。根據(jù)IDC預(yù)測(cè)，中國(guó)智算服務(wù)市場(chǎng)2023-2028年復(fù)合增長(zhǎng)率達(dá)56.2%，這反映出中國(guó)智算服務(wù)市場(chǎng)的巨大潛力。

智算服務(wù)市場(chǎng)未來增長(zhǎng)潛力一方面在于智能算力供給提升背景下，智算中心加碼建設(shè)，基于其配套的智算服務(wù)也將迎來發(fā)展基礎(chǔ)。另一方面，生成式AI正從單模態(tài)向多模態(tài)升級(jí)、從訓(xùn)練向推理落地、從通用向垂直行業(yè)滲透，智算服務(wù)需求尤其是生成式AI IaaS的服務(wù)需求也將不斷高增。

2024年出現(xiàn)一個(gè)明顯的轉(zhuǎn)折，隨著國(guó)內(nèi)互聯(lián)網(wǎng)大廠在算力基礎(chǔ)設(shè)方面資本支出的不斷增加，云時(shí)代的數(shù)據(jù)中心已經(jīng)基本消化完畢，或者無法滿足現(xiàn)有的智能算力要求，而新購(gòu)買的大量智能算力設(shè)備又需要放到擁有更大規(guī)模綠色電力供應(yīng)和更大規(guī)模機(jī)柜的智算中心里，這也在很大程度上刺激了2024年以來國(guó)內(nèi)智算中心的建設(shè)熱潮。

據(jù)IDC圈不完全統(tǒng)計(jì)，截至2024年11月20日，中國(guó)智算中心項(xiàng)目已經(jīng)達(dá)到634個(gè)，大規(guī)模集群數(shù)量也不斷增加。

2025年，大模型將繼續(xù)向生產(chǎn)場(chǎng)景深度滲透。在這一過程中，大模型尤其是垂類大模型應(yīng)用的發(fā)展，對(duì)智算中心提出了更高要求，精細(xì)化、綠色化是智算算力高質(zhì)量發(fā)展的必然方向，投建邏輯將進(jìn)入服務(wù)為主的2.0時(shí)代。

全棧智算新引擎 軟硬協(xié)同一站式按需服務(wù)

如果將大模型的運(yùn)行環(huán)境比喻成一幢房屋，那么這幢房屋的居住品質(zhì)直接關(guān)系到大模型的運(yùn)行效率。

談到居住品質(zhì)，必然涉及到其中的裝修質(zhì)量。通常，裝修分為三步：基裝、硬裝、軟裝。

“基裝”就像蓋房子打地基一樣，是裝修的第一步，包括了房屋結(jié)構(gòu)的改造、水電改造、墻面處理等，讓房子“骨骼”更結(jié)實(shí)，為后續(xù)的裝修打下堅(jiān)實(shí)基礎(chǔ)。

“硬裝”是基裝之上的進(jìn)一步施工，涉及到房屋的固定裝飾，比如地板、墻面磚、天花板、櫥柜等，決定了房屋的風(fēng)格，是裝修中的中堅(jiān)力量。

“軟裝”是裝修中的點(diǎn)睛之筆，包括了家具、窗簾、床品、裝飾品等物品，展現(xiàn)房屋的品味。

總體來說，基裝要牢固，硬裝要風(fēng)格統(tǒng)一，軟裝要個(gè)性鮮明，切換到智算領(lǐng)域亦是如此。

在2024世界互聯(lián)網(wǎng)大會(huì)期間，寧暢在業(yè)內(nèi)首次創(chuàng)新性地提出了“精裝算力”概念，并引發(fā)媒體和行業(yè)的熱議解讀。所謂“精裝算力”，就是依托寧暢定制化與全棧全液能力，以算力棧為交付形態(tài)，從用戶需求與體驗(yàn)出發(fā)，提供全體系軟硬協(xié)同的精細(xì)化算力服務(wù)。

這一概念的提出，也讓寧暢成為了“智算領(lǐng)域裝修公司”，通過提供從基裝、硬裝到軟裝的一站式全棧智算服務(wù)，滿足不同行業(yè)客戶對(duì)算力服務(wù)的需求，加速業(yè)務(wù)效率。

從概念來看，“定制化”和“全棧全液”可以視為寧暢的兩大“基裝”能力基石。定制化方面，寧暢圍繞用戶實(shí)際應(yīng)用場(chǎng)景和算力需要，可以為用戶定制對(duì)應(yīng)各種算力需求的解決方案，方案完整覆蓋用戶交付、部署、應(yīng)用、運(yùn)維體驗(yàn)和業(yè)務(wù)需求，本身就涵蓋了硬件、軟件平臺(tái)搭建、算法模型優(yōu)化、應(yīng)用場(chǎng)景定制等內(nèi)容，最終實(shí)現(xiàn)算力資源不浪費(fèi)、使用成本更節(jié)省。

在大模型復(fù)雜的訓(xùn)練過程中，軟硬件的全盤適配至關(guān)重要，寧暢的“全棧全液”AI基礎(chǔ)設(shè)施解決方案便是基于這一思路打造。寧暢將場(chǎng)景、業(yè)務(wù)、中臺(tái)再到硬件資源的能力進(jìn)行全面整合，全面滿足大模型對(duì)于計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)等全面需求。作為業(yè)內(nèi)少數(shù)能夠?qū)崿F(xiàn)“全棧全液”的智算基礎(chǔ)設(shè)施方案，該方案不僅涵蓋了從底層硬件到上層軟件的全方位支持，還通過全液冷技術(shù)的應(yīng)用，幫助智算中心實(shí)現(xiàn)高效與綠色并行。

基于堅(jiān)實(shí)的底座能力，寧暢為客戶提供符合需求的“硬裝”和“軟裝”智算服務(wù)。從“硬裝”層面，算力、存儲(chǔ)、網(wǎng)絡(luò)這類基礎(chǔ)設(shè)施要標(biāo)準(zhǔn)規(guī)范、布局合理、節(jié)能低碳，做到對(duì)硬件設(shè)施的管理省時(shí)省錢。

一直以來，硬件都是寧暢擅長(zhǎng)并且專業(yè)的部分，產(chǎn)品體系覆蓋云邊端全場(chǎng)景，涵蓋通用、人工智能、高密度、存儲(chǔ)、整機(jī)柜等多種類型服務(wù)器，及AI工作站等邊端產(chǎn)品，可實(shí)現(xiàn)多種交付形態(tài)靈活組合。為兼顧綠色低碳，寧暢依托液冷領(lǐng)域的諸多首創(chuàng)性先進(jìn)技術(shù)，提供全時(shí)全域液冷方案，不論是液冷服務(wù)器，還是液冷基礎(chǔ)設(shè)施產(chǎn)品應(yīng)有俱有，可以完全滿足不同業(yè)務(wù)場(chǎng)景的算力建設(shè)需求。

在服務(wù)器方面，寧暢突破性實(shí)現(xiàn)標(biāo)準(zhǔn)化、可移植、大解耦全冷板液冷服務(wù)器技術(shù)，冷板形式覆蓋CPU、內(nèi)存、硬盤、GPU、各種形態(tài)PCIe設(shè)備以及PSU等服務(wù)器內(nèi)全部散熱單元，實(shí)現(xiàn)了無風(fēng)扇形態(tài)的原生全液冷服務(wù)器。

在智算中心方面，寧暢提供了液冷、風(fēng)冷或風(fēng)液混冷等多種定制化建設(shè)方案，可以根據(jù)實(shí)際需求，靈活選擇最適合的散熱方式，從而有效控制能耗。同時(shí)，還確保了芯片在長(zhǎng)時(shí)間高負(fù)載運(yùn)行下的性能穩(wěn)定輸出，為大模型的訓(xùn)練和推理提供了堅(jiān)實(shí)的支撐。

在“軟裝”層面，寧暢提供從集群、算子再到模型軟件優(yōu)化的全局服務(wù)和涵蓋算存網(wǎng)管用全體系優(yōu)化。也就是說從算力集群環(huán)境搭建，到AI開發(fā)算力調(diào)度，再到集群運(yùn)維和算力運(yùn)營(yíng)，都有相對(duì)應(yīng)的軟件提供支持。

NEX AIOM和NexData可將分散的硬件整合為統(tǒng)一的算力和存儲(chǔ)資源池；AI Manager人工智能平臺(tái)能夠幫助用戶實(shí)現(xiàn)AI開發(fā)的全鏈路業(yè)務(wù)覆蓋；NVIDIA AI Enterprise平臺(tái)可加速數(shù)據(jù)科學(xué)工作流，加速生成式AI的部署和應(yīng)用，大幅度降低用戶AI開發(fā)門檻；運(yùn)維方面有NCenter智能運(yùn)維工具集，實(shí)現(xiàn)全生命周期的運(yùn)維管理。此外，針對(duì)大型企業(yè)級(jí)用戶，SIMS算力互聯(lián)云平臺(tái)還可助力實(shí)現(xiàn)本地資源與云端資源的融合調(diào)度及統(tǒng)一管理，協(xié)助客戶高效構(gòu)建更適合自己的算力平臺(tái)，讓大模型的運(yùn)行管理更加省心省力省時(shí)省錢，從而讓客戶更關(guān)注于應(yīng)用層面的落地。

“精裝算力”概念的提出，不僅從服務(wù)模式上縮短了企業(yè)與智算之間的路徑，還幫助企業(yè)最大限度降本增效，實(shí)現(xiàn)了從效率到經(jīng)濟(jì)性的精益管理。

比如在液冷領(lǐng)域，寧暢原生全液冷技術(shù)，不僅液冷成本可控、運(yùn)維方式與風(fēng)冷無異，數(shù)據(jù)中心運(yùn)行PUE值更可低至1.09，遠(yuǎn)低于業(yè)內(nèi)風(fēng)液混合形態(tài)冷板式服務(wù)器平均水平，致力于實(shí)現(xiàn)數(shù)據(jù)中心能效極致、最大限度釋放冷空調(diào)電力加速算力提升。

在“增效”方面，以某三甲醫(yī)院為例，在引入寧暢算力棧后，該醫(yī)院的醫(yī)學(xué)影像處理與分析的速度和精度得到顯著提升，醫(yī)學(xué)影像處理速度相較于之前提升688%，效率提升7倍，幫助醫(yī)生更快地識(shí)別病變區(qū)域，提高了診斷效率。

在科研領(lǐng)域，某大學(xué)在寧暢算力棧助力下，不僅在物理模擬和氣象預(yù)報(bào)中顯著提高了運(yùn)算速度，還在藥物分子模擬研究中大幅縮短了計(jì)算時(shí)間，寧暢算力棧支持復(fù)雜的深度學(xué)習(xí)模型訓(xùn)練，加快了自然語言處理、圖像識(shí)別等領(lǐng)域的研究進(jìn)度，將計(jì)算時(shí)間最高節(jié)省了82%，科研工作效率提升20%，直接推動(dòng)了科研成果的快速轉(zhuǎn)化。

可以預(yù)見的是，隨著人工智能技術(shù)的不斷創(chuàng)新，算力應(yīng)用場(chǎng)景的日益豐富，企業(yè)對(duì)高質(zhì)量算力需求將會(huì)持續(xù)激增，靠不計(jì)成本、堆算卡、堆規(guī)模就期望能做好算力服務(wù)的日子已經(jīng)一去不復(fù)返了。而寧暢的“精裝算力”概念不僅是對(duì)智算服務(wù)的一次大膽創(chuàng)新，更是為企業(yè)適應(yīng)未來智算時(shí)代發(fā)展的一次積極探索。

面對(duì)未來行業(yè)發(fā)展的諸多不確定性因素，寧暢這類創(chuàng)新型的AI基礎(chǔ)設(shè)施服務(wù)商為大模型的持續(xù)發(fā)展提供確定性的技術(shù)支撐，讓企業(yè)能夠從容應(yīng)對(duì)時(shí)刻變化的市場(chǎng)行情，不斷穿越一個(gè)又一個(gè)市場(chǎng)周期。

【關(guān)于科技云報(bào)到】

企業(yè)級(jí)IT領(lǐng)域Top10新媒體。聚焦云計(jì)算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級(jí)科技領(lǐng)域。原創(chuàng)文章和視頻獲工信部權(quán)威認(rèn)可，是世界人工智能大會(huì)、數(shù)博會(huì)、國(guó)家網(wǎng)安周、可信云大會(huì)與全球云計(jì)算等大型活動(dòng)的官方指定傳播媒體之一。

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。