人工智能的快速發(fā)展帶來了前所未有的算力需求,而數據中心作為算力基礎設施,也面臨著全新的挑戰(zhàn)。如何打造更加高效、更加韌性、更高適用性與更可持續(xù)的智算基礎設施,是當前數據中心行業(yè)面臨的一個重要課題。
近日,施耐德電氣全球數據中心科研中心總監(jiān)、愛迪生專家林密在行業(yè)會議上針對人工智能的市場規(guī)模、屬性、發(fā)展趨勢、對數據中心基礎設施的影響以及應對策略等方面,闡述了施耐德電氣對此的探索和思考。
智算引領算力產業(yè)變革
進入2023年,以ChatGPT為代表的人工智能大模型應用層出不窮,越來越多的企業(yè)和個人開始關注并使用大模型工具。智算中心作為面向人工智能的算力基礎設施,也成為了數據中心產業(yè)投資建設的熱點。
一般來說,人工智能算力主要可以分為“訓練”和“推理”兩種,它們有著不同的特點和需求。“訓練”是通過使用大量的結構化數據來訓練一個模型,該過程需要依賴高性能的智能芯片(比如GPU),以追求訓練時間和成本的優(yōu)化,但對時延和彈性的要求不高。“推理”則是用訓練好的模型來處理新的數據,比如語音識別、圖像分析、智能工廠、無人駕駛等,相比訓練的需求,推理的算力密度較小,但由于直接面向應用場景,對時延和彈性的要求非常高。
在介紹人工智能的市場規(guī)模和分布時,林密表示,人工智能的訓練負載和推理負載因其不同特性,對智算中心也有不同的需求。訓練主要是在大型、超大型的集中式數據中心進行,推理則需要部署在貼近用戶側的數據中心和邊緣數據中心。
根據施耐德電氣的研究和推演數據顯示,當前人工智能的負載占整個數據中心負載的8%,其中邊緣的 AI 負載占比為5%。預計到2028年,人工智能的負載將占整個數據中心負載的15%到20%,同時,隨著更多人工智能應用的普及,更多的算力也會更多地部署在分散的邊緣數據中心,邊緣數據中心的 AI 負載在智算負載中的占比將增長至50%。
此外,人工智能的算法也在不斷迭代。以ChatGPT為例,從 GPT-3 到 GPT-4,參數數量、訓練時間、能耗等都增加了至少一個數量級,對算力的需求也更加龐大。
數據中心基礎設施面臨的挑戰(zhàn)
人工智能算力需求對數據中心的挑戰(zhàn)是全方位的,智算中心是為滿足人工智能算力需求而誕生的新型數據中心,需要考量智算的特性來建設。林密以供配電和制冷兩個方面為例,仔細分析了人工智能算力需求的特點和對智算中心建設的影響。
從供配電角度看,因為人工智能服務器往往需要部署高密度GPU等智能芯片,其功耗和散熱需求都遠超普通服務器。林密通過數據進行了對比:傳統(tǒng)機柜的運作功率一般只有 5 千瓦到 8 千瓦,而一個人工智能機柜的功率密度可以達到 30 千瓦到 100 千瓦,且在使用期間往往是100%滿負載運行。
因此,智算中心對供配電的規(guī)格、可靠性和安全性要求越來越高。這就需要智算中心配備更大規(guī)格的配電柜和母線,比如800A的母線,以滿足400千瓦到500千瓦的IT負載。同時,也需要使用更大容量的rPDU,比如100A、125A的rPDU,來給機柜供電。
此外,比如電流強度的增加也造成了弧閃危險的增加,智算中心需要做好短路分析,選擇更可靠的設備,防止斷路器脫扣造成下游的斷電和停機等,相比傳統(tǒng)數據中心需要注意的細節(jié)也更多。
制冷方面,林密表示,風冷已經很難滿足人工智能機柜的制冷需求,而液冷雖然可以提供更高的制冷效率,但當前也面臨著產業(yè)標準化、漏液風險、流量分配、管道潔凈度、溫度控制、運維復雜度等方面的難題。
他建議,如果機柜功率密度超過 20 千瓦,就應該采用液冷,可以是冷板式液冷或浸沒式液冷。同時,要盡量采用標準化液冷系統(tǒng)的設計,比如冷板、分集液器、CDU、快接等,以提高兼容性和可靠性。另外,通過引入一些創(chuàng)新的技術,比如LPS負壓系統(tǒng),可以降低漏液風險。
同時,液冷的應用,以及高密度的硬件配置,會導致IT設備的體積和重量增加。這就對機柜的尺寸和承重能力提出了更高的要求。因此,林密建議,人工智能機柜設計的寬度至少達到 750 毫米,深度至少達到 1200 毫米,高度要保持在 48U 以上,靜載承重能力則要在 1800 公斤以上,才可以承載、容納智算服務器和液冷系統(tǒng)。
智算時代更需要可持續(xù)發(fā)展
“施耐德電氣從覆蓋樓宇、IT和配電領域的智能化硬件、從設計、建設到運維的全生命周期數字化軟件和咨詢服務三個維度,全方位幫助客戶實現可持續(xù)發(fā)展。”林密表示,隨著算力需求的增長和越來越多的智算中心建設,算力基礎設施的能耗和碳排放也在不斷增加,施耐德電氣依托前瞻創(chuàng)新技術與豐富實踐經驗可以全方位幫助客戶應對挑戰(zhàn)。
在硬件方面,施耐德電氣可以為智算中心提供了綠色高效的數字化產品,包括供配電設備、液冷系統(tǒng)等,并根據人工智能負載的特點和挑戰(zhàn),為客戶提供策略和建議,從機柜、供配電、制冷等方面幫助客戶打造可持續(xù)發(fā)展的智算中心基礎設施。
同時,以全生命周期可持續(xù)發(fā)展為核心,施耐德電氣推出了一系列的指標和工具,用于衡量數據中心對環(huán)境的影響,包括能源消耗、可再生能源的利用、水資源的利用、溫室氣體排放、廢棄物產生與處理以及對當地生態(tài)環(huán)境影響的維度,并且圍繞可視化碳足跡來源,針對性地提出優(yōu)化策略。
施耐德電氣還可以為客戶提供咨詢服務,賦能客戶從戰(zhàn)略層面規(guī)劃和優(yōu)化數據中心的可持續(xù)發(fā)展,包括綠電的采購、電池的回收等方面,幫助客戶降低數據中心對環(huán)境的負面影響。
“根據Guidehouse Insights的最新排名,施耐德電氣目前已經成為全球最大的綠電(PPA)解決方案提供商。”林密表示。
此外,作為當之無愧的數據中心行業(yè)思想領袖,施耐德電氣一直致力將對數據中心行業(yè)的前沿技術、發(fā)展趨勢以及最佳實踐的研究成果分享給行業(yè)伙伴。比如兩年前發(fā)布的面向數據中心可持續(xù)發(fā)展的第67號白皮書《用于衡量數據中心環(huán)境可持續(xù)性指標的指南》,以及最新發(fā)布的面向人工智能的第110號白皮書《人工智能帶來的顛覆:數據中心設計的挑戰(zhàn)及相關指南》等,都受到了行業(yè)的廣泛重視和采納。
人工智能是時代前進的強大驅動力之一,也將為數據中心行業(yè)帶來重大變革。“施耐德電氣一直在關注人工智能需求的發(fā)展,并通過不斷地研究和創(chuàng)新,持續(xù)為智算中心的可持續(xù)發(fā)展提供解決方案。” 林密表示。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )