關鍵詞:存算分離 分離式存儲系統(tǒng) 存儲模組 資源池化
數(shù)字化、信息化的不斷發(fā)展是推動計算、存儲、網(wǎng)絡等IT基礎設施演化和進步的重要動力。隨著全球范圍內(nèi)企業(yè)數(shù)字化轉(zhuǎn)型的快速發(fā)展,各行各業(yè)產(chǎn)生的數(shù)據(jù)呈現(xiàn)海量增長趨勢。云和互聯(lián)網(wǎng)行業(yè)構建了我國最大的IT基礎設施平臺,其存儲和處理的數(shù)據(jù)量占比最大。同時,我國東數(shù)西算工程的持續(xù)推進,對數(shù)據(jù)中心走向綠色集約、基礎設施自主可控提出了更高要求。
實際應用中,大數(shù)據(jù)存儲解決方案一般有存算融合和存算分離兩種部署形態(tài)。存算融合以基于服務器的超融合系統(tǒng)為代表,它將服務器的計算、存儲、網(wǎng)絡等資源進行統(tǒng)一管理和調(diào)度,具有彈性的橫向擴展能力;但是當實際業(yè)務對計算和存儲需求不同時,該方案存在資源擴展不靈活、利用率低下等問題。存算分離將存儲資源和計算資源拆分為獨立的模塊進行建設,在資源利用率、存儲資源高效共享、多場景靈活部署、網(wǎng)存算協(xié)同等方面具有顯著優(yōu)勢。存算分離架構當前已經(jīng)在許多場景得到應用:金融及電信等行業(yè)核心交易系統(tǒng)、數(shù)據(jù)庫等關鍵應用通常采用小型機結合高端存儲的方式;在企業(yè)辦公場景下,為滿足跨平臺企業(yè)應用的數(shù)據(jù)共享訴求,通常采用通用服務器結合文件共享存儲(Network Attached Storage,NAS)的方式;在大數(shù)據(jù)場景下,為實現(xiàn)多業(yè)務數(shù)據(jù)共享,通常采用分析計算服務結合數(shù)據(jù)湖的形式。多樣化的存算分離實踐為存儲系統(tǒng)帶來了數(shù)據(jù)共享、靈活伸縮等優(yōu)勢。
存算分離技術發(fā)展分析
新的業(yè)務挑戰(zhàn)
從云和互聯(lián)網(wǎng)的業(yè)務場景來看,其存儲域主要采用基于服務器部署分布式存儲服務的融合方式,它面臨如下挑戰(zhàn):
1.數(shù)據(jù)保存周期與服務器更新周期不匹配。大數(shù)據(jù)、人工智能等新興業(yè)務催生出海量數(shù)據(jù),大量數(shù)據(jù)需按照其生命周期策略(例如8~10年)進行保存。而在當前存儲域中,基于服務器的存儲系統(tǒng)換代周期由處理器的升級周期(例如3~5年)[1]決定。這種數(shù)據(jù)生命周期與服務器更新周期之間巨大的差異導致系統(tǒng)資源被大量浪費,比如,存儲域中服務器組件都隨CPU升級而淘汰,為此須進行相應的數(shù)據(jù)遷移等[2]。
2.性能可靠與資源利用率難以兼得。支撐業(yè)務的分布式存儲系統(tǒng)大致可以分為性能型存儲和容量型存儲,它們均無法同時實現(xiàn)高性能可靠與高資源利用率。具體地,性能型存儲主要運行數(shù)據(jù)庫、虛擬化等關鍵業(yè)務,通常采用三副本或兩副本并配合獨立冗余磁盤陣列(Redundant Array of Independent Disks,RAID)卡模式;這類方案雖兼顧了性能和可靠性,但其大約30%的空間利用率卻是對存儲資源的極大浪費。容量型系統(tǒng)為了提升空間利用率,采用糾刪碼(Erasure Code,EC)方式,然而,EC計算過程中的讀寫、重構等會消耗大量網(wǎng)絡資源,導致系統(tǒng)重構效率低下、重構時間長,給系統(tǒng)可靠性帶來風險(如圖1所示)。
圖1 分布式存儲資源利用率
3.新型分布式應用的極簡高效共享存儲訴求。以無服務器(serverless)應用為代表的新型分布式應用在近些年涌現(xiàn),這類應用從無狀態(tài)化向有狀態(tài)化擴展,比如數(shù)據(jù)庫、消息總線等組件紛紛容器化,數(shù)據(jù)共享訪問的訴求不斷增多。與此同時,人工智能和機器學習等應用需要大量異構算力協(xié)同,甚至產(chǎn)生共享內(nèi)存訪問的訴求,它們關注高帶寬、低時延的訪問能力,僅需要輕量、便捷的共享存儲系統(tǒng)即可,不需要搭載具有復雜企業(yè)特性的傳統(tǒng)存儲。
4.數(shù)據(jù)中心稅導致數(shù)據(jù)密集型應用效率低下。面向數(shù)據(jù)密集型場景,在基于以CPU為中心的服務器架構下,應用為獲取數(shù)據(jù)所繳納的“數(shù)據(jù)中心稅”(datacenter tax)日益加重。例如,服務器內(nèi)的CPU為處理網(wǎng)絡及存儲IO請求,需要消耗高達30%的算力[3];此外,由于通用CPU并不擅長數(shù)據(jù)處理運算,導致其能效比低下。
傳統(tǒng)存算分離架構將算力資源和存儲資源(機械硬盤、固態(tài)硬盤等)分離至彼此獨立的計算域和存儲域,并通過以太網(wǎng)或?qū)S么鎯W(wǎng)絡(例如光纖通道)將二者互連,實現(xiàn)了存儲資源的靈活擴展和高效共享(如圖2左側(cè)所示);該架構主要為復雜的傳統(tǒng)企業(yè)特性設計,難以應對上述挑戰(zhàn),為了讓云和互聯(lián)網(wǎng)存儲域服務兼顧資源利用率、可靠性、性能、效率等眾多訴求,亟須基于新型軟硬件技術構建新型存算分離架構。
硬件技術趨勢
面對數(shù)據(jù)中心在容量利用率、存力效率等方面的挑戰(zhàn),近年來,專用數(shù)據(jù)處理器、新型網(wǎng)絡等技術快速發(fā)展,為數(shù)據(jù)中心基礎設施的重構提供了技術基礎。
首先,為取代服務器本地盤,很多廠商推出以太網(wǎng)閃存簇(Ethernet Bunch of Flash,EBOF)高性能盤框(例如,近期陸續(xù)發(fā)布的西數(shù)OpenFlex、Vast Data Ceres高性能盤框等)。這類盤框不再具有復雜企業(yè)特性,而是注重采用新型的數(shù)據(jù)訪問標準,比如支持NoF(NVM Express over Fabric)等接口,以提供高性能存儲實現(xiàn)對本地盤的替換。NoF協(xié)議由NVM Express(NVMe)標準組織在2016年發(fā)布,提供了NVMe命令到多種網(wǎng)絡傳輸協(xié)議的映射,使一臺計算機能夠訪問另一臺計算機的塊存儲設備。同時,一些研究機構進一步探索遠程內(nèi)存池化技術,例如,韓國KAIST實驗室實現(xiàn)了基于FPGA的CXL(Compute Express Link)互連協(xié)議[4];CXL為英特爾于2019年3月在Interconnect Day 2019上推出的一種開放性互聯(lián)協(xié)議,能夠讓CPU與GPU、FPGA或其他加速器之間實現(xiàn)高速高效互聯(lián),從而滿足高性能異構計算的要求。
其次,業(yè)界涌現(xiàn)出越來越多的數(shù)據(jù)處理單元(Data Processing Unit,DPU)和基礎設施處理單元(Infrastructure Processing Unit,IPU)專用芯片,在數(shù)據(jù)流處理路徑上取代通用處理器,提升算力能效比。同時,基于可編程交換機的網(wǎng)存協(xié)同也是研究熱點,例如在網(wǎng)數(shù)據(jù)緩存的NetCache[5]、KV-Direct[6],在網(wǎng)數(shù)據(jù)協(xié)調(diào)的NetLock[7]、Concordia[8]、SwitchTx[9],在網(wǎng)數(shù)據(jù)聚合的SwitchML[10]、NetEC[11],在網(wǎng)數(shù)據(jù)調(diào)度的FLAIR[12]、AlNiCo[13]等相關論文紛紛在主流會議期刊發(fā)表。
最后,數(shù)據(jù)訪問網(wǎng)絡標準也在持續(xù)增強,比如CXL協(xié)議新版本加強了內(nèi)存池化方向的技術特性,同時吸收了Gen-Z[14](由AMD、ARM、HPE等公司發(fā)起定義的面向內(nèi)存語義的技術)、OpenCAPI[15](Open Coherent Accelerator Processor Interface,最早由IBM提出的異構計算接口)等技術的成果,正逐步成為業(yè)界主流高速互聯(lián)標準。NVMe 2.0也在向著語義統(tǒng)一、Fabric統(tǒng)一和介質(zhì)統(tǒng)一方向演進。
這些新型存儲、計算和網(wǎng)絡硬件為構建面向云和互聯(lián)網(wǎng)場景的新型存算分離架構帶來了諸多機遇,譬如使用DPU等專用芯片能夠打破傳統(tǒng)以CPU為中心的服務器架構,由此提升數(shù)據(jù)密集型應用的效率。
新型存算分離架構的特征
隨著遠程直接內(nèi)存訪問(Remote Direct Memory Access,RDMA)、CXL、可編程網(wǎng)絡設備、高性能NVMe SSD、持久性內(nèi)存等新型硬件技術的發(fā)展,需要構建新型存算分離架構,以確保云和互聯(lián)網(wǎng)存儲域服務能夠兼顧資源利用率、可靠性、性能、效率等眾多訴求。相較于傳統(tǒng)架構,新型存算分離架構最為顯著的區(qū)別在于:(1)更為徹底的存算解耦,該架構不再局限于將CPU和外存解耦,而是徹底打破各類存算硬件資源的邊界,將其組建為彼此獨立的硬件資源池(例如處理器池、內(nèi)存池、機械硬盤(HDD)/固態(tài)硬盤(SSD)池等),從真正意義上實現(xiàn)各類硬件的獨立擴展及靈活共享;(2)更為細粒度的處理分工,即打破了傳統(tǒng)以通用CPU為中心的處理邏輯,使數(shù)據(jù)處理、聚合等原本CPU不擅長的任務被專用加速器、DPU等替代,從全局角度實現(xiàn)硬件資源的最優(yōu)組合,進而提供極致的能效比(如圖2右側(cè)所示)。
圖2 傳統(tǒng)存算分離架構與新型存算分離架構對比
總結來說,新型存算分離架構具有如下特征:
1.無盤化的服務器。新型存算分離架構將服務器本地盤拉遠構成無盤化(diskless)服務器和遠端存儲池,同時還通過遠程內(nèi)存池擴展本地內(nèi)存,實現(xiàn)了真正意義上的存算解耦,可極大提升存儲資源利用率。業(yè)務使用時,可根據(jù)應用需求選擇配置不同性能、容量的虛擬盤及池化內(nèi)存空間,這樣一方面可以避免由于不同服務器本地存儲空間利用率過低導致超配造成的浪費;另一方面,當服務器出現(xiàn)故障或者更新?lián)Q代時,也不影響數(shù)據(jù)的保存,不需要額外的數(shù)據(jù)遷移。
2.多樣化的網(wǎng)絡協(xié)議。連接計算和存儲間的網(wǎng)絡協(xié)議從當前的IP或光纖通道(Fibre Channel,F(xiàn)C)協(xié)議擴展到CXL+NoF+IP協(xié)議組合。CXL協(xié)議使得網(wǎng)絡時延降低到亞微秒級別,有助于內(nèi)存型介質(zhì)的池化;NoF協(xié)議加速SSD池化;IP協(xié)議可滿足HDD等慢速介質(zhì)訪問訴求。通過這幾類協(xié)議組合構建的高通量網(wǎng)絡,滿足了多種場景池化接入訴求。
3.專用化的數(shù)據(jù)處理器。數(shù)據(jù)存儲、訪問等操作不再由通用處理器負責,而是卸載到專用數(shù)據(jù)處理器。此外,特定的數(shù)據(jù)操作可由專用硬件加速器進行進一步加速,如糾刪碼、加密壓縮、網(wǎng)絡通信等。通過專用數(shù)據(jù)處理器,可以釋放通用處理器算力,用于服務更適合的場景,顯著提升系統(tǒng)整體能效比。
4.極高存力密度的存儲系統(tǒng)。分離式存儲系統(tǒng)(disaggregate storage)是新型架構的重要組件,作為持久化數(shù)據(jù)的底座,在存儲介質(zhì)的集約化管理基礎上,結合芯片、介質(zhì)的深度協(xié)同設計,整合當前系統(tǒng)、盤兩級的空間管理,通過大比例糾刪碼算法減少冗余資源開銷比例。此外,還可通過基于芯片加速的場景化數(shù)據(jù)縮減技術提供更多的數(shù)據(jù)可用空間。
面向云和互聯(lián)網(wǎng)場景的存算分離架構及關鍵技術
面向云和互聯(lián)網(wǎng)場景的存算分離架構
新型存算分離架構意在解決前文所提的當前架構面臨的幾大痛點挑戰(zhàn),通過將原有架構的多級分層資源進行徹底解耦池化和重組整合,形成新的三大簡化分層:存儲模組、總線網(wǎng)絡和算力模組,從而提供服務器本地存儲拉遠池化、新型網(wǎng)絡靈活組裝、以數(shù)據(jù)為中心的多元處理、高容量極簡盤框等幾大新興能力。
存儲模組
面向云和互聯(lián)網(wǎng)數(shù)據(jù)中心,需要以更專業(yè)的存儲能力重新定義云和互聯(lián)網(wǎng)的存儲架構。新型存算分離架構中,存儲型模組主要以EBOF、以太網(wǎng)內(nèi)存簇(Ethernet Bunch of Memory,EBOM)、以太網(wǎng)磁盤簇(Ethernet Bunch of Disk,EBOD)等新型盤框形態(tài)存在,RAID/EC/壓縮等傳統(tǒng)存儲能力下沉到新型盤框中,構成“盤即存儲”的大盤技術,對外通過NoF等高速共享網(wǎng)絡提供塊、文件等標準存儲服務。這一類新型盤框?qū)鹘y(tǒng)磁盤陣列的冗余池化技術和數(shù)據(jù)縮減技術進行了高度集約化和小型化。
從存儲模組內(nèi)部架構來看,其介質(zhì)層可由標準硬盤組成,也可由晶圓工藝直接整合的顆粒大板組成,盤與框的邊界融合有助于實現(xiàn)極致成本的創(chuàng)新。在介質(zhì)層之上,存儲模組需構建類似傳統(tǒng)存儲陣列的池化子系統(tǒng),基于RAID、EC等可靠冗余技術實現(xiàn)本地介質(zhì)的池化,結合重刪壓縮等算法技術對數(shù)據(jù)容量進行大比例縮減,進一步實現(xiàn)可得容量的提升。為了支撐新型存算分離架構的高通量數(shù)據(jù)調(diào)度,存儲模組需要提供更加高效的數(shù)據(jù)吞吐能力,通?;谟布蓖ǖ燃夹g構建極簡的快速數(shù)據(jù)訪問路徑。和傳統(tǒng)陣列相比,存儲模組在IO處理上盡量避免用戶數(shù)據(jù)和控制數(shù)據(jù)(元數(shù)據(jù)等)的低效交織,盡量減少傳統(tǒng)存儲陣列的某些復雜特性處理(復制、雙活等容災特性),盡量減少子系統(tǒng)分層進而縮短IO處理的路徑,最終實現(xiàn)高吞吐、低時延的極致性能體驗。最后,通過硬盤亞健康管理,例如慢IO快速返回、慢盤隔離等能力,實現(xiàn)毫秒級穩(wěn)定時延。
云和互聯(lián)網(wǎng)的多樣業(yè)務主要分為三種典型的應用場景(如圖3所示)。第一種場景是針對虛擬化業(yè)務,直接將數(shù)據(jù)中心存儲域服務器的本地盤拉遠,對分布式開源存儲集群的物理硬盤層形成替代。第二種場景是為數(shù)據(jù)庫、大數(shù)據(jù)服務等需要極熱數(shù)據(jù)處理的業(yè)務提供大內(nèi)存、鍵-值(Key-Value,KV)接口,加速數(shù)據(jù)處理效率;第三種場景是針對容器等新業(yè)務場景,為Ceph、Lustre等分布式應用直接提供文件語義,卸載本地數(shù)據(jù)布局,并支持將溫熱數(shù)據(jù)分級到更冷的EBOD等機械硬盤或磁帶型存儲模組中,提升整系統(tǒng)資源使用效率。
圖3 存儲模組的三類典型應用場景
存儲模組作為一種存力集約化、緊湊化、極致化的新型存儲形態(tài),加速了服務器的無盤化發(fā)展趨勢,將服務器的本地盤、內(nèi)存等拉遠進行池化共享,有效支撐了傳統(tǒng)數(shù)據(jù)中心架構朝極簡分層的新型存算分離架構演進。
算力模組
當前,摩爾定律演進變緩,只有采用專用處理器才能進一步以異構方式發(fā)揮出下一階段的算力。引入專用處理器后,算力池化是必然選擇;否則,如果為每臺服務器配置異構算力卡,不僅使整機功耗巨大,還會導致資源利用率十分低下。以DPU為代表的專業(yè)數(shù)據(jù)處理器具備成本更低、功耗更低、即插即用、即換即用等獨特優(yōu)勢,并且在運行狀態(tài)下不與業(yè)務應用發(fā)生資源爭搶,保證用戶業(yè)務正常運行的同時也保障了基礎設施的服務質(zhì)量。
高通量數(shù)據(jù)總線
存算分離架構中,網(wǎng)絡技術非常重要,它決定了系統(tǒng)的響應速度以及吞吐能力,也決定了系統(tǒng)資源池化的能力范圍。過去10年,萬兆IP網(wǎng)絡促使HDD池化,基于IP網(wǎng)絡發(fā)展了支持塊、文件、對象共享的訪問協(xié)議。當前,面向熱數(shù)據(jù)處理,NVMe/RoCE(RDMA over Converged Ethernet,RDMA融合以太網(wǎng) )促使SSD池化;并且,NVMe協(xié)議快速發(fā)展使其開始收編煙囪式協(xié)議規(guī)范。下一步,面向極熱數(shù)據(jù)處理,內(nèi)存型網(wǎng)絡(例如CXL Fabric)將促使內(nèi)存資源池化,為業(yè)務提供更大的共享內(nèi)存空間(如圖4所示)。
圖4 網(wǎng)絡技術發(fā)展時間線
關鍵技術
新型存算分離架構改變了各類硬件資源的組合形式,其近遠關系、松緊耦合的變化催生了一系列圍繞該架構的關鍵技術,例如場景化數(shù)據(jù)縮減、高通量超融合網(wǎng)絡、網(wǎng)存協(xié)同、盤芯協(xié)同等。
場景化數(shù)據(jù)縮減
在新型存算分離架構下,數(shù)據(jù)縮減能力將下沉到存儲模組中,通過前后臺縮減任務配合,可有效減少對性能的影響,同時提升數(shù)據(jù)縮減率。此外,針對不同場景的數(shù)據(jù)特征,可使用不同的縮減技術。例如,針對基因、醫(yī)療等場景,可通過多幀圖片聚合壓縮、多波段數(shù)據(jù)合并壓縮等實現(xiàn)更高縮減率;在數(shù)據(jù)保護場景,可通過變長或相似性重刪獲得更高縮減率;在視頻、媒資場景,可通過前景提取、碼率控制等技術實現(xiàn)更高縮減率。
高通量超融合網(wǎng)絡
根據(jù)部署場景及多樣化網(wǎng)絡敏捷和自適應性的業(yè)務需求,存算模組間的網(wǎng)絡連接可以選用基于CXL Fabric、NoF、IP的組合進行組網(wǎng),在網(wǎng)絡協(xié)議上,有以下關鍵技術需要考慮:
首先,網(wǎng)絡連接可以選用直連模式或是池化模式。直連模式下,網(wǎng)卡資源被設備獨占使用;池化模式下,網(wǎng)卡資源池化,被多個設備共享使用,可以提供更經(jīng)濟的使用效率。池化模式下,需要解決網(wǎng)絡資源細粒度動態(tài)分配能力、安全隔離能力等,從而保證多個設備對資源的公平使用。
其次,跨機架通信通常采用RDMA機制。傳統(tǒng)RDMA連接數(shù)受限,需要解決大規(guī)?;ヂ?lián)的擴展性問題。例如,可使用無連接等技術,解耦連接狀態(tài)和網(wǎng)絡應用,做到支持數(shù)萬的連接規(guī)模;同時通過軟硬協(xié)同,硬件確保請求及時完成,提供快速的操作失敗通知,而軟件負責操作重試和故障恢復,兩者配合實現(xiàn)高性能可靠連接。此外,還可考慮使用多路徑技術,通過支持數(shù)據(jù)包亂序收發(fā)能力、異步ACK機制,解決單條網(wǎng)絡帶寬有限等問題。
網(wǎng)存協(xié)同
智能網(wǎng)卡和DPU是服務器的數(shù)據(jù)出入口,可編程交換機是服務器、存儲之間的數(shù)據(jù)交換中樞,它們在系統(tǒng)中占據(jù)特殊的位置。因此,結合其可編程能力,可以實現(xiàn)高效的數(shù)據(jù)協(xié)同處理。
首先,智能網(wǎng)卡和DPU可以實現(xiàn)任務卸載,包括NoF加速、壓縮及解壓加速、安全算法(AES、RSA、ECC、Diffie等)卸載、正則表達式卸載等;其次,利用其可編程能力,通過精細化的流水線并行技術,可將存儲的文件服務、塊服務、內(nèi)存與KV服務等卸載到智能網(wǎng)卡和DPU里面,縮短IO訪問的響應時間;最后,面向特定場景加速(例如,虛擬化場景的虛機直通、大數(shù)據(jù)場景算子下推、shuffle協(xié)同等),可極大地提升系統(tǒng)運行效率??傊?,充分利用好智能網(wǎng)卡和DPU的硬件加速資源,協(xié)同好主機和DPU間的任務調(diào)度,有助于降低主機數(shù)據(jù)處理開銷,提升IO訪問效率。
可編程交換機具備自定義網(wǎng)絡協(xié)議和網(wǎng)絡包轉(zhuǎn)發(fā)的能力,并且其上配置了小塊片上內(nèi)存用于存儲數(shù)據(jù),這些可編程能力結合交換機的中心化和高性能的優(yōu)勢,可以實現(xiàn)在網(wǎng)數(shù)據(jù)處理加速。例如,將消息轉(zhuǎn)發(fā)和并發(fā)控制卸載至交換機,降低分布式協(xié)調(diào)開銷;或者,將元數(shù)據(jù)、熱點鍵值對緩存在交換機的內(nèi)存中,并利用交換機中的算力執(zhí)行相關插入、排序、查找、刪除等操作加速元數(shù)據(jù)響應。此外,還可利用交換機廣播、組播能力,實現(xiàn)數(shù)據(jù)副本傳輸,降低主機開銷。
盤芯協(xié)同
通過介質(zhì)和控制芯片深度協(xié)同可獲得端到端最佳總體擁有成本(Total Cost Ownership,TCO)和效率。以數(shù)據(jù)冗余設計為例,原有的體系架構中存在多層數(shù)據(jù)冗余:即SSD盤內(nèi)第一層的介質(zhì)層EC冗余,在硬盤之上基于RAID或副本技術形成第二層冗余,每一層冗余設計相互獨立且無法協(xié)同。新型存儲型模組直接集成介質(zhì)顆粒,僅在框這一級構建一層大比例EC的池化空間,輔助專有芯片對算法進行卸載加速,最終簡化了原有的多層冗余設計,有效改善端到端的資源利用率。
此外,還可基于專用芯片設計實現(xiàn)對磨損均衡、垃圾回收、多流等特定介質(zhì)高級能力的深度管理,與上層應用協(xié)同垂直優(yōu)化,實現(xiàn)場景優(yōu)化。
最后,新型存儲模組基于專有芯片除了提供傳統(tǒng)IO接口外,還可以提供基于控制器內(nèi)存緩沖區(qū)(Controller Memory Buffer,CMB)的旁路接口加速,這有助于系統(tǒng)元數(shù)據(jù)路徑繞開厚重的IO棧,使用遠程內(nèi)存訪問方式來提升系統(tǒng)訪問并行能力。
面向云和互聯(lián)網(wǎng)場景的存算分離的技術挑戰(zhàn)與機遇
技術挑戰(zhàn)
面向云和互聯(lián)網(wǎng)場景的新型存算分離架構受網(wǎng)絡、算力等技術驅(qū)動,順應未來數(shù)據(jù)中心可組合式架構(composable infrastructure)趨勢。然而,構建這類系統(tǒng)并充分發(fā)揮其潛在效率,也面臨眾多技術挑戰(zhàn),需要產(chǎn)業(yè)界、學術界專家共同探索解決。
首先,計算和存儲之間的數(shù)據(jù)訪問接口及標準主要采用“主-從”請求響應模式,并以傳輸塊存儲語義為主。然而,隨著內(nèi)存盤、計算型盤、智能網(wǎng)卡異構算力的快速發(fā)展,內(nèi)存訪問語義、計算協(xié)同存儲語義等方面的表現(xiàn)能力出現(xiàn)不足。此外,當前國內(nèi)對于業(yè)界主流數(shù)據(jù)訪問接口的定義,如NVMe標準等,缺乏自主可控能力,實現(xiàn)我國自主定義存算間新型數(shù)據(jù)訪問標準意義十分重大。
其次,如何與已有生態(tài)應用結合,發(fā)揮出基于新型存算分離架構的基礎設施的潛力仍需深入探索。例如,新的數(shù)據(jù)處理器、全局共享存儲系統(tǒng)的引入,計算、存儲的獨立彈性擴展等,都為新型應用提供了較好的基礎設施能力,但如何最大限度地將這些基礎設施潛力發(fā)揮出來,如何設計更高效的應用服務框架,如何與上層應用協(xié)同等,都是一個長期而艱巨的任務。
機遇展望
根據(jù)我國“十四五”規(guī)劃,為助推社會經(jīng)濟高質(zhì)量發(fā)展、加強數(shù)字政府建設、激活數(shù)據(jù)要素潛能以及為各行各業(yè)的數(shù)字化轉(zhuǎn)型注入新動能,國家在多個地區(qū)構建智算中心,并基于一體化大數(shù)據(jù)中心構建東數(shù)西算工程。預計到2025年,我國將具備300 EFLOPS(Exa FLoating-point Operations Per Second)的算力,數(shù)據(jù)量將達到48.6 ZB[16]。這些規(guī)劃都為未來基礎設施的發(fā)展帶來極大的挑戰(zhàn),例如,在如此高速度的算力增長下,如何避免因為存儲、網(wǎng)絡等性能限制導致算力長期處于空閑狀態(tài)?在介質(zhì)產(chǎn)能有限的情況下,如何保存這些海量數(shù)據(jù)?此外,未來數(shù)據(jù)中心的發(fā)展將嚴重受限于其功耗預算和碳排放配額,如何提供綠色節(jié)能的基礎設施系統(tǒng)?這些問題既是挑戰(zhàn),也是機會,相信新型存算分離以其靈活的架構、精細化的資源利用率、綠色低碳的能耗比等優(yōu)勢,在我國宏大數(shù)字化歷史進程下,將迎來最佳的歷史發(fā)展機遇。
作者:舒繼武
舒繼武
CCF會士、信息存儲專委會主任。清華大學教授。廈門大學信息學院院長。主要研究方向為信息存儲系統(tǒng)、并行分布式系統(tǒng)、邊緣數(shù)據(jù)存儲系統(tǒng)等。
轉(zhuǎn)載自:中國計算機學會
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )