近日,專注IaaS的產(chǎn)品化云廠商ZStack與領(lǐng)先的AI算力資源池化軟件公司趨動(dòng)科技(VirtAITech.com)宣布,推出提供AI算力資源池化功能的聯(lián)合解決方案,該方案融合了ZStack Cloud云平臺(tái)與趨動(dòng)科技OrionX,雙方產(chǎn)品優(yōu)勢(shì)互補(bǔ),共同推動(dòng)GPU資源池在私有云平臺(tái)落地,將新一代的算力云平臺(tái)推向更廣泛的市場(chǎng)!新基建浪潮下,AI、5G、大數(shù)據(jù)中心、工業(yè)互聯(lián)網(wǎng)等一起構(gòu)成了新基建的核心領(lǐng)域。AI將逐步滲透到各行業(yè),變得越來越“基礎(chǔ)設(shè)施化”,AI加速器市場(chǎng)及GPU服務(wù)器市場(chǎng)規(guī)模相應(yīng)水漲船高,以GPU、FPGA 等為主的AI加速器市場(chǎng)將迅猛發(fā)展。IDC發(fā)布的《人工智能基礎(chǔ)架構(gòu)市場(chǎng)(2019下半年)跟蹤》報(bào)告數(shù)據(jù)顯示:到2024年,中國GPU 服務(wù)器市場(chǎng)規(guī)模將達(dá)到64億美元。
GPU資源池化技術(shù)難點(diǎn)
AI產(chǎn)業(yè)的快速發(fā)展對(duì)GPU資源池化技術(shù)提出了更高要求,用戶希望獲得靈活調(diào)度GPU資源的能力,希望AI應(yīng)用與GPU服務(wù)器解耦,并且能夠遠(yuǎn)程調(diào)用GPU的資源,通過資源池優(yōu)化GPU的調(diào)度使用等。然而現(xiàn)階段大部分用戶使用GPU的方式仍然停留在簡(jiǎn)單的虛擬化階段:將GPU卡做固定切分,按照2的N次方切分為多個(gè)vGPU。在此情況下,傳統(tǒng)云平臺(tái)上使用GPU將面臨諸多技術(shù)問題,比如無法遠(yuǎn)程調(diào)用GPU卡、僅能整卡透?jìng)鹘o虛機(jī)、多虛機(jī)無法共用單張GPU卡、GPU資源釋放必須重啟虛機(jī)等問題。
提供AI算力資源池化功能的解決方案
OrionX提供GPU資源池化功能,是ZStack Cloud在GPU調(diào)度上的功能補(bǔ)充,可以靈活調(diào)用虛擬GPU資源,使得用戶可以在私有云和混合云的環(huán)境中靈活使用GPU資源,幫助用戶數(shù)據(jù)中心中的所有硬件資源實(shí)現(xiàn)云化管理。
典型應(yīng)用場(chǎng)景
大模型如訓(xùn)練場(chǎng)景,對(duì)算力資源需求量大,通常會(huì)使用一張或者多張GPU卡資源,構(gòu)建AI算力資源池,提供AI算力資源池化功能的解決方案既可以支持單臺(tái)服務(wù)器上的單卡,多卡訓(xùn)練,也可以支持跨設(shè)備的多卡訓(xùn)練。
小模型如推理、開發(fā)和教學(xué)實(shí)訓(xùn)等場(chǎng)景,對(duì)算力資源需求量小,通常不能占滿一張GPU卡資源。提供AI算力資源池化功能的解決方案可以從算力和顯存兩個(gè)維度切分GPU,支持將多個(gè)小模型任務(wù)調(diào)度到一張卡,有效提高資源利用率。
具體表現(xiàn)為:通過“化零為整”功能支持訓(xùn)練等大模型場(chǎng)景,為用戶的 AI 應(yīng)用提供數(shù)據(jù)中心級(jí)的海量算力。通過“隔空取物”功能,支持推理、開發(fā)和教學(xué)實(shí)訓(xùn)等小模型場(chǎng)景。通過“隨需應(yīng)變”功能支持訓(xùn)練/推理等多場(chǎng)景實(shí)現(xiàn) GPU 資源動(dòng)態(tài)伸縮,極大提升了GPU 資源調(diào)度的靈活度。
提供AI算力資源池化功能的解決方案發(fā)布后,基于ZStack Cloud構(gòu)建企業(yè)私有云的用戶,可以暢享快速按需獲取GPU、靈活彈性調(diào)度等功能,有效提高了GPU利用率并降低用戶整體擁有成本。
ZStack創(chuàng)始人&CEO張?chǎng)伪硎荆?ldquo;GPU虛擬化是推動(dòng)私有云落地AI場(chǎng)景的關(guān)鍵舉措,未來雙方將緊密合作,實(shí)現(xiàn)算力的平民化,推動(dòng)AI計(jì)算無處不在。“
趨動(dòng)科技創(chuàng)始人&CEO王鯤博士稱贊道:“ZStack與OrionX的聯(lián)合解決方案為用戶提供了更大的價(jià)值和更加靈動(dòng)的任務(wù)處理能力,加速推動(dòng)AI計(jì)算在私有云領(lǐng)域落地,助力行業(yè)客戶聚焦自身業(yè)務(wù)發(fā)展與創(chuàng)新。”
關(guān)于ZStack
ZStack(云軸科技)由阿里云、中國電信戰(zhàn)略投資并戰(zhàn)略合作,是一家自主創(chuàng)新、專注產(chǎn)品化的云計(jì)算公司,以“降低企業(yè)上云門檻”為使命、“讓每一家企業(yè)都擁有自己的云”為愿景,具備自主知識(shí)產(chǎn)權(quán)、自主開源云代碼、自主云平臺(tái)三大優(yōu)勢(shì)。憑借自研的ZStack Cloud、ZStack Mini、ZStack CMP、ZStack Cube、ZStack Ceph等產(chǎn)品,積極支持信創(chuàng)發(fā)展,全面適配信創(chuàng)生態(tài),并最早提出云計(jì)算的4S特性,注重產(chǎn)品化,普惠云計(jì)算。歷經(jīng)多年發(fā)展,ZStack客戶數(shù)和銷售額逐年倍數(shù)增長,服務(wù)全球30多個(gè)國家和地區(qū)、100個(gè)行業(yè)場(chǎng)景、1200家客戶。面向新基建和信創(chuàng)發(fā)展契機(jī),ZStack聚焦IaaS,攜手阿里云、天翼云、飛騰、龍芯、華為、曙光、長城、安恒、麒麟軟件、統(tǒng)信軟件等200多家合作伙伴,共同為政府、電信、能源、交通、教育、制造業(yè)、醫(yī)療、金融、廣電、互聯(lián)網(wǎng)等眾多行業(yè)客戶提供安全可信的云產(chǎn)品和服務(wù)。
關(guān)于趨動(dòng)科技
趨動(dòng)科技于2019年成立于北京中關(guān)村高新技術(shù)園區(qū),擁有專業(yè)的研發(fā)、運(yùn)營和服務(wù)團(tuán)隊(duì)。趨動(dòng)科技榮登WISE2020「新基建創(chuàng)業(yè)榜」最具成長性創(chuàng)業(yè)公司TOP20,趨動(dòng)科技的OrionX獵戶座AI算力資源池化解決方案榮獲“2020新基建與行業(yè)創(chuàng)新應(yīng)用優(yōu)秀解決方案”、“2020智慧高校解決方案卓越獎(jiǎng)”和“2020金麒杯年度金融行業(yè)最佳解決方案服務(wù)商”。趨動(dòng)科技致力于幫助客戶構(gòu)建高效的AI算力資源池,提升客戶AI運(yùn)維管理的效率和AI業(yè)務(wù)應(yīng)用的效率。根據(jù)客戶測(cè)算,OrionX獵戶座軟件可以每年提升50%的AI算法工程師人效、提升AI資源利用率3到8倍更適合、讓客戶總體擁有成本下降80%。憑借標(biāo)準(zhǔn)化、可復(fù)制的產(chǎn)品架構(gòu),OrionX獵戶座軟件得到了包括互聯(lián)網(wǎng)、金融、電信運(yùn)營商和高校等大量行業(yè)頭部客戶的認(rèn)可。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )