又到了一年一度的“兩會時刻”,相比往年,今年兩會,受對話式AI大模型ChatGPT爆火的影響,大模型逐漸成為科技領(lǐng)域的兩會關(guān)鍵詞。全國政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎就天關(guān)注以通用大模型為中心的生態(tài)創(chuàng)新模式,強(qiáng)調(diào)除了關(guān)注ChatGPT在技術(shù)層面的創(chuàng)新,也要關(guān)注技術(shù)突破背后所依賴的創(chuàng)新模式。全國人大代表、科大訊飛董事長劉慶峰也提出要加快推進(jìn)我國認(rèn)知智能大模型建設(shè),在自主可控平臺上讓行業(yè)盡快享受AI紅利。
事實上,對數(shù)據(jù)、算力需求、大模型訓(xùn)練的指數(shù)級增長事近年科技行業(yè)的發(fā)展趨勢,以其中最為典型的自動駕駛領(lǐng)域為例,2023年,城市導(dǎo)航輔助駕駛成為各家關(guān)注重點,毫末智行、華為、小鵬汽車、理想汽車等企業(yè)紛紛布局。從技術(shù)上講,高級別導(dǎo)航輔助駕駛可以極大地提升用戶的駕駛安全性和便捷舒適性,也能進(jìn)一步提升我國自動駕駛的技術(shù)實力;從實現(xiàn)角度上講,越高階的輔助駕駛就越需要算力和數(shù)據(jù),當(dāng)這些需求上來了,智算中心這個算力的供應(yīng)和生產(chǎn)平臺,作為自動駕駛的“新基建”也就被業(yè)界越來越多的提及。
特斯拉在2021年發(fā)布了自研的AI加速芯片D1,并計劃將25個D1封裝在一起組成一個訓(xùn)練模塊(Training tile),然后再將訓(xùn)練模塊組成一個機(jī)柜(Dojo ExaPOD)。最近一期的特斯拉AI DAY上,馬斯克稱將于2023年一季度部署完成特斯拉超級計算機(jī)群組ExaPOD。國內(nèi)方面,2022年8月,小鵬汽車和阿里云合建了當(dāng)時國內(nèi)最大的自動駕駛智算中心“扶搖”,專門用于自動駕駛模型訓(xùn)練,算力規(guī)模達(dá)600PFLOPS,相當(dāng)于每秒可以完成60億億次浮點運(yùn)算。不過這個記錄僅僅維持了4個多月。
今年1月,毫末智行聯(lián)合火山引擎,共同推出自動駕駛行業(yè)最大的智算中心MANA OASIS(雪湖·綠洲),每秒浮點運(yùn)算達(dá)67億億次,存儲帶寬每秒2T,通信帶寬每秒800G。吉利也在1月28日上線了吉利星睿智算中心,目前已接入智能駕駛和車聯(lián)網(wǎng)實驗數(shù)據(jù)近百PB,在線車輛的并發(fā)計算支持達(dá)百萬輛。
從現(xiàn)有情形來看,成本和需求兩重因素,是智算中心的誘人之處。
成本層面,算力作為自動駕駛的基本要素,需要更高性能的智算中心來完成訓(xùn)練、標(biāo)注等工作。以毫末的MANA OASIS為例,通過部署Lego高性能算子庫、ByteCCL通信優(yōu)化能力,以及大模型訓(xùn)練框架,軟硬一體,毫末把算力優(yōu)化到極致。在訓(xùn)練效率方面,基于Sparse MoE,通過跨機(jī)共享,輕松完成千億參數(shù)大模型訓(xùn)練,且百萬個clips(毫末視頻最小標(biāo)注單位)訓(xùn)練成本只需百卡周級別,訓(xùn)練成本降低100倍。
如果持續(xù)使用公有云服務(wù),邊際成本不斷上漲只是一方面,更重要的是,智算中心可以讓自動駕駛企業(yè)實現(xiàn)“專云專用”。自動駕駛的開發(fā)包括從數(shù)據(jù)采集到數(shù)據(jù)篩選、打標(biāo)、模型訓(xùn)練、回放性驗證、仿真測試等等環(huán)節(jié)。而云計算的本質(zhì)是租賃計算設(shè)備,云服務(wù)商的設(shè)備都是統(tǒng)一采購,為了獲得更多客戶,這些設(shè)備都具備很大的通用性,設(shè)備內(nèi)部使用的CPU、GPU/AI加速器、內(nèi)存的型號與規(guī)格都相對固定,很難與車企和自動駕駛公司的算法形成最佳匹配。所以,從需求的角度來看,智算中心似乎可以成為自動駕駛和車企的托底神器。
同樣以毫末為例,有了MANA OASIS的加持,毫末MANA五大模型全新亮相升級,車端感知架構(gòu)實現(xiàn)跨代升級,毫末的技術(shù)棧布局繼續(xù)保持完整領(lǐng)先的態(tài)勢,尤其在感知、認(rèn)知等層面領(lǐng)跑行業(yè),引領(lǐng)大模型、大算力、大數(shù)據(jù)發(fā)展方向,沖刺進(jìn)入自動駕駛3.0時代。
以其中的DriveGPT為例,在今年2月,毫末智行宣布人駕自監(jiān)督認(rèn)知大模型正式升級為DriveGPT,這也是全球首個自動駕駛認(rèn)知大模型。它能讓毫末的駕駛策略更加擬人化,安全及順暢。目前,毫末DriveGPT已完成模型搭建和第一階段數(shù)據(jù)的跑通,參數(shù)規(guī)??蓪?biāo)GPT-2的水平。接下來,DriveGPT將持續(xù)引入大規(guī)模真實接管數(shù)據(jù),通過人駕數(shù)據(jù)反饋的強(qiáng)化學(xué)習(xí),來不斷提升測評效果,同時也將DriveGPT作為云端測評模型,用來評估車端小模型的駕駛效果。
除了毫末,特斯拉超算中心擁有近2萬張GPU,對自動駕駛訓(xùn)練效率產(chǎn)生立竿見影的效果,最大限度地提升了自動駕駛系統(tǒng)的開發(fā)效率;大陸集團(tuán)的高算力集群,將開發(fā)周期從幾周縮短至幾個小時,使自動駕駛得以在中短期商業(yè)計劃中落實;機(jī)器學(xué)習(xí)時間的縮短加快了新科技進(jìn)入市場的速度;“扶搖”支持小鵬自動駕駛核心模型的訓(xùn)練時長從7天縮短至1小時內(nèi),大幅提速近170倍……
當(dāng)前,一個不爭的事實就是,在自動駕駛領(lǐng)域具有長期規(guī)劃的車企,無論是造車新勢力還是傳統(tǒng)品牌,或者技術(shù)供應(yīng)商,都在搭建自己的超算中心,以掌握穩(wěn)定的算力資源,縮短開發(fā)周期,加快自動駕駛產(chǎn)品的上市。相反,如果沒有超算中心,那么自動駕駛訓(xùn)練速度將明顯放緩,自動駕駛企業(yè)間的差距也將愈發(fā)明顯。
人工智能是創(chuàng)新的加速器,智算中心作為新基建則可以為各類技術(shù)創(chuàng)新提供支撐。人工智能發(fā)展很快,新的算法層出不窮,需盡快引入新的技術(shù)和模型,與此同時,數(shù)據(jù)是智能化發(fā)展最大的驅(qū)動力,也占據(jù)了大量成本構(gòu)成。用自建智算中心來打造數(shù)據(jù)護(hù)城河,不僅能夠完善產(chǎn)業(yè)智能生態(tài),更能讓企業(yè)在智能化方面占據(jù)先發(fā)優(yōu)勢,智算中心作為數(shù)字新基建,未來勢必將引領(lǐng)自動駕駛技術(shù)持續(xù)迭代升級。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )