11月9日至10日,科技智庫(kù)「甲子光年」在北京舉行2019「甲子引力」大會(huì)。其中,在11月9日下午舉行的“數(shù)字智能”專場(chǎng)上,云知聲創(chuàng)始人、CEO黃偉以“底層崛起:邊緣計(jì)算 AI芯片”為主題展開了分享。
黃偉談到,算法在過去很多時(shí)候理論上很美,但若沒有算力支撐的話,很難達(dá)到非常好的效果。這也是為何今天人工智能很熱的時(shí)候,突然發(fā)現(xiàn)芯片也很熱,因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù)和算法,也需要更強(qiáng)的算力。 芯片是一個(gè)比較漫長(zhǎng)的周期,從研發(fā)到流片、設(shè)計(jì),周期以年為計(jì),里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致比較大的損失。黃偉提到,做芯片更多還是考量在今天這個(gè)時(shí)代,芯片能夠滿足用戶哪些需求,以此出發(fā)點(diǎn)倒推在芯片設(shè)計(jì)的時(shí)候要考慮哪些要素。
演講要點(diǎn)如下:
1、很多算法理論上很美,但需要算力來支撐。
2、5G普及之后,對(duì)邊緣計(jì)算能力要求越來越高。
3、在物聯(lián)網(wǎng)環(huán)境下做AI芯片面臨很多挑戰(zhàn),重要的是考量芯片能滿足用戶哪些需求。
現(xiàn)場(chǎng)演講實(shí)錄:
很多算法理論上很美,但需要算力來支撐
很高興今天來參加這個(gè)活動(dòng),我今天的題目是《底層崛起:邊緣計(jì)算AI芯片》。先介紹一下AI芯片的背景,這個(gè)圖很多人在很多場(chǎng)合都看到過,人工智能的幾次高潮與低谷。我想從我個(gè)人的經(jīng)歷介紹下,因?yàn)槲易约阂菜闶菑?a href="http://worldfootballweekly.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能整個(gè)低谷到漸漸起來這一過程的親歷者。
云知聲今天是做聲技術(shù)的,比如說語音識(shí)別、自然語言理解等,其實(shí)我碩士論文是做圖像,那是在上世紀(jì)末,1998、1999年,當(dāng)時(shí)我的導(dǎo)師給我分配的研究課題是來給一些醫(yī)學(xué)圖片切片編輯成可交互、旋轉(zhuǎn)、可渲染的3D model。那時(shí)候主頻只有100兆,做三維的動(dòng)作困難是很大的。我做完可以出去玩,兩三個(gè)小時(shí)回來那個(gè)機(jī)器掛了,那個(gè)時(shí)候很痛苦。當(dāng)時(shí)博士階段就換了一個(gè)方向,做語音識(shí)別。 我的博士論文開題也是用神經(jīng)網(wǎng)絡(luò)來做語音識(shí)別。那個(gè)年代很多人會(huì)覺得“神經(jīng)網(wǎng)絡(luò)”是騙子,我自己也深深以為神經(jīng)網(wǎng)絡(luò)是騙子,因?yàn)樾Ч懿睢H绻?xùn)練集和測(cè)試集環(huán)境比較一致的話效果還可以,如果換個(gè)集合效果就一塌糊涂。 當(dāng)時(shí)又轉(zhuǎn)了一個(gè)方向,因?yàn)橛龅揭粋€(gè)另外問題。當(dāng)時(shí)理論非常完美,但測(cè)算了一下,基本跑一個(gè)模型需要兩周時(shí)間。那個(gè)數(shù)據(jù)集有兩千人,意味著這個(gè)跑一遍要四千多周。算了算不行,博士從開題到畢業(yè)只有兩年時(shí)間,做這個(gè)可能畢不了業(yè)。所以我就想辦法結(jié)合統(tǒng)計(jì)模型,解決了數(shù)據(jù)的篩選,把幾十萬的數(shù)據(jù)變成幾十、幾百的數(shù)據(jù)。 這個(gè)例子講什么呢,就是這種算法在過去很多時(shí)候理論上很美,但沒有算力來支撐的話,很難達(dá)到非常好的效果。其實(shí)在某個(gè)特定歷史時(shí)期,計(jì)算能力本身就對(duì)算法做了設(shè)定,甚至對(duì)理論了做一個(gè)設(shè)定。所以這就是為什么今天人工智能很熱的時(shí)候,突然發(fā)現(xiàn)芯片也很熱了,我認(rèn)為這是一個(gè)合理的過程。因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù),更多更復(fù)雜的算法,當(dāng)然需要更強(qiáng)的算力。
5G普及之后,對(duì)邊緣計(jì)算能力要求越來越高
過去還聽到一種聲音說,5G時(shí)代我們可以把更多數(shù)據(jù)都上升到云端,組合到一起去做。這是否能解決問題呢?當(dāng)然不是。天下之勢(shì),分久必合,合久必分,沒有互聯(lián)網(wǎng)之前其實(shí)我們都是邊緣計(jì)算,有了互聯(lián)網(wǎng)之后我們開始把數(shù)據(jù)在云端進(jìn)行處理,所以我們看到有一段時(shí)間云計(jì)算特別火。到一定階段之后之后,我們又進(jìn)入另一時(shí)期,就是端云結(jié)合,我們既需要云端的集中處理,可能也需要一些邊緣側(cè)的分布式處理。這個(gè)時(shí)代背景下,最近幾年我們國(guó)內(nèi)其實(shí)涌現(xiàn)了一些非常優(yōu)秀的AI芯片公司,包括今天到場(chǎng)嘉賓,像地平線、寒武紀(jì)還有很多都是在各自領(lǐng)域里努力做一些工作,使得對(duì)中國(guó)的發(fā)展能起到有益的幫助。 講到AI芯片戰(zhàn)略意義,其實(shí)講大道理沒用,就以一個(gè)例子來講,比如說我們知道今天的車不再只是一個(gè)交通工具,它的能力開始延展,我們也會(huì)在汽車?yán)锩嫱ㄟ^聯(lián)網(wǎng)獲得很多的服務(wù),包括在線導(dǎo)航、在線歌曲,在線實(shí)施優(yōu)化以及自動(dòng)駕駛,我們還會(huì)把不同車的信息在云端進(jìn)行處理,其實(shí)這就意味著車也會(huì)成為一個(gè)IoT的T之一。
我們是不是可以直接把這個(gè)東西就放在里面,直接通過5G來做,現(xiàn)實(shí)其實(shí)不是這樣的。即便今天5G普及了,我們也很難保證在任何的路況、在任何地區(qū)5G信號(hào)都可以實(shí)時(shí)、毫秒級(jí)處理。
第二個(gè)是說我直接把這個(gè)算法跑到汽車應(yīng)用上行不行,答案可能也是不行。舉例說,假設(shè)你今天買了輛車,你會(huì)發(fā)現(xiàn)這個(gè)車的電腦設(shè)計(jì)其實(shí)很一般,因?yàn)檫@些元力件都是五年前、八年前定型的,它的主頻處理器運(yùn)行并不特別高,假如說在處理速度不是很高的芯片上面,我們又跑了一個(gè)非常消耗計(jì)算資源的AI的應(yīng)用,又是什么后果呢?以我們做的語音交互為例,當(dāng)我開車的時(shí)候說一句話,跟汽車通過語音進(jìn)行交互,就可能會(huì)導(dǎo)致這個(gè)汽車的主控芯片的CPU被阻塞,從而可能導(dǎo)致非常嚴(yán)重的交通事故。這就需要我們?cè)诓粍?dòng)主控芯片的情況下,是否有一個(gè)專用芯片來處理人和汽車的之間的對(duì)話,它來處理汽車一些娛樂性等等。隨著5G隨著普及之后,其實(shí)我們對(duì)邊緣計(jì)算能力要求越來越高。
物聯(lián)網(wǎng)AI芯片面臨的挑戰(zhàn)
在物聯(lián)網(wǎng)環(huán)境下,我們做AI芯片面臨很多挑戰(zhàn)。過去傳統(tǒng)芯片經(jīng)過初步競(jìng)爭(zhēng)之后剩下一些巨頭,這些巨頭充分競(jìng)爭(zhēng)的結(jié)果是每個(gè)巨頭按照自己的研發(fā)計(jì)劃交出一個(gè)產(chǎn)品,下游廠商沒有選擇權(quán)。我們會(huì)看到有段時(shí)間手機(jī)廠商發(fā)布會(huì)說我們采用了驍龍700、800芯片,用戶也不知道驍龍700、800到底是什么,只是覺得它快。在物聯(lián)網(wǎng)環(huán)境下我們做芯片面臨的問題,首先就是這個(gè)芯片的任務(wù)是什么。其次在人工智能時(shí)代我們面臨很多現(xiàn)實(shí)問題,例如在AI設(shè)計(jì)上怎樣才能低功耗,聯(lián)網(wǎng)之后設(shè)備的安全性怎么保證,這都是AI芯片需要解決的問題。
未來是什么在決定著物聯(lián)網(wǎng)AI芯片的設(shè)計(jì),實(shí)際上還是那幾個(gè)問題,首先要面向場(chǎng)景和任務(wù),這個(gè)AI芯片一定是端云結(jié)合,在設(shè)備端要給用戶提供多?;幚砟芰Α5诙€(gè)要構(gòu)筑一個(gè)最矮墻,提升CPU的效率,使得算力非常強(qiáng),舉個(gè)例子就好比說回轉(zhuǎn)壽司,一個(gè)大哥飯量非常好,吃得非常快,但你轉(zhuǎn)的太慢的話他也吃不飽。
簡(jiǎn)單總結(jié)一下,過去幾年我們?cè)谛酒矫娴囊恍v程,可能因?yàn)楹茉绯赃^算力不足以支撐算法的虧,所以很早意識(shí)到算力的重要性,除了自己搭建算力平臺(tái)之外,我們也很早就意識(shí)到了芯片研發(fā)的重要性,2015年我們開始組建團(tuán)隊(duì)做這個(gè)事情。 云知聲這幾年,從研發(fā)、流片到量產(chǎn)和發(fā)布,今年初我們也發(fā)布了自己的第一代產(chǎn)品。去年是語音芯片,今年開始推出我們的多模態(tài)芯片。這個(gè)有幾個(gè)特點(diǎn),一是算力比較強(qiáng),可以達(dá)到4個(gè)T;第二是支持多個(gè)NPU組網(wǎng);第三是可重復(fù)計(jì)算,芯片即使流片之后,后續(xù)如果算法升級(jí),這個(gè)芯片也可以支持算法去不斷進(jìn)行升級(jí)。當(dāng)然除了語音之外,其實(shí)還包括圖像,可以在芯片端實(shí)現(xiàn)聲音、圖象、信號(hào)等多模態(tài)的處理能力。上個(gè)月我們剛剛流片一個(gè)DSP芯片,比較快的話應(yīng)該年底會(huì)回來。
其實(shí)我們可以看到,云知聲并不是追求軍備競(jìng)賽,多少算力,我們更多還是考量在今天這個(gè)時(shí)代,芯片能夠滿足用戶哪些需求,從這個(gè)出發(fā)點(diǎn)倒推,我們?cè)谛酒O(shè)計(jì)的時(shí)候把哪些要素考慮進(jìn)來。
當(dāng)然,芯片是一個(gè)比較漫長(zhǎng)的周期,從研發(fā)到流片,到設(shè)計(jì),到量產(chǎn),這個(gè)周期是以年為計(jì)的,這里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致芯片出來時(shí)造成比較大的損失。我們?yōu)槭裁匆鲂酒褪菫榱艘?guī)模量產(chǎn),但一旦出現(xiàn)失誤,就會(huì)造成很大的損失。 在落地方面,我覺得在今天的環(huán)境下,很多團(tuán)隊(duì)面臨的不僅僅是技術(shù)問題。我們都知道今天可能資本是寒冬,也知道今天的國(guó)內(nèi)環(huán)境是科技戰(zhàn)的環(huán)境,科技是需要燒錢的,但資本沒有錢。在這種背景下,創(chuàng)業(yè)企業(yè)怎么把科創(chuàng)演進(jìn)規(guī)劃跟市場(chǎng)比較好的結(jié)合在一起,這可能是每一個(gè)創(chuàng)業(yè)公司需要面臨的問題。 大概這些,謝謝大家。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長(zhǎng)
- 本田與日產(chǎn)醞釀合并:明年6月敲定協(xié)議,新公司社長(zhǎng)待本田推薦
- 金融大模型新突破:百川智能Baichuan4-Finance引領(lǐng)行業(yè),準(zhǔn)確率領(lǐng)先GPT-4近20%,變革金融業(yè)未來
- 博通CEO陳福陽(yáng)回應(yīng):忙于AI半導(dǎo)體業(yè)務(wù),暫無意收購(gòu)英特爾,拒絕巨頭誘惑?
- 法拉第未來再獲融資,下月亮相首款原型車,或?qū)㈤_啟新篇章
- 央視揭露:未成年租號(hào)游戲亂象,防沉迷形同虛設(shè),需警惕
- 三星內(nèi)存部門發(fā)放超級(jí)績(jī)效獎(jiǎng)金,最高漲薪200%,員工福利再升級(jí)
- LG新能源南京總部啟動(dòng),智能電池生產(chǎn)引領(lǐng)綠色未來
- 東芝涅槃:退市裁員后重回盈利,改革之路如何重塑輝煌?
- 大眾汽車管理層降薪風(fēng)暴:獎(jiǎng)金縮水,未來兩年減薪10%,求真還需看業(yè)績(jī)表現(xiàn)
- 知乎預(yù)測(cè)未來:黑神話悟空領(lǐng)銜,諾貝爾物理學(xué)獎(jiǎng)成焦點(diǎn)
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。