科技云報(bào)道:
機(jī)器學(xué)習(xí)、人工智能等應(yīng)用的興起,令業(yè)界對(duì)數(shù)據(jù)的傳輸速度、帶寬與安全產(chǎn)生了越來越多的需求,Mellanox這個(gè)名字也開始廣為人知。作為一家以InfiniBand網(wǎng)絡(luò)起家的公司,Mellanox如今的業(yè)務(wù)已經(jīng)不局限于IB網(wǎng)絡(luò)本身,以太網(wǎng)業(yè)務(wù)則成長為了公司的主要業(yè)務(wù)。
近日,在Mellanox主辦的“RDMA加速人工智能計(jì)算”技術(shù)研討會(huì)上,騰訊、阿里、微軟、英偉達(dá)、今日頭條、商湯科技、Face++、浪潮和香港科技大學(xué)等多家國內(nèi)最頂級(jí)的AI企業(yè)和研究機(jī)構(gòu)都來到現(xiàn)場,與業(yè)界分享了AI前沿的技術(shù)干貨。
這些赫赫有名的企業(yè),有的是Mellanox的客戶,有的是Mellanox的合作伙伴,在探索AI的道路上彼此始終合作緊密。
與此同時(shí),Mellanox CEO Eyal Waldman也開啟了他的訪華之旅,同往常一樣,Eyal的行程安排得很滿,一到中國就開始馬不停蹄地拜訪客戶。
在此次技術(shù)研討會(huì)上,科技云報(bào)道獨(dú)家專訪Mellanox公司創(chuàng)始人、總裁兼CEO Eyal Waldman,針對(duì)以太網(wǎng)的演進(jìn)和在大數(shù)據(jù)、AI方面的應(yīng)用,以及面向未來的網(wǎng)絡(luò)技術(shù)創(chuàng)新等問題進(jìn)行了深入探討。
Mellanox公司創(chuàng)始人、總裁兼CEO Eyal Waldman
超越極限
以太網(wǎng)的高速演進(jìn)
人們?cè)谡務(wù)撘蕴W(wǎng)時(shí),首先涌入腦海中的也許是電腦上的局域網(wǎng)或是路由器上的WiFi。實(shí)際上,以太網(wǎng)無處不在。以太網(wǎng)不僅覆蓋了家庭網(wǎng)絡(luò)及用戶終端,更應(yīng)用在運(yùn)營商網(wǎng)絡(luò)、大型數(shù)據(jù)中心和服務(wù)提供商等領(lǐng)域。
第三方報(bào)告數(shù)據(jù)表明,自2000年起,在工業(yè)應(yīng)用領(lǐng)域中,10Gb以太網(wǎng)占到工業(yè)應(yīng)用80%的份額。
針對(duì)不同的應(yīng)用場景,以太網(wǎng)擁有不同的速率。在企業(yè)層面,2.5Gb、5Gb和10GE支持了企業(yè)高速率的接入和WiFi上的應(yīng)用;在數(shù)據(jù)中心層面,經(jīng)歷著25Gb、50Gb、100Gb、200Gb一直到到400Gb以太網(wǎng)的演進(jìn);在服務(wù)提供商層面,以太網(wǎng)主要推動(dòng)了100Gb、200Gb到400Gb的發(fā)展。
據(jù)Eyal介紹,在上個(gè)月最新發(fā)布的全球超級(jí)計(jì)算機(jī)Top500榜單中,Mellanox以太網(wǎng)解決方案連接了TOP500榜單中所有的25Gb、50Gb和100Gb以太網(wǎng)系統(tǒng),來自中國的超大規(guī)模企業(yè)已在多個(gè)數(shù)據(jù)中心內(nèi)部署了25Gb以太網(wǎng)。
Eyal認(rèn)為,隨著25Gb以太網(wǎng)被越來越多的公司采用,Mellanox在以太網(wǎng)上取得的市場份額將越來越大,而競爭對(duì)手英特爾主導(dǎo)的萬兆(10Gb)領(lǐng)域優(yōu)勢將逐漸衰弱。畢竟25Gb、50Gb到100G才是未來的發(fā)展趨勢,在這三個(gè)網(wǎng)速上Mellanox具備其他企業(yè)無法比擬的網(wǎng)絡(luò)技術(shù)優(yōu)勢。
“Mellanox始終保持著一代技術(shù)的領(lǐng)先,我們已經(jīng)有了200Gb和400Gb,但英特爾只有100Gb,我們會(huì)把差距拉得更大。在未來可以預(yù)見的好幾年之內(nèi),我們都會(huì)領(lǐng)先英特爾一到兩代的產(chǎn)品?!盓yal表示,明年初Mellanox會(huì)對(duì)外銷售包括以太網(wǎng)和InfiniBand在內(nèi)的200Gb端到端的產(chǎn)品,包括網(wǎng)卡、交換機(jī),還有網(wǎng)線加光模塊。
Eyal略帶驕傲地告訴記者,這套完整的數(shù)據(jù)中心網(wǎng)絡(luò)解決方案,正是為了保證整個(gè)網(wǎng)絡(luò)能夠?qū)崿F(xiàn)端到端的高速演進(jìn),因?yàn)椤癕ellanox在網(wǎng)絡(luò)上面是跑得最快的,為了沒有人能拖累我們,所以做了一個(gè)端到端的閉環(huán)”。
據(jù)Eyal透露,目前Mellanox已在著手開發(fā)800Gb的產(chǎn)品,按照每代產(chǎn)品升級(jí)換代的速度,2020年之前800Gb產(chǎn)品應(yīng)該就能面世。
顛覆傳統(tǒng)
智能網(wǎng)絡(luò)的革新創(chuàng)想
在網(wǎng)絡(luò)的演進(jìn)過程中,過去以太網(wǎng)一直以10倍規(guī)律的傳輸速率在增長,然而從2014年開始,以太網(wǎng)打破了10倍的傳統(tǒng)慣例,開始探索2.5Gb、5Gb和25Gb的可行性。
新的應(yīng)用場景正在不斷催生新型以太網(wǎng)接口出現(xiàn),不僅推動(dòng)每個(gè)通道的速率提升,更推動(dòng)以太網(wǎng)向綜合性的、可定制的方向發(fā)展。
曾經(jīng)業(yè)界將目光放在高速網(wǎng)絡(luò)上,如今以Mellanox為主導(dǎo)的系統(tǒng)廠商們開始提出全新的概念——智能高速網(wǎng)絡(luò)。
所謂的智能高速網(wǎng)絡(luò),采用了獨(dú)有的加速引擎和網(wǎng)絡(luò)卸載技術(shù),通過在網(wǎng)絡(luò)設(shè)備里增加先進(jìn)的邏輯運(yùn)算單元的方式,將原來需要CPU做的一些計(jì)算工作卸載到了網(wǎng)絡(luò)中來,為CPU分擔(dān)工作量。
這種“在網(wǎng)絡(luò)中計(jì)算”的新型技術(shù),不僅比傳統(tǒng)網(wǎng)絡(luò)的計(jì)算速度高出幾倍,同時(shí)也提高了CPU在運(yùn)行應(yīng)用時(shí)的效率。
不得不說,這種顛覆性的網(wǎng)絡(luò)處理方式在AI時(shí)代顯得恰逢其時(shí)。在典型的深度學(xué)習(xí)場景下,機(jī)器訓(xùn)練和推理有賴于大量的數(shù)據(jù)傳輸和處理。如何突破傳統(tǒng)CPU處理數(shù)據(jù)的瓶頸,大幅提升應(yīng)用性能,成為AI賽道搶跑的關(guān)鍵一環(huán)。
在Eyal看來,網(wǎng)絡(luò)變得越智能,機(jī)器學(xué)習(xí)的效率也會(huì)越高。
一方面,Mellanox的網(wǎng)絡(luò)產(chǎn)品提供更高的帶寬高傳輸數(shù)據(jù),或者說在同樣的時(shí)間內(nèi),Mellanox的產(chǎn)品能處理更多的數(shù)據(jù);另一方面,由于計(jì)算的很多瓶頸都在通訊上,Mellanox的網(wǎng)絡(luò)內(nèi)計(jì)算技術(shù),將一部分?jǐn)?shù)據(jù)處理在網(wǎng)卡和交換機(jī)內(nèi)完成,而不用將所有數(shù)據(jù)都傳輸?shù)紺PU去處理,從而讓計(jì)算的速度更快。
Eyal對(duì)此做了一個(gè)很酷的比喻,他將這個(gè)過程形容為“在數(shù)據(jù)移動(dòng)中計(jì)算”。
事實(shí)證明,Mellanox智能網(wǎng)絡(luò)帶來的效率令業(yè)界贊嘆不已,在Mellanox和百度機(jī)器學(xué)習(xí)平臺(tái)的合作中,采用Mellanox SpectrumTM 以太網(wǎng)交換機(jī)和 ConnectX-4 100Gb/s以太網(wǎng)適配器,為百度在機(jī)器學(xué)習(xí)訓(xùn)練時(shí)間上實(shí)現(xiàn)了200%的提升,滿足了百度對(duì)更高數(shù)據(jù)速率和最有效數(shù)據(jù)傳輸?shù)男枨蟆?/p>
Mellanox和商湯科技的合作,更是將一個(gè)數(shù)據(jù)集的訓(xùn)練時(shí)間從一周縮短到一天,讓商湯科技的圖像識(shí)別模型能更快更準(zhǔn)確地識(shí)別物體。
對(duì)此Eyal表示:“因?yàn)槲覀兡茏寯?shù)據(jù)傳輸?shù)母欤梢詾橛脩艄?jié)省很多時(shí)間和成本。采用我們網(wǎng)絡(luò)的圖像識(shí)別系統(tǒng)可以讀取/傳輸更多的數(shù)據(jù),識(shí)別的速度更快,也更精準(zhǔn)。同樣的時(shí)間內(nèi),Mellanox的網(wǎng)絡(luò)速度更快更智能?!?/p>
與業(yè)界多家領(lǐng)先人工智能企業(yè)及平臺(tái)的合作,也令Mellanox的智能高速網(wǎng)絡(luò)更加smart,更加適合機(jī)器學(xué)習(xí)的框架。
在這些AI企業(yè)看來,Mellanox的網(wǎng)絡(luò)設(shè)備卸載了CPU/GPU上的一些工作,分擔(dān)了更多的計(jì)算任務(wù),是一個(gè)非常好的協(xié)處理器(co-processor)。
同時(shí),Mellanox的網(wǎng)絡(luò)快速傳輸協(xié)議RDMA可以更好地支持機(jī)器訓(xùn)練平臺(tái)架構(gòu),不僅支持Tensorflow、 Caffe、CNTK等主流開源平臺(tái),同時(shí)也在國內(nèi)AI廠商自研的機(jī)器學(xué)習(xí)平臺(tái)中得到了廣泛的應(yīng)用。
由于技術(shù)上的通用性,Mellanox與各大AI廠商合作的案例常被推薦給其他廠商借鑒,對(duì)智能高速網(wǎng)絡(luò)在市場上起到了很好的推動(dòng)作用,對(duì)于Mellanox和AI廠商來說也達(dá)到了雙贏的結(jié)果。
Eyal認(rèn)為,人工智能應(yīng)用這幾年增長顯著,對(duì)Mellanox來說無疑具備很大的潛力?!叭绻汴P(guān)注百度、阿里巴巴、Facebook、微軟,會(huì)發(fā)現(xiàn)他們都在采用Mellanox的互聯(lián)網(wǎng)絡(luò)。我相信Mellanox目前和未來都會(huì)是機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、人工智能領(lǐng)域(含大數(shù)據(jù))最先進(jìn)的互聯(lián)方案提供商?!?/p>
緊握機(jī)遇
Mellanox的厚積薄發(fā)
作為世界領(lǐng)先的高性能計(jì)算、數(shù)據(jù)中心端到端互連方案提供商Mellanox,無論是InfiniBand解決方案還是以太網(wǎng)系統(tǒng),早已被業(yè)界大規(guī)模部署,為各大平臺(tái)提供著業(yè)界最高的效率。
基于在以太網(wǎng)和InfiniBand行業(yè)領(lǐng)導(dǎo)者的地位,Mellanox憑借著云計(jì)算的蓬勃發(fā)展趨勢,同步也在大力發(fā)展自身的交換機(jī)芯片業(yè)務(wù)。
在收購EZchip以后,Mellanox推出了全新的BlueField產(chǎn)品,將多種芯片融合在一起集成為一個(gè)更智能的、功能更完善的設(shè)備。由于內(nèi)嵌了ARM CPU芯片,BlueField比普通的網(wǎng)卡處理能力更強(qiáng)大。
值得一提的是,業(yè)界對(duì)于BlueField產(chǎn)品也非常期待。從性能上看,無論在延遲、帶寬、丟包率以及延遲的穩(wěn)定性上,公開的第三方測試結(jié)果都表明BlueField遠(yuǎn)勝于目前市占率第一的Broadcom交換機(jī)芯片。
同時(shí),隨著云計(jì)算發(fā)展帶來的IT基礎(chǔ)設(shè)施變革,大型的互聯(lián)網(wǎng)公司和公有云廠商對(duì)自主可控的交換機(jī)的渴望也更加迫切。一方面,價(jià)格可控,廠商追求最佳的性價(jià)比;另一方面,廠商采用自己編程的軟件,方便管理。
從開放性上看,Mellanox是業(yè)界最先提出Open Ethernet即開放以太網(wǎng)概念的廠商之一,采用軟硬件分離的系統(tǒng),客戶既可以使用Mellanox的軟件,也可以使用開源軟件,還可以自己研發(fā)軟件,通過Mellanox開放的API、SDK去管理交換機(jī)。
正是Mellanox的高性能和開放性為其交換機(jī)業(yè)務(wù)帶來了新的增長。以前只有Broadcom一家做交換機(jī)芯片,Mellanox的加入令互聯(lián)網(wǎng)公司樂見其成。很多互聯(lián)網(wǎng)公司同時(shí)在使用兩家公司的產(chǎn)品,并存和對(duì)比成為目前市場上的一種常態(tài)。
Eyal認(rèn)為,未來規(guī)模大了以后,極有可能出現(xiàn)供貨形態(tài)的轉(zhuǎn)變,Mellanox交換機(jī)被互聯(lián)網(wǎng)公司大規(guī)模采用的趨勢是非常強(qiáng)烈的,這將是未來的一個(gè)非常大的機(jī)遇。
事實(shí)上,這種機(jī)遇不僅體現(xiàn)在全球IT發(fā)展趨勢中,在整個(gè)中國市場體現(xiàn)得非常明顯。據(jù)Eyal介紹,目前Mellanox大概有30%的營收來自亞太市場,其中中國的增速非常快,已成為僅次于美國的全球第二大客戶市場。
Mellanox在中國的客戶群和合作伙伴,幾乎包攬了耳熟能詳?shù)拿郑築AT、今日頭條、京東、美團(tuán)等知名互聯(lián)網(wǎng)企業(yè),以及浪潮、華為、聯(lián)想、ZTE、中興等大型IT服務(wù)商。Eyal表示中國市場極具潛力,他非常期待2018、2019年中國市場達(dá)到兩位數(shù)的增速。
在HPC和以太網(wǎng)的網(wǎng)絡(luò)互連領(lǐng)域,Mellanox可謂是名副其實(shí)的領(lǐng)導(dǎo)者,始終為超大規(guī)模計(jì)算、云和企業(yè)級(jí)數(shù)據(jù)中心提供高效網(wǎng)絡(luò)。而Mellanox智能高速網(wǎng)絡(luò)正在倡導(dǎo)一場新的計(jì)算變革,必將引領(lǐng)行業(yè)在深度學(xué)習(xí)、大數(shù)據(jù)、物聯(lián)網(wǎng)等領(lǐng)域繼續(xù)深入與探索,讓未來網(wǎng)絡(luò)世界不再遙遠(yuǎn)。
【科技云報(bào)道原創(chuàng)】
來源:科技云報(bào)道
免責(zé)聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個(gè)人觀點(diǎn),與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 100億美元史上最大融資的背后,國內(nèi)外巨頭齊瞄準(zhǔn)Data+AI
- 有一種羨慕叫“別人家的年終獎(jiǎng)”:京東采銷平均23薪,全網(wǎng)熱議“人的價(jià)值”
- 行業(yè)首個(gè)“人機(jī)大戰(zhàn)”對(duì)壘!AI翻譯已媲美人工
- 蘋果開啟年終大促,降價(jià)1200元,被國產(chǎn)手機(jī)嚇怕了?
- 1999 元起,OPPO A5 Pro 超防水、超抗摔、超耐用
- 長三角,如何把數(shù)據(jù)要素變成新長江?
- 大模型,在內(nèi)卷中尋找出口
- 比亞迪“天神之眼”重磅升級(jí):無圖城市領(lǐng)航功能全國開通
- 不愿成為微信的支付寶,注定失敗
- 大廠年終獎(jiǎng)全靠猜?京東帶頭透明化
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。