AI 革命如火如荼,為企業(yè)帶來(lái)新的機(jī)遇,每次客戶互動(dòng)、每件產(chǎn)品和每項(xiàng)服務(wù)都將融入 AI 并借助 AI 實(shí)現(xiàn)改進(jìn)。多年來(lái),GPU 已經(jīng)證明能夠非常有效地解決某些極為復(fù)雜的深度學(xué)習(xí)問(wèn)題,而且 NVIDIA 深度學(xué)習(xí)平臺(tái)也逐漸成為業(yè)界標(biāo)準(zhǔn)的訓(xùn)練解決方案,但其推理能力并非廣為人知。早在2016年NVIDIA就推出了支持高性能深度學(xué)習(xí)推理加速引擎——TensorRT。TensorRT是一個(gè)高性能的深度學(xué)習(xí)推理(Inference)優(yōu)化器。經(jīng)過(guò)幾個(gè)版本的迭代,TensorRT可以為深度學(xué)習(xí)應(yīng)用提供低延遲、高吞吐率的部署推理。為了讓更多的AI開發(fā)者們迅速掌握NVIDIA高性能加速工具TensorRT,2021年3月20日,英偉達(dá)聯(lián)合阿里云和英邁中國(guó),面向全國(guó)開發(fā)者們發(fā)起TensorRT加速AI推理Hackathon 2021大賽。
本次大賽吸引了48支隊(duì)伍245名選手參與報(bào)名,經(jīng)過(guò)方案初選,共有37支隊(duì)伍入圍決賽,入圍團(tuán)隊(duì)有來(lái)自知名互聯(lián)網(wǎng)公司、無(wú)人駕駛方案公司、智能家電公司,也有來(lái)自高等院校及研究單位。在接下來(lái)的20多天時(shí)間里,參賽團(tuán)隊(duì)利用TensorRT工具,在阿里云提供的GPU云平臺(tái)上完成優(yōu)化自己所選深度學(xué)習(xí)模型的比賽任務(wù)。同時(shí),NVIDIA組建了一支由工程師組成的導(dǎo)師團(tuán)隊(duì),為每個(gè)參賽隊(duì)伍配備了2名NVIDIA開發(fā)工程師,在線指導(dǎo)參賽隊(duì)員利用TensorRT優(yōu)化和部署模型。
4月30日,所有參賽隊(duì)伍提交代碼托管平臺(tái)鏈接和項(xiàng)目報(bào)告書,并通過(guò)在線的方式向?qū)熝菔景⒗镌破脚_(tái)的數(shù)據(jù)測(cè)試結(jié)果。緊接著,NVIDIA組織核心技術(shù)評(píng)審團(tuán)隊(duì),通過(guò)TensorRT 加速技術(shù)路線比較、性能比較、創(chuàng)新性、可擴(kuò)展性及實(shí)用性等幾個(gè)方面考察每個(gè)團(tuán)隊(duì)的參賽模型。最終于5月21日公布比賽結(jié)果。
NVIDIA開發(fā)與技術(shù)亞太區(qū)總監(jiān),同時(shí)也是本次大賽評(píng)審團(tuán)負(fù)責(zé)人李曦鵬說(shuō):“第一屆TensorRT黑客松大賽非常精彩,我們看到了不少眼前一亮的模型方案。有幾個(gè)隊(duì)伍甚至發(fā)現(xiàn)了TensorRT 的bug,可以協(xié)助我們完善TensorRT的開發(fā)工作?!?/p>
李曦鵬表示,“人工智能應(yīng)用場(chǎng)景創(chuàng)新日新月異,AI模型的開發(fā)與部署也需要注入了新的動(dòng)能。NVIDIA構(gòu)建TensorRT的初衷就是為了進(jìn)一步將人工智能推向更為廣闊的應(yīng)用場(chǎng)景。今天,看到各位參賽選手們基于TensorRT加速引擎挖掘出了更多的潛能和功能需求,我感到非常開心和激動(dòng)。不忘初心,牢記使命,我們希望與更多優(yōu)秀的開發(fā)者們一起,共同推進(jìn)TensorRT的發(fā)展,讓AI在GPU上更容易、更高效地部署?!?/p>
很多參賽隊(duì)伍均表達(dá)了在參賽過(guò)程中有導(dǎo)師指導(dǎo)的重要性。
來(lái)自佳訊飛鴻智能科技研究院的團(tuán)隊(duì)負(fù)責(zé)人表示:“在NVIDIA導(dǎo)師的幫助下,提高了自己對(duì)TensorRT的認(rèn)識(shí),對(duì)于模型落地,又有了新的思路?!?/p>
來(lái)自上海高重科技有限公司,也是本次大賽一等獎(jiǎng)團(tuán)隊(duì)成員表示:“很不錯(cuò)的一次實(shí)踐體驗(yàn),感謝NVIDIA的導(dǎo)師和組織者,從前期的基礎(chǔ)知識(shí)培訓(xùn)到項(xiàng)目的具體實(shí)施,對(duì)自己的成長(zhǎng)很有幫助?!?/p>
來(lái)自香港理工大學(xué)的團(tuán)隊(duì)負(fù)責(zé)人表示:“很棒的比賽,讓我們的科研與實(shí)踐能力都得到鍛煉,希望以后還能有更多類似的比賽?!?/p>
關(guān)于本次大賽所有參賽作品可以訪問(wèn)NVIDIA開發(fā)者社區(qū)微信公眾號(hào)。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )