9月5日消息(趙婷婷)9月3日,在2023中國國際服務(wù)貿(mào)易交易會(簡稱“服貿(mào)會”)期間舉辦的“中國智能產(chǎn)業(yè)論壇”上,英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇圍繞邊緣人工智能發(fā)展趨勢,及英特爾硬件軟件的產(chǎn)品如何賦能合作伙伴,快速構(gòu)建面向智能邊緣的應(yīng)用服務(wù),發(fā)表主題演講。
張宇指出,近期,人工智能新技術(shù)、新產(chǎn)品、新應(yīng)用和新生態(tài)層出不窮,通用人工智能、大模型等等讓人工智能芯片的技術(shù)升級再次成為業(yè)內(nèi)熱點(diǎn)。人工智能技術(shù)在各個行業(yè)得到迅速普及和應(yīng)用,例如交通、醫(yī)療、零售、工業(yè)等等。隨著行業(yè)以及連接、智能應(yīng)用、數(shù)據(jù)隱私保護(hù)等方面訴求增加,推動了邊緣計(jì)算尤其是邊緣智能事業(yè)的發(fā)展。
邊緣AutoML階段:邊緣人工智能發(fā)展的一個最終的形態(tài)
張宇指出,人工智能尤其是邊緣人工智能的發(fā)展應(yīng)該分為三個階段:邊緣推理階段、邊緣訓(xùn)練階段和邊緣的自主機(jī)器學(xué)習(xí)階段。
當(dāng)下人工智能在邊緣的應(yīng)用大多數(shù)還是停留在邊緣的推理階段,行業(yè)還是需要利用數(shù)據(jù)中心極大的算力或者大量數(shù)據(jù)訓(xùn)練一個模型,把訓(xùn)練的結(jié)果推送到前端進(jìn)行推理操作,這是目前絕大多數(shù)邊緣人工智能使用的模式。這種模式是現(xiàn)實(shí),但是同時也有局限性,最大的局限性是對模型的更新頻率有限。
以自動駕駛為例,它所代表的是邊緣人工智能發(fā)展的下一個趨勢——邊緣訓(xùn)練。邊緣訓(xùn)練實(shí)現(xiàn)人工智能的訓(xùn)練要面臨一系列的特定挑戰(zhàn)。如資源有限、缺乏專業(yè)知識、邊緣訓(xùn)練碎片化、難以在運(yùn)行時保護(hù)數(shù)據(jù)和模型并在多樣化硬件平臺上部署等。
在當(dāng)下的人工智能里頭,不管在邊緣應(yīng)用還是在數(shù)據(jù)中心的應(yīng)用,人在人工智能里仍然扮演一個非常重要的角色。
張宇認(rèn)為,今后人工智能發(fā)展應(yīng)該進(jìn)入邊緣AutoML階段,它是邊緣人工智能發(fā)展的一個最終的形態(tài)。這個階段網(wǎng)絡(luò)模型應(yīng)該感知人的意圖,選取適宜的樣本集訓(xùn)練這個模型,將訓(xùn)練結(jié)果推送到訓(xùn)練階段進(jìn)行相應(yīng)操作。甚至根據(jù)訓(xùn)練的結(jié)果不斷更新、不斷重新訓(xùn)練網(wǎng)絡(luò)模型,進(jìn)行不斷迭代,達(dá)到最佳的理想結(jié)果。
同時,他也指出,現(xiàn)在的大模型和AIGC,也只是說在往AutoML方向上前進(jìn)的一小步。在大模型里頭也有很大的局限性,目前像ChatGPT等等這樣的一些應(yīng)用,它都工作在開放的狀態(tài),而不是閉環(huán)的狀態(tài)。而真正到AutoML的狀態(tài)應(yīng)該有一個人工智能的閉環(huán)。
“如果把攀登高峰比喻人工智能不同階段,實(shí)現(xiàn)邊緣推理只是意味著我們站到山腳,到我們能實(shí)現(xiàn)邊緣訓(xùn)練只是站到半山腰,真正站到山頂是真正實(shí)現(xiàn)AutoML的時刻,這個還有很長的路要走。”張宇指出。
提供面向邊緣人工智能完整硬件和軟件解決方案 賦能合作伙伴
張宇指出,解決在邊緣人工智能快速發(fā)展過程中面臨的多種挑戰(zhàn),還需要產(chǎn)業(yè)界的通力合作。英特爾作為一家數(shù)據(jù)公司,給業(yè)界所提供的是面向邊緣人工智能、網(wǎng)絡(luò)、數(shù)據(jù)中心的完整硬件和軟件解決方案。尤其在人工智能方面,英特爾提供了從計(jì)算、通訊到存儲等一系列的產(chǎn)品,供開發(fā)人員進(jìn)行選擇。
計(jì)算方面,英特爾提供包括CPU、GPU及各種人工智能芯片等多種產(chǎn)品的組合,滿足用戶對人工智能算力不同的要求。針對人工智能大模型的訓(xùn)練和推理,英特爾在今年推出第二代Gaudi處理器,它不僅能提供大量的算力,還能提供通訊、存儲能力。張宇指出,英特爾的Gaudi2是全球唯二能提供針對大模型訓(xùn)練極佳性能的產(chǎn)品,而且在今年英特爾公司把Gaudi的產(chǎn)品已經(jīng)引入到國內(nèi),已經(jīng)在國內(nèi)上市。
構(gòu)建端到端的人工智能系統(tǒng),離不開跟通訊相關(guān)的產(chǎn)品。英特爾提供像可編程的以太網(wǎng)交換芯片等等數(shù)據(jù)中心的產(chǎn)品以及網(wǎng)絡(luò)產(chǎn)品,幫助構(gòu)建軟件定義的網(wǎng)絡(luò)。
硬件方面,英特爾通過增強(qiáng)通用處理器的同時,還提供專用的人工智能加速芯片,滿足用戶對邊緣人工智能算力的要求。2023年發(fā)布的第四代至強(qiáng)可擴(kuò)展處理器,包含了一系列面向人工智能的技術(shù)創(chuàng)新,如高級矩陣擴(kuò)展技術(shù)AMX技術(shù)、AMX技術(shù)、SGX技術(shù)。
其中,SGX技術(shù)能在運(yùn)行時態(tài)為關(guān)鍵的數(shù)據(jù)和程序提供一個有別于其他應(yīng)用的安全可執(zhí)行的區(qū)域,能提供一個更小的安全邊界、安全顆粒,使得人工智能應(yīng)用可以部署在比如像金融、醫(yī)療等等這些對于安全有比較強(qiáng)訴求的應(yīng)用行業(yè)里。
專用方面,英特爾提供獨(dú)立顯卡產(chǎn)品,包含了面向矩陣加速、矢量加速等等一些加速專業(yè)引擎,使得在面向科技計(jì)算和人工智能推理計(jì)算的時候能有更好的性能。
除了硬件以外英特爾還提供了很多軟的工具,例如Geti平臺,能提供自動化的標(biāo)注手段以及采取主動學(xué)習(xí)的技術(shù),幫助開發(fā)人員選取最有效的訓(xùn)練樣本,從而縮小訓(xùn)練周期,減少訓(xùn)練時間,提高訓(xùn)練效果。
軟件方面,英特爾還提供OpenVINO套件,能幫助開發(fā)人員快速進(jìn)行部署。OpenVINO包含兩個關(guān)鍵組件,一個是模型開發(fā)器,一個是推理引擎。幫助開發(fā)人員把開發(fā)好的網(wǎng)絡(luò)模型部署在不同的平臺去進(jìn)行訓(xùn)練,極大地降低軟件開發(fā)成本。
張宇介紹,在新的OpenVINO版本即2023.0的版本里,增加了對AIGC新的技術(shù)的加持,OpenVINO可以把文生圖這樣一些比較常用的大模型通過網(wǎng)絡(luò)壓縮以后,部署在通用CPU以及一些獨(dú)立顯卡,或者英特爾所帶的顯卡之上,進(jìn)行邊緣推理操作,在一些平臺上已經(jīng)得到非常好的驗(yàn)證。
除了提供這樣一些硬件和軟件的底層技術(shù)支撐,英特爾在行業(yè)方面也做了大量的工作,比如在智能制造領(lǐng)域和合作伙伴利用機(jī)器視覺合作,例如激光焊接等等一些技術(shù),利用低時延的技術(shù),把實(shí)時性和智能化結(jié)合起來,提供給合作伙伴全面的解決方案。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 400G:骨干網(wǎng)的最新趨勢
- 三大運(yùn)營商11月成績單:用戶數(shù)據(jù)增幅放緩
- 2025年數(shù)字錢包:重塑金融生態(tài)的領(lǐng)先應(yīng)用
- 量子計(jì)算:商業(yè)世界的新前沿與設(shè)計(jì)思維的融合
- 什么是聚合交換機(jī)?
- 電池技術(shù)如何影響車輛性能
- 千家早報(bào)|庫克稱蘋果從未考慮過AI收費(fèi);OpenAI GPT-5“難產(chǎn)”:訓(xùn)練6個月花費(fèi)5億美元,已落后原計(jì)劃半年——2024年12月23日
- 中國電信再次出讓三家金融機(jī)構(gòu)股權(quán) 價值規(guī)模近10億
- 中國移動無源器件產(chǎn)品集采:規(guī)模為1807.93萬件
- 中國移動分天線產(chǎn)品集采:規(guī)模為1588.82萬面
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。