7月5日消息，在2024 WAIC智能芯片及多模態(tài)大模型論壇上，愛芯元智正式發(fā)布了“愛芯通元AI處理器”，展示了智能芯片與大模型深度融合的技術(shù)應(yīng)用與商業(yè)生態(tài)。

愛芯元智創(chuàng)始人、董事長仇肖莘表示，大模型真正大規(guī)模落地需要云邊端三級緊密結(jié)合，而邊緣側(cè)和端側(cè)結(jié)合的關(guān)鍵在于AI計算與感知。愛芯元智基于愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術(shù)，確立了以“AIoT+ADAS”為主的一體兩翼戰(zhàn)略路線，并向邊緣計算、AI推理領(lǐng)域縱深發(fā)展，推動智慧城市、智能駕駛等應(yīng)用場景加速落地。

仇肖莘認(rèn)為，智能芯片和多模態(tài)大模型已經(jīng)成為人工智能時代的“黃金組合”，當(dāng)大模型的應(yīng)用日益廣泛，更經(jīng)濟(jì)、更高效、更環(huán)保將會成為智能芯片的關(guān)鍵詞，而搭載AI處理器的高效推理芯片將是大模型落地更合理的選擇，這也是推進(jìn)普惠AI的關(guān)鍵所在。

作為國內(nèi)領(lǐng)先的基礎(chǔ)算力平臺公司，愛芯元智在2022年預(yù)判了transformer的爆發(fā)，并率先推出了搭載愛芯通元AI處理器的芯片。愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉介紹，愛芯通元AI處理器的核心是算子指令集和數(shù)據(jù)流微架構(gòu)。其底層采用了可編程數(shù)據(jù)流的微架構(gòu)，來提高能效和算力密度。同時它的靈活性也保證了算子指令集的完備性，支撐各種AI的應(yīng)用。而其成熟的軟件工具鏈可以讓開發(fā)者快速上手。此外，軟硬件的聯(lián)合設(shè)計也保證了愛芯通元AI處理器的高速迭代，保證了愛芯通元AI處理器的競爭力。愛芯通元AI處理器很大程度降低了AI應(yīng)用的開發(fā)及運維成本，讓AI智能更經(jīng)濟(jì)、更高效、更環(huán)保。

劉建偉介紹，愛芯通元AI處理器在高中低三檔算力中已完成布局，并在智慧城市和輔助駕駛兩個領(lǐng)域?qū)崿F(xiàn)了規(guī)?；慨a(chǎn)，能效比較GPGPU芯片提升了一個數(shù)量級，而在以文搜圖、通用檢測、以圖生文、AI Agent等通用大模型應(yīng)用中，愛芯通元AI處理器也可以讓AI開發(fā)者以更低的成本進(jìn)行高效開發(fā)。

AI處理器的應(yīng)用前景如何？

論壇上，愛芯元智在智慧物聯(lián)、智能駕駛等領(lǐng)域的合作伙伴也分享了AI處理器的應(yīng)用前景。智慧物聯(lián)和人工智能創(chuàng)新融合專家殷俊表示，以視覺為主的智能在城市治理與生產(chǎn)生活方面應(yīng)用廣泛，近年來大模型在文本、語音等領(lǐng)域快速發(fā)展，但在視覺領(lǐng)域的落地卻面臨可靠性、穩(wěn)定性、理解不夠全面等挑戰(zhàn)，真實準(zhǔn)確描述客觀世界是視覺大模型落地的關(guān)鍵。針對不斷更新迭代的視覺大模型，殷俊認(rèn)為，不應(yīng)該讓用戶放棄原有的技術(shù)投資，而是要通過大小模型協(xié)同和模型小型化，實現(xiàn)最優(yōu)算力配置，來加快大模型行業(yè)落地。

和物聯(lián)網(wǎng)一樣，智能駕駛也經(jīng)歷了模型從小到大的過程，“BEV+Transformer”大模型架構(gòu)正在成為智駕行業(yè)的主力軍，背后則需要突破“端到端”模型技術(shù)難題。對此，邁馳智行科技有限公司CTO張弛表示，大模型加速了自動駕駛從高速公路向更加復(fù)雜的城區(qū)場景的過渡，也促進(jìn)了端到端感知規(guī)控一體化的形成，這一過程中，激光雷達(dá)、高精度地圖的作用在減弱，但豐富的端到端大模型也讓不受地理環(huán)境限制的點到點自動駕駛成為可能。

人工智能未來發(fā)展方向是什么？

現(xiàn)場嘉賓們也對人工智能發(fā)展方向做出了預(yù)測。面壁智能副總裁賈超認(rèn)為，憑借在成本、隱私、延時性、可靠性等方面的優(yōu)勢，端側(cè)AI發(fā)展會成為全球趨勢，這也意味著大模型正式進(jìn)入了輕量化時代。這一背景下，“模型知識密度，平均每8個月提升1倍”將會成為大模型時代的新摩爾定律。賈超強(qiáng)調(diào)，企業(yè)開發(fā)端側(cè)大模型需要從算法側(cè)和芯片側(cè)來做雙向奔赴，把端側(cè)模型用端側(cè)芯片，在用戶場景上高效落地，這樣才能給用戶帶來最極致的體驗。

達(dá)摩院RISC-V及生態(tài)高級技術(shù)專家尚云海分析到，大模型未來就會呈現(xiàn)規(guī)模大、結(jié)構(gòu)統(tǒng)一、能力增強(qiáng)三大趨勢，目前處于計算需求與硬件計算能力不匹配的階段，量化、結(jié)構(gòu)化稀疏、低精度訓(xùn)練將成為提升大模型性能的有效路徑。RISC-V作為開源、開放指令架構(gòu)，可以第一時間適應(yīng)AI算法和算子的快速變化，滿足當(dāng)前大模型所需的推動AI算力和芯片架構(gòu)發(fā)展。

智能芯片的突破創(chuàng)新讓算力更加有的放矢，大模型的應(yīng)用落地也給各行各業(yè)的智能化轉(zhuǎn)型帶來更廣闊的想象空間，愛芯元智方面表示，將堅定推進(jìn)智能芯片與大模型的深度融合，促進(jìn)云邊端的一體化，助力推動AI普惠的不斷深化。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。