7月19日消息,愛芯元智宣布企業(yè)核心技術(shù)混合精度NPU正式啟用中文名稱“愛芯通元?”。與此同時,愛芯元智聯(lián)合創(chuàng)始人、副總裁劉建偉在第三屆中國集成電路設(shè)計創(chuàng)新大會暨無錫IC應(yīng)用博覽會(ICDIA 2023)的“AIoT與ChatGPT”專題論壇上,受邀做《愛芯元智AX650N Transformer端邊落地平臺》主題演講,并介紹了第三代SoC芯片AX650N在端側(cè)、邊緣側(cè)部署Transformer的領(lǐng)先優(yōu)勢。
近年來,AIoT行業(yè)規(guī)??焖俪砷L,不僅是各大傳統(tǒng)行業(yè)智能化升級的最佳通道,也是未來物聯(lián)網(wǎng)發(fā)展的重要方向。同時,自2022年底發(fā)布以來,以ChatGPT為代表的大模型引發(fā)國內(nèi)外科技巨頭的紛紛布局,人工智能發(fā)展也進(jìn)入了一個全新的時代??梢钥吹?,伴隨著AIoT以及AI大模型的快速發(fā)展,底層硬件的數(shù)據(jù)存儲、計算性能、圖形處理能力都面臨著極高的要求。
在愛芯元智看來,大模型具有通識能力,能夠降低人工智能在場景落地的成本,而未來,每一個人都可能在終端擁有一個智能助手。在人工智能發(fā)展的過程中,愛芯元智提供的則是芯片基建,即通過人工智能芯片提供感知與計算的基礎(chǔ)能力,助力AI在端側(cè)邊緣側(cè)的落地。
感知層面,愛芯元智致力于讓攝像頭看得更清,從而打造物理世界的數(shù)字化入口;計算層面,愛芯元智致力于讓攝像頭看得懂,將為各種AI模型在端側(cè)和邊緣側(cè)的落地提供更高的算力基礎(chǔ)。本次ICDIA 2023現(xiàn)場,愛芯元智正式公布了混合精度NPU的官方中文名“愛芯通元?”,意在為各種智能算法提供基本算力支撐,讓智能在端側(cè)和邊緣側(cè)對世界產(chǎn)生更深入的理解,助力更美好的生活。
定位人工智能感知與邊緣計算基礎(chǔ)算力平臺,愛芯元智自2019年成立以來便聚焦感知與計算基礎(chǔ)能力,自主研發(fā)了愛芯智眸?AI-ISP和愛芯通元?混合精度NPU兩大核心技術(shù)。后者通過減少內(nèi)存墻和功耗墻的阻礙,在端側(cè)邊緣側(cè)面積、功耗受限的情況下,以更高的有效算力支持更多的智能算法,降低AI部署成本。
目前,愛芯元智已完成四代多顆芯片產(chǎn)品的研發(fā)和量產(chǎn)工作,并逐漸落地智慧城市、智能駕駛和AIoT三大市場?!斑@些市場都將感知和計算作為基本能力,這也是愛芯元智選擇不同市場的邏輯”,劉建偉表示。
在AI芯片設(shè)計開發(fā)時,愛芯元智高度重視應(yīng)用、算法與NPU的深度結(jié)合。應(yīng)用方面,愛芯元智通過數(shù)據(jù)流優(yōu)化、前后級處理加速來實現(xiàn)更高的性能;算法方面,愛芯元智會通過算子加速、網(wǎng)絡(luò)微結(jié)構(gòu)加速、內(nèi)存優(yōu)化等設(shè)計,從算法的角度來提高硬件的利用率;同時,愛芯通元?混合精度NPU是一個異構(gòu)多核系統(tǒng),并且內(nèi)置多核硬件調(diào)度機(jī)制減少對CPU的占用,讓系統(tǒng)應(yīng)用跑得更快。
基于應(yīng)用、算法與NPU聯(lián)合優(yōu)化的設(shè)計理念,愛芯元智推出的邊緣側(cè)、端側(cè)人工智能處理器芯片均具有高性能、低功耗等優(yōu)勢,其第三代高算力、高能效比SoC芯片AX650N更成為Transformer最佳落地平臺。
實測數(shù)據(jù)顯示,愛芯元智AX650N不僅在傳統(tǒng)的CNN網(wǎng)絡(luò)上性能優(yōu)異,在端側(cè)部署Transformer網(wǎng)絡(luò)SwinT也表現(xiàn)出色,實現(xiàn)了361FPS的高性能、80.45%的高精度、199 FPS/W的低功耗以及原版模型且PTQ量化的極易部署能力。同時,AX650N還支持低比特混合精度,用戶如果采用INT4,可以極大地減少內(nèi)存和帶寬占用率,從而有效控制端側(cè)邊緣側(cè)部署的成本。
目前,愛芯元智AX650N已適配ViT/DeiT、Swin/SwinV2、DETR等Transformer模型,最先進(jìn)的計算機(jī)視覺自監(jiān)督模型DINOv2也在AX650N上達(dá)到了30幀以上的運行結(jié)果。為了幫助開發(fā)者對Transformer做更好的落地嘗試,愛芯元智還推出了基于AX650N的面向生態(tài)社區(qū)和行業(yè)應(yīng)用的開發(fā)套件“愛芯派Pro”,助力探索更豐富的產(chǎn)品應(yīng)用。
面對大模型掀起的新一輪AI熱潮,愛芯元智AX650N也將針對Transformer結(jié)構(gòu)進(jìn)行進(jìn)一步優(yōu)化,并且將探索多模態(tài)方向的Transformer模型。愛芯元智希望通過感知和計算核心技術(shù),加速端側(cè)邊緣側(cè)智能落地,真正實現(xiàn)普惠AI,讓人們的生活更加美好。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- GitLab將停止為中國區(qū)用戶提供服務(wù),建議遷移到極狐,不遷或被刪賬號
- SUSE發(fā)布2025年技術(shù)趨勢預(yù)測:私有AI平臺的采用將會增加
- 重新定義金融服務(wù)體驗 奇富科技發(fā)布AI伴侶 “小奇”
- 大模型創(chuàng)企階躍星辰完成數(shù)億美元B輪融資 騰訊投資、啟明創(chuàng)投等有投資
- 百川智能發(fā)布全鏈路領(lǐng)域增強(qiáng)金融大模型Baichuan4-Finance,整體準(zhǔn)確率領(lǐng)先GPT-4o近20%
- 央視曝光未成年人可輕松繞開“防沉迷”系統(tǒng):租號玩游戲最低僅需4元
- 知乎發(fā)布2024“年度十問”:《黑神話:悟空》、諾貝爾物理學(xué)獎等問題在列
- 李斌回應(yīng)螢火蟲三重奏大燈設(shè)計:沒有參考iPhone
- 一周熱點匯總:特斯拉下月量產(chǎn)改款Model Y,阿里“甩賣”銀泰
- 蔚來第三品牌firefly螢火蟲首款車型正式亮相 預(yù)售價14.88萬元
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實,并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。