當(dāng)前,生成式AI(GAI)正以前所未有的速度發(fā)展,成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量,也越來越多地為終端用戶多樣化、個(gè)性化的內(nèi)容創(chuàng)造打開新的可能。
前不久,聯(lián)發(fā)科宣布聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃,共同推進(jìn)聯(lián)發(fā)科硬件平臺(tái)與飛槳和文心大模型適配。近期,聯(lián)發(fā)科還宣布運(yùn)用Meta LIama 2大語言模型和聯(lián)發(fā)科先進(jìn)的AI處理器(APU)以及完整的AI開發(fā)平臺(tái)(NeuroPilot),建立完整的終端側(cè)AI計(jì)算生態(tài),賦能終端設(shè)備生成式AI應(yīng)用。
不難看到,聯(lián)發(fā)科大力投資AI技術(shù)與生態(tài),推進(jìn)“端云融合”與終端側(cè)AI技術(shù)解決方案,為生成式AI市場探索更多發(fā)展路徑和動(dòng)能,通過行業(yè)伙伴利用AI大模型賦能終端設(shè)備,讓更多的用戶享受到生成式AI帶來的全新體驗(yàn)。
聯(lián)合百度發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃
不久前,聯(lián)發(fā)科宣布與百度聯(lián)合發(fā)起飛槳和文心大模型硬件生態(tài)共創(chuàng)計(jì)劃,雙方將共同推進(jìn) 聯(lián)發(fā)科硬件平臺(tái)與飛槳和文心大模型的適配。目前雙方正在合作優(yōu)化文心大模型在終端設(shè)備上的執(zhí)行效果,將實(shí)現(xiàn)大模型在終端和云端的協(xié)同工作,為用戶帶來突破性的生成式 AI 應(yīng)用體驗(yàn)。
作為推動(dòng) AI 進(jìn)一步發(fā)展的先進(jìn)技術(shù),與單純在云端部署生成式 AI 應(yīng)用和服務(wù)相比,終端側(cè)部署生成式 AI 在節(jié)約服務(wù)器成本、保護(hù)用戶信息安全、提升實(shí)時(shí)性和實(shí)現(xiàn)個(gè)性化用戶體驗(yàn)等方面具備明顯優(yōu)勢。雙方的合作將支持基于 聯(lián)發(fā)科芯片的智能手機(jī)、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備上運(yùn)行文心大模型,賦能終端設(shè)備提供更安全、可靠和差異化的使用體驗(yàn)。
聯(lián)發(fā)科與百度合作已久,雙方合作完成了Paddle Lite 輕量化推理引擎基于MediaTek NeuroPilot 人工智能通用軟件平臺(tái)的適配。NeuroPilot是MediaTek為開發(fā)者提供的基于本地端側(cè)的AI運(yùn)算解決方案,它為內(nèi)建 CPU、GPU 和 APU(獨(dú)立AI 處理器)等異構(gòu)運(yùn)算單元的MediaTek SoC平臺(tái)提供完整且強(qiáng)大的軟件解決方案。
聯(lián)發(fā)科無線通信事業(yè)部副總經(jīng)理李彥輯博士表示:“百度飛槳深度學(xué)習(xí)平臺(tái)和文心大模型在AI領(lǐng)域處于領(lǐng)先地位,我們雙方將聚焦 AI 大模型在終端側(cè)的部署,為用戶提供更安全可靠,更個(gè)人化,更低成本的端側(cè)生成式 AI 解決方案,賦予終端設(shè)備更強(qiáng)大的 AI 能力。MediaTek攜手百度飛槳和文心大模型,通過 AI 端云融合,將為廣大開發(fā)者和終端用戶帶來更多令人興奮的 AI 創(chuàng)新機(jī)遇和產(chǎn)品體驗(yàn)。”
運(yùn)用Meta Llama 2大語言模型賦能終端設(shè)備生成式AI應(yīng)用
近日,聯(lián)發(fā)科宣布利用 Meta 新一代開源大語言模型(LLM)Llama 2 以及聯(lián)發(fā)科先進(jìn)的 AI 處理器(APU)和完整的 AI 開發(fā)平臺(tái)(NeuroPilot),建立完整的終端側(cè) AI 計(jì)算生態(tài),加速智能手機(jī)、物聯(lián)網(wǎng)、汽車、智能家居和其他邊緣設(shè)備的 AI 應(yīng)用開發(fā),為終端設(shè)備提供更安全、可靠和差異化的使用體驗(yàn)。
聯(lián)發(fā)科資深副總經(jīng)理暨無線通信事業(yè)部總經(jīng)理徐敬全博士表示:“生成式 AI 的日益普及是數(shù)字化轉(zhuǎn)型的重要趨勢之一,我們的愿景是為 Llama 2 的開發(fā)者和終端用戶提供工具,帶來更多令人興奮的 AI 創(chuàng)新機(jī)遇和產(chǎn)品體驗(yàn)。通過與 Meta 的伙伴關(guān)系,MediaTek可提供更強(qiáng)大的硬件和軟件整體解決方案,為終端設(shè)備帶來遠(yuǎn)超以往的功能和體驗(yàn)。”
要在終端設(shè)備上充分釋放生成式AI的潛力,設(shè)備制造商需采用高算力、低功耗的AI處理器(APU),并通過更快、更可靠的網(wǎng)絡(luò)連接來增強(qiáng)設(shè)備的整體算力。如今,每一顆聯(lián)發(fā)科5G智能手機(jī)SoC均搭載AI處理器,已廣泛執(zhí)行生成式AI應(yīng)用成功案例,例如 AI 降噪(AI-NR)、AI 超級分辨率(AI-SR)以及AI運(yùn)動(dòng)補(bǔ)償(AI-MEMC)等。
MediaTek將于年末推出新一代旗艦移動(dòng)芯片,將采用針對Llama 2模型而優(yōu)化的軟件棧(NeuroPilot),與搭配支持Transformer模型做骨干網(wǎng)絡(luò)加速的升級版AI處理器(APU),可減少動(dòng)態(tài)隨機(jī)存取內(nèi)存(DRAM)的讀寫消耗和帶寬占用,進(jìn)一步強(qiáng)化大語言模型和生成式AI應(yīng)用的性能,助力開發(fā)者打造令人驚艷的AI應(yīng)用,加速終端設(shè)備AI應(yīng)用落地發(fā)展。
面向生成式AI技術(shù)和應(yīng)用浪潮,聯(lián)發(fā)科將持續(xù)投資技術(shù)并攜手行業(yè)伙伴,透過先進(jìn)科技和海量伙伴推動(dòng)生成式AI在終端側(cè)的布局和發(fā)展,加速生成式AI市場的規(guī)?;l(fā)展,持續(xù)為智能手機(jī)、汽車、智能家居、物聯(lián)網(wǎng)等終端設(shè)備用戶帶來振奮人心的生成式AI應(yīng)用體驗(yàn)。
(免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請進(jìn)一步核實(shí),并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )