（魏德齡/文）總是習慣性晚一步的蘋果，已經悄然瞄向了大熱的AI，此前圍繞在iOS18傳聞周圍的關鍵詞正是AI與智慧助手的升級，本周關于這一傳聞有了進一步的指向性內容，那就是端側AI。

蘋果瞄向端側AI

據(jù)彭博社記者Mark Gurman在一檔節(jié)目中透露，蘋果在iOS18上的首批AI功能將無需依賴云端服務器的算力，可完全在本地運行。

這意味著，蘋果將通過相關框架讓大語言模型得以小型化，通過模型量化技術減小模型大小和提高推理速度，同時實現(xiàn)并發(fā)處理和高效利用設備資源，從而能夠在終端本地安裝并運行。實際上，目前已經有相關AI應用發(fā)布于蘋果App Store，并可在終端本地運行16億-70億參數(shù)量不等的大語言模型。

此前，相關消息顯示，iOS 18系統(tǒng)內的多個功能，以及相關蘋果生態(tài)下的官方應用，都將因為AI而受益。例如正在的開發(fā)一個集成AI的消息應用功能，能夠更快速恢復短信內容。據(jù)福布斯的預測，生成式AI能力還將為蘋果的生產力工具帶來升級，例如Pages、Keynote、Numbers這三大辦公套件，將可獲得一系列新能力。

同時，蘋果還公布了自研的MM1多態(tài)大語言模型(Multimodal LLM)。MM1共分為三個參數(shù)規(guī)模，其中最大的擁有300億參數(shù)。根據(jù)科技博客Daily Dev的評測顯示，MM1在GLUE-Score等多項評測指標上要略優(yōu)于GPT-4V和Gemini Pro。

硬件配置吃得消嗎？

不過，如果將升級的能力全部依托于端側的話，蘋果手機目前的硬件配置能否吃得消的問題也浮出了水面。當設備運行生成式AI模型的時候，一般會占用一定的RAM空間，同時模型本身也會占據(jù)一定的硬盤空間。

而上述兩項對于蘋果設備來說，顯然是個小痛點。目前iPhone 15 Pro系列的RAM為8GB，iPhone 15系列為6GB，而iPhone 13系列僅為4GB?？紤]到本地運行模型運算是對于RAM的占用，iPhone 15 Pro系列的8GB可能最為適宜，而6GB的iPhone 15系列只能將就。4GB的iPhone 13系列很可能將難以滿足運行需求。

同時，對于一直被網友戲稱為把硬盤空間當金子賣的蘋果來說，一些舊有機型的用戶屆時在實現(xiàn)系統(tǒng)升級，并獲得相關本地生成式AI能力的時候，或將面臨本地存儲空間吃緊的問題。要知道，因為空間不足導致升級系統(tǒng)失敗的案例曾經在iPhone 4s時代大規(guī)模出現(xiàn)過。

不過好消息是，大量現(xiàn)役iPhone機型的NPU算力并不成問題，蘋果近年來在每代A系列芯片上的升級重點就在于NPU。例如A17 Pro的NPU在算力上實現(xiàn)了兩倍的提升，相比于提升10%的CPU與提升20%的GPU，可謂是牙膏爆擠。

端側AI大爆發(fā)的必然

其實，對于習慣性晚一步的蘋果來說，發(fā)力端側AI更意味著對于該技術方向的肯定。同理在近期，蘋果也放棄了耗時10年的電動車計劃，并同樣把該領域的研究經費轉向AI領域。

而端側AI也完全符合蘋果對于安全與隱私上的產品定位，由于端側AI能夠讓敏感數(shù)據(jù)完全在本地運行，保證了數(shù)據(jù)不會上傳至云端，也就在實現(xiàn)AI能力的同時，保證了隱私。對于依靠云端服務器的AI而言，例如在近期宣布無需注冊就能使用的ChatGPT，如果用戶需要強化保護自身的聊天數(shù)據(jù)，就需要手動在設置中選擇不將聊天記錄用于訓練，但其實很多用戶在日常使用中都會忽略這點。

隨著生成式AI模型的變小，100億及更多參數(shù)的生成式AI模型也即將能夠在終端側運行。實際上，目前在筆記本設備中，已經能夠運行130億參數(shù)的大語言模型，相信在智能手機流暢運行已指日可待。這就意味著，在端側設備上，同樣可以實現(xiàn)媲美云端服務器的文字生成圖像、對話和NLP、協(xié)作機器人、圖像理解等功能，只要輸入與生成的量級可控，端側AI同樣能夠帶來令人滿意的表現(xiàn)。

這方面，Android陣營已經先行一步。

小米方面曾在去年透露，從2016年開始，小米就開始了對大模型的研究和開發(fā)，今年更是成立了專門的大模型團隊。目前，小米的AI相關團隊已經超過3000人。還有報道稱，小米AI大模型的一個13億參數(shù)大模型已經成功在手機本地跑通，部分場景可以媲美60億參數(shù)模型在云端運行結果。

今年MWC巴塞羅那上，高通展出了全球首個運行多模態(tài)大模型（LMM）的手機，支持超過70億參數(shù)大模型，不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入數(shù)據(jù)類型。

榮耀在今年年初發(fā)布了自研端側 70 億參數(shù)平臺級 AI 大模型“魔法大模型”，并表示現(xiàn)有操作系統(tǒng)都值得用 AI 重做一遍。

vivo的AI藍心大模型也實現(xiàn)了“端側7B+云側70B”超大參數(shù)規(guī)模部署，能實現(xiàn)超過700種手機相關功能，為超過2000萬用戶提供超能問答、超能創(chuàng)作、超能搜索、超能管理、超能交互等AI服務。

不過，端側AI無疑才剛剛上路，至少目前它的很多功能展示更像是手機發(fā)燒友的玩具，然而，隨著習慣性晚一步的蘋果的引入，完全成熟可用的本地生成式AI功能即將到來。2024年，對于端側AI來說，或許將是從“玩具”到“工具”的關鍵一年。

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。