10月11日,OPPO宣布與聯(lián)發(fā)科技合作共建輕量化大模型端側部署方案,通過采用4位量化技術,實現(xiàn)精度不掉點效果下端側化性能更優(yōu),共同推動 AndesGPT 大語言模型和多模態(tài)大模型在端側逐步落地。
AndesGPT 作為OPPO自主訓練的生成式用戶專屬大模型。該模型以“端云協(xié)同”為基礎架構設計思路,推出從10億至千億多種不同參數(shù)規(guī)模的模型規(guī)格,實現(xiàn)在本地與云端協(xié)同運作的效果。
AndesGPT 對大模型端側推理引擎進行算子融合與優(yōu)化,使得結果生成速度大于人類正常閱讀速度,從而能更好滿足用戶需求。
AndesGPT 現(xiàn)身 C-Eval 全球中文榜單,并以 79.9 高分登該榜榜首。
(C-Eval全球中文榜-受限訪問的模型)
同日,基于AndesGPT大模型打造的全新小布助手開啟新一輪公測,全新小布助手對傳統(tǒng)語音助手進行內核級升級,為用戶帶來更智能的體驗。在知識與問答方面,通過引入高質量的知識圖譜、QA問答數(shù),并結合對預訓練和指令精調技術的優(yōu)化,顯著提升了大語言模型知識與百科能力的覆蓋面和準確性。今年9月,OPPO AndesGPT登上SuperCLUE榜單,在十大基礎能力排行榜的“知識與百科”能力AndesGPT測試得分高達98.33,大幅度領先其他大模型,僅次于GPT4排名國內第一,“角色扮演能力”中排名前三。
(SuperCLUE十大基礎能力排行榜)
自2020年起,OPPO已啟動AI大模型相關技術的探索與實踐,曾獲得大規(guī)模知識圖譜問答KgCLUE行業(yè)評測的第一名,中文自然語言理解CLUE第一名。未來,AndesGPT將持續(xù)加持OPPO智能助手小布的AI能力,為用戶帶來更好的使用體驗,并逐步應用于更多OPPO核心產品中。
11月16日,ColorOS 14 將于OPPO開發(fā)者大會中亮相,AndesGPT更多元化的應用場景或將同步發(fā)布,敬請期待。
(免責聲明:本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網站出現(xiàn)的信息,均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時,應及時向本網站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內容或斷開相關鏈接。 )