市場已經(jīng)達(dá)成了充分共識，大模型必須深入落地到具體應(yīng)用之中才能發(fā)揮優(yōu)勢。去年至今，各式各樣的通用及行業(yè)大模型層出不窮——僅在國內(nèi)備案通過的大模型就達(dá)117款之多。

群雄逐鹿之后，大模型開始真正進(jìn)入商業(yè)化落地元年，國內(nèi)幾家頭部科技公司紛紛開始加快大模型落地應(yīng)用布局，在金融、汽車、運(yùn)營商、政務(wù)等多個領(lǐng)域率先開始實(shí)踐。

“百模大戰(zhàn)”之后，誰將在商業(yè)化落地過程中脫穎而出?大模型商業(yè)化元年，又該如何加速落地?如何才能完成商業(yè)化與技術(shù)迭代的閉環(huán)?

行業(yè)場景復(fù)雜，大模型需要更靈活的落地方式

過去一年多來，國內(nèi)科技公司在大模型上的追趕進(jìn)步飛快。模型能力不斷提升，參數(shù)規(guī)模也越來越大。僅在去年10月，我國10億參數(shù)規(guī)模以上的大模型產(chǎn)品就已超200家，今年更是不斷有千億乃至萬億規(guī)模的大模型問世。

但在模型能力不斷提升的同時，大模型的商業(yè)化落地應(yīng)用卻遲遲未能更進(jìn)一步。比如面向C端市場，大模型產(chǎn)品的普遍商業(yè)模式是會員制訂閱服務(wù)，但僅憑單一的訂閱服務(wù)很難平衡大模型的運(yùn)算成本。此前就有外媒報道稱微軟的 Github Copilot仍處在虧損之中。

一些面向B端的大模型產(chǎn)業(yè)則面臨著模型能力和算力成本的雙重困境。一些大模型產(chǎn)品適用性不強(qiáng)，無法解決特定行業(yè)的復(fù)雜任務(wù)。算力成本也在制約著企業(yè)客戶轉(zhuǎn)向大模型的決心，部分企業(yè)開始嘗試使用開源模型，但卻帶來了隱私和數(shù)據(jù)安全的風(fēng)險。

和過去面向C端的通用大模型不同，不同行業(yè)、不同場景對大模型的需求不同，很難以一套固定的準(zhǔn)則來將大模型簡單粗暴地嫁接到不同應(yīng)用場景之下。大模型必須需要具備高度的可定制化和較強(qiáng)的適應(yīng)性，才能在各種復(fù)雜場景中落地。

但這并不容易。比如大模型能力與成本問題。模型參數(shù)越大，精度越高，但與之對應(yīng)的是算力成本高漲。一些聲音認(rèn)為應(yīng)該盡可能將模型做小，用更低的成本、更快的運(yùn)行效率來推動行業(yè)落地，但模型的適用性和準(zhǔn)確率卻會大打折扣。

科大訊飛旗下的訊飛星火大模型試圖從技術(shù)手段上平衡模型能力與算力成本，在保證模型能力性能不變或者損失很小的情況下，可以將模型盡可能做小。大模型應(yīng)該像一根如意金箍棒一樣，可大可小，這樣才能滿足不同應(yīng)用場景下的需要。

以最近大熱的長文本能力為例。為了解決大模型的應(yīng)用效率和準(zhǔn)確率問題，科大訊飛對訊飛星火V3.5進(jìn)行了重要的模型剪枝和蒸餾，從而推出了業(yè)界性能最優(yōu)的130億參數(shù)的大模型，在效果損失僅3%以內(nèi)的情況下，使得星火在文檔上傳解析處理、知識問答的首響時間以及文字生成方面都獲得了效率提升。

這種靈活性不僅體現(xiàn)在模型大小上。針對不同落地場景的復(fù)雜需求，科大訊飛在過去一年的落地實(shí)踐中形成了一套“云邊端”的整體解決方案，以云邊端聯(lián)動的方式加速推動大模型在各行業(yè)領(lǐng)域的落地。

簡單來說，就是指訊飛星火在云端、邊側(cè)以及端側(cè)等三種不同場景均實(shí)現(xiàn)落地部署，但在具體應(yīng)用中，三個環(huán)節(jié)同時還能互相打通，靈活運(yùn)用。

云端指的是科大訊飛“1+N”大模型戰(zhàn)略，即1個訊飛星火通用大模型底座和多個行業(yè)大模型。訊飛星火V3.5的數(shù)學(xué)、語言理解、語音交互能力已超過GPT-4 Turbo;長文本方面，訊飛星火的通用長文本能力總體已達(dá)到GPT-4 Turbo，且在多個垂直領(lǐng)域的知識問答任務(wù)上，星火大模型長文本總體水平已超過GPT-4 Turbo。

面向大模型應(yīng)用開發(fā)者，訊飛星火還提供一站式大模型應(yīng)用開發(fā)、調(diào)試和效果閉環(huán)優(yōu)化工具平臺，今年1月以來，訊飛星火開發(fā)者團(tuán)隊(duì)新增超55萬，平臺開發(fā)者數(shù)量已達(dá)超647萬。

邊側(cè)，科大訊飛聯(lián)合華為打造了訊飛星火一體機(jī)，可提供對話開發(fā)、任務(wù)編排、插件執(zhí)行、知識接入、提示工程等5種定制優(yōu)化模式，以及超過10種的即開即用的豐富場景包，同時還提供3種模型尺寸供用戶選擇，讓企業(yè)用戶可以更方便自助且安全可控地部署私有化大模型。

端側(cè)指的是訊飛星火在各個硬件產(chǎn)品上的落地，包括科大訊飛的自有硬件產(chǎn)品以及汽車、家電、運(yùn)營商等多個行業(yè)的落地。在端云協(xié)同的大模型框架下，用戶可靈活部署大模型能力，一些涉及敏感隱私、本地設(shè)備算力能滿完成的任務(wù)可全部在本地模型處理，但更復(fù)雜的任務(wù)則可以交由云端處理，以滿足不同場景應(yīng)用在用戶隱私、成本以及交互效率上的要求。

商業(yè)化落地元年，云邊端協(xié)同加速落地應(yīng)用

靈活的大模型應(yīng)用方案只是基礎(chǔ)，在大模型賦能千行百業(yè)的過程中，更底層的還是模型本身能力的優(yōu)劣。

數(shù)據(jù)、算力、算法是衡量大模型能力的三個關(guān)鍵要素。以數(shù)據(jù)為例，在特定行業(yè)場景中，訓(xùn)練數(shù)據(jù)集的豐富程度、語料庫的質(zhì)量高低直接影響大模型對行業(yè)的理解能力。訊飛星火此前推出多個行業(yè)大模型時，就采用與行業(yè)龍頭企業(yè)合作共建形式，在金融、汽車、運(yùn)營商、工業(yè)、住建等領(lǐng)域展開深入合作，力求真正理解、解決行業(yè)的需求與痛點(diǎn)。

在算力上，科大訊飛聯(lián)合華為推出了首個全國產(chǎn)算力的超大規(guī)模算力平臺“飛星一號”，訊飛星火V3.5是首個基于全國產(chǎn)算力訓(xùn)練的大模型產(chǎn)品。

這些因素共同奠定了訊飛星火V3.5國際領(lǐng)先的模型能力，結(jié)合科大訊飛的云邊端整體解決方案，訊飛星火在B端、C端落地應(yīng)用全面開花。

比如在通信領(lǐng)域，科大訊飛與運(yùn)營商合作研發(fā)了運(yùn)營商大模型，為運(yùn)營商提供一體化的智能通話解決方案。在此基礎(chǔ)上，他們還與中國移動聯(lián)合研發(fā)了5G新通話“商務(wù)速記”產(chǎn)品，幫助商務(wù)人士實(shí)現(xiàn)工作電話的方便轉(zhuǎn)寫和摘要。

端云協(xié)同的靈活布局，也讓大模型在汽車、家電等行業(yè)實(shí)現(xiàn)快速落地應(yīng)用。

在家電領(lǐng)域，接入訊飛星火大模型能力的家電行業(yè)也正煥發(fā)出新的活力。如科大訊飛和海爾共同打造的家電領(lǐng)域大模型，在智能控制、食譜定制、智能客服等領(lǐng)域率先落地大模型應(yīng)用場景，讓家電變得真正“更懂人心”。三星的電視語音助手同樣結(jié)合訊飛星火大模型能力，實(shí)現(xiàn)了AI智能問答和智能搜索。

在智能汽車領(lǐng)域，科大訊飛推出了全棧自研“訊飛星火+座艙”整體解決方案，目前已在奇瑞、廣汽、長城等眾多車企的多個車型中落地?？拼笥嶏w在語音、翻譯上的技術(shù)優(yōu)勢也延續(xù)到汽車領(lǐng)域，訊飛座艙支持23種不同語言，覆蓋多家車企的海外車型項(xiàng)目。中國汽車出海十強(qiáng)企業(yè)中，有8家車企都選擇與科大訊飛合作。

奇瑞汽車最新推出的高端智能SUV星紀(jì)元ET上，就搭載了科大訊飛與奇瑞聯(lián)合打造的 Lion AI 大模型和 Lion Melody 沉浸移動音樂廳。奇瑞控股集團(tuán)黨委書記、董事長尹同躍對媒體表示，“高度智能化是現(xiàn)在中國汽車在全球最鮮明的形象標(biāo)簽，也是攻占中國乃至全球市場的核心‘利器’之一。”

科大訊飛的自有硬件產(chǎn)品也在大模型的加持下實(shí)現(xiàn)顯著提升。搭載訊飛星火的訊飛智能辦公本、訊飛聽見、訊飛智能錄音筆以及訊飛AI學(xué)習(xí)機(jī)等銷量不斷攀升。科大訊飛發(fā)布的2023年年報中，消費(fèi)者硬件GMV同比增長84%，平臺消費(fèi)者業(yè)務(wù)已經(jīng)成為科大訊飛的第一大業(yè)務(wù)。

訊飛星火APP在C端市場同樣廣受歡迎。據(jù)七麥數(shù)據(jù)顯示，截至今年4月，訊飛星火APP在安卓端的下載量已經(jīng)超過9600萬次，在國內(nèi)工具類通用大模型APP中排名第一，用戶規(guī)模穩(wěn)居行業(yè)第一陣營。

民生證券發(fā)布的行業(yè)調(diào)研報告中稱，2024年或是AI應(yīng)用的真正元年，AI算力國產(chǎn)化、AI終端產(chǎn)品等方向?qū)⒃杏鲋匾獧C(jī)遇，人工智能開始從供給側(cè)正式進(jìn)入應(yīng)用側(cè)的拐點(diǎn)。

作為大模型商業(yè)化的元年，國產(chǎn)大模型正在以更快速的技術(shù)迭代與更靈活的落地應(yīng)用不斷推動生產(chǎn)力的變革。2024年，我們或許將會看到更多的智能化應(yīng)用出現(xiàn)在工作與生活之中，AI變革的序幕正緩緩拉開。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）