近日， Gartner發(fā)布了2023年《中國(guó)分析平臺(tái)市場(chǎng)指南》(Market Guide for Analytics Platforms, China, August 2023)。在這份市場(chǎng)指南中，星環(huán)科技憑借其智能分析工具Sophon Base入選代表廠商。值得一提的是，自Gartner2022年首次發(fā)布《中國(guó)分析平臺(tái)市場(chǎng)指南》以來(lái)，星環(huán)科技已經(jīng)作為代表廠商，連續(xù)兩年入選該份報(bào)告。

Gartner在指南中指出，“隨著中國(guó)對(duì)數(shù)字經(jīng)濟(jì)發(fā)展的重視，中國(guó)的分析平臺(tái)市場(chǎng)正受到前所未有的關(guān)注。”據(jù)Gartner預(yù)測(cè)，“2023年中國(guó)的分析平臺(tái)市場(chǎng)增長(zhǎng)率高達(dá)19%，到2026年將達(dá)到23%，總體增長(zhǎng)率和增幅在很大程度上超過(guò)全球平均水平和其他經(jīng)濟(jì)體。”而分析門戶、增強(qiáng)功能和大型語(yǔ)言模型(LLM)驅(qū)動(dòng)的生成式人工智能等技術(shù)，都將為整個(gè)市場(chǎng)帶來(lái)新的活力。根據(jù)Gartner報(bào)告數(shù)據(jù)顯示：“截至2024年，中國(guó)的供應(yīng)商預(yù)計(jì)將擁有中國(guó)79%的市場(chǎng)份額，這相當(dāng)于從非中國(guó)的供應(yīng)商轉(zhuǎn)移2200萬(wàn)美元到中國(guó)的供應(yīng)商。”我們不難推算得出，截至2024年中國(guó)分析和BI平臺(tái)的整體市場(chǎng)總量將超過(guò)2700萬(wàn)美元。

Sophon 3.2 “六易三倉(cāng)兩中心”架構(gòu)，實(shí)現(xiàn)新一代AI平民化

作為連續(xù)入選Gartner中國(guó)分析平臺(tái)市場(chǎng)指南的代表廠商，星環(huán)科技Sophon針對(duì)目前各行業(yè)用戶在落地廣泛業(yè)務(wù)需求分析、處理多重?cái)?shù)據(jù)模態(tài)對(duì)接、跟進(jìn)高度定制場(chǎng)景問(wèn)題解決、運(yùn)營(yíng)多源多框架AI模型等方面的問(wèn)題，發(fā)布了“六易三倉(cāng)兩中心”架構(gòu)的3.2版本，從高質(zhì)量的數(shù)據(jù)資產(chǎn)沉淀和模型持續(xù)運(yùn)營(yíng)出發(fā)，貫徹以數(shù)據(jù)和模型為中心，讓用戶能夠基于自身需求構(gòu)建緊密貼合其業(yè)務(wù)場(chǎng)景的新一代AI應(yīng)用。

Sophon v3.2架構(gòu)圖

“六易”：Sophon 3.2從用戶需求出發(fā)，對(duì)數(shù)據(jù)接入獲取、模型構(gòu)建訓(xùn)練、模型運(yùn)維管理、模型發(fā)布迭代等AI應(yīng)用全生命周期的流程做了打通和優(yōu)化，全面降低了AI使用門檻：

樣本“易”管理：提供可處理多模態(tài)數(shù)據(jù)的樣本倉(cāng)庫(kù)，支持?jǐn)?shù)據(jù)標(biāo)注和審核;

場(chǎng)景“易”開發(fā)：支持可視化、編程式、流程式建模服務(wù)以及內(nèi)置的圖計(jì)算、時(shí)序計(jì)算及ML算法庫(kù)，讓建模場(chǎng)景易搭建;

模型“易”獲得：提供模型倉(cāng)庫(kù)，統(tǒng)一納管多源模型，并進(jìn)行靜態(tài)評(píng)估;

模型“易”管理：提供模型運(yùn)營(yíng)及可解釋模塊，支持統(tǒng)一部署、監(jiān)控、評(píng)估，全面掌握模型運(yùn)行狀態(tài);

效果“易”迭代：提供可視化配置模型迭代Pipeline流程，實(shí)現(xiàn)持續(xù)訓(xùn)練、集成和部署。

系統(tǒng)“易”運(yùn)維：支持X64/ARM等架構(gòu)，GPU/NPU等加速硬件，多種操作系統(tǒng)和主流分布式機(jī)器學(xué)習(xí)計(jì)算框架、計(jì)算/存儲(chǔ)資源管理和統(tǒng)一調(diào)度，讓系統(tǒng)更加易用。

“三倉(cāng)”：圍繞數(shù)據(jù)開發(fā)全流程，Sophon 3.2以數(shù)據(jù)流視角分別建設(shè)“樣本倉(cāng)庫(kù)、模型倉(cāng)庫(kù)和應(yīng)用倉(cāng)庫(kù)”，實(shí)現(xiàn)全流程、多模態(tài)數(shù)據(jù)的統(tǒng)一納管。

樣本倉(cāng)庫(kù)：精細(xì)化的數(shù)據(jù)管理和高質(zhì)量的多模態(tài)數(shù)據(jù)輸出，推動(dòng)高質(zhì)量模型迭代;

模型倉(cāng)庫(kù)：統(tǒng)一管理多源模型，便于模型開發(fā)與應(yīng)用人員找到最適合業(yè)務(wù)場(chǎng)景的模型，組裝輸出高質(zhì)量模型服務(wù);

應(yīng)用倉(cāng)庫(kù)：內(nèi)置代碼生成、領(lǐng)域知識(shí)問(wèn)答、營(yíng)銷、風(fēng)控、圖譜風(fēng)險(xiǎn)探查、圖像檢索、內(nèi)容安全檢測(cè)等多種場(chǎng)景，以低代碼方式快速構(gòu)建符合業(yè)務(wù)需求的實(shí)際應(yīng)用。

Sophon應(yīng)用倉(cāng)庫(kù)場(chǎng)景模板

生成式AI，讓大數(shù)據(jù)分析更智能

為更好地激發(fā)AI模型資產(chǎn)價(jià)值，Sophon 3.2發(fā)布的Sophon LLMOps大語(yǔ)言模型運(yùn)營(yíng)平臺(tái)，提供大模型的微調(diào)及運(yùn)維工具鏈，可幫助企業(yè)用戶快速開發(fā)構(gòu)建領(lǐng)域大模型應(yīng)用。同時(shí)，使用Sophon LLMOps進(jìn)行指令開發(fā)和模型微調(diào)、對(duì)齊，星環(huán)科技開發(fā)出了最新的大數(shù)據(jù)分析大模型SoLar求索，可以基于自然語(yǔ)言進(jìn)行SQL、Python和Cypher的快速轉(zhuǎn)化，讓業(yè)務(wù)人員在不需要學(xué)習(xí)和掌握數(shù)據(jù)庫(kù)編程語(yǔ)言的前提下自由地按需查詢數(shù)據(jù)。

Sophon LLMOps架構(gòu)圖

大數(shù)據(jù)分析大模型SoLar求索的NL2SQL功能

在智能領(lǐng)域知識(shí)問(wèn)答系統(tǒng)的落地實(shí)踐中，Sophon LLMOps結(jié)合向量數(shù)據(jù)庫(kù)Hippo的解決方案，可以實(shí)現(xiàn)專業(yè)領(lǐng)域的智能問(wèn)答系統(tǒng)構(gòu)建，解決了傳統(tǒng)問(wèn)答系統(tǒng)中的行業(yè)屬性、知識(shí)分散和更新滯后等問(wèn)題，并且可以大大降低開發(fā)投入和運(yùn)維成本，讓企業(yè)獲取知識(shí)的過(guò)程變得更加簡(jiǎn)單高效、獲取的內(nèi)容變得精簡(jiǎn)可追溯、知識(shí)的更新變得更加即時(shí)。

星環(huán)大模型運(yùn)營(yíng)平臺(tái)Sophon LLMOps應(yīng)用鏈

案例：Sophon為大型金融機(jī)構(gòu)構(gòu)建模型運(yùn)營(yíng)管理平臺(tái)

某大型金融機(jī)構(gòu)希望將各業(yè)務(wù)部門開發(fā)的機(jī)器學(xué)習(xí)/深度學(xué)習(xí)模型和大模型，都作為企業(yè)的AI資產(chǎn)，進(jìn)行沉淀和集成管理，并且以天為單位進(jìn)行模型訓(xùn)練、更新及迭代，實(shí)現(xiàn)模型全生命周期的自動(dòng)化流程，包括CT/CI/CD。此外，需要官網(wǎng)的智能客服業(yè)務(wù)接入大模型應(yīng)用，以提升企業(yè)的智能化運(yùn)營(yíng)能力。

針對(duì)該金融機(jī)構(gòu)的AI資產(chǎn)沉淀、自動(dòng)化流程及LLM應(yīng)用等需求，Sophon結(jié)合“三倉(cāng)”和最新發(fā)布的LLMOps，為其搭建了企業(yè)級(jí)的模型統(tǒng)一運(yùn)營(yíng)管理平臺(tái)，實(shí)現(xiàn)了金融機(jī)構(gòu)的AI資產(chǎn)集成管理及對(duì)外發(fā)布、細(xì)粒度的資源隔離和權(quán)限管控、穩(wěn)健快速的模型自動(dòng)化服務(wù)流程及大模型的私有化部署和推理加速。項(xiàng)目成果如下：

1、AI資產(chǎn)管理：統(tǒng)一接入多個(gè)部門數(shù)十個(gè)業(yè)務(wù)場(chǎng)景的模型應(yīng)用，同時(shí)對(duì)外提供API服務(wù);

2、資源隔離和權(quán)限管控：通過(guò)集群資源劃分及GPU分組等功能，實(shí)現(xiàn)了訓(xùn)練、推理資源的隔離，確保各部門之間的數(shù)據(jù)和計(jì)算資源互不干擾。另一方面，通過(guò)細(xì)粒度的權(quán)限控制，確保只有授權(quán)人員能夠訪問(wèn)相關(guān)資源;

3、減少80%的人工操作：支持使用回流數(shù)據(jù)持續(xù)迭代模型，然后作為新增版本集成至模型倉(cāng)庫(kù)，最終自動(dòng)部署為模型服務(wù)，實(shí)現(xiàn)全流程自動(dòng)更新;大幅縮短模型開發(fā)與迭代的時(shí)間，并確保在高頻迭代中模型服務(wù)的穩(wěn)定性和性能;

4、大模型能力：支持20+開源及非開源的大模型私有化部署，支持多種推理模型(streaming/非streaming)，支持多種推理加速框架(Triton)。

在數(shù)字經(jīng)濟(jì)時(shí)代，星環(huán)科技將始終致力于大數(shù)據(jù)、人工智能領(lǐng)域的產(chǎn)品研發(fā)和技術(shù)創(chuàng)新，通過(guò)前沿的大數(shù)據(jù)分析技術(shù)助力數(shù)據(jù)要素價(jià)值的迸發(fā)，為企業(yè)構(gòu)建智能化應(yīng)用和數(shù)字化轉(zhuǎn)型持續(xù)提供堅(jiān)實(shí)的技術(shù)支持。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）