近期，領(lǐng)先的客戶互動(dòng)和營(yíng)銷(xiāo)科技服務(wù)商極光宣布推出GPTBots平臺(tái)，該平臺(tái)支持一鍵接入多個(gè)主流大模型，同時(shí)支持開(kāi)發(fā)者將LLM(大語(yǔ)言模型)與企業(yè)數(shù)據(jù)、服務(wù)能力無(wú)縫連接，建構(gòu)企業(yè)自己的AI Bot服務(wù)，并開(kāi)放注冊(cè)。

“人工智能是未來(lái)10年最大的生產(chǎn)力變革機(jī)會(huì)，每一個(gè)企業(yè)都要擁抱它，未來(lái)能不能用好AI，是一個(gè)非常核心的競(jìng)爭(zhēng)力。”

極光CEO羅偉東認(rèn)為，生成式AI正迎來(lái)爆炸式增長(zhǎng)，其應(yīng)用領(lǐng)域涉及Microsoft、微軟、Salesforce、Meta以及Adobe等知名企業(yè)。這為企業(yè)帶來(lái)了巨大的發(fā)展機(jī)遇，但同時(shí)也存在認(rèn)知與技術(shù)鴻溝。

在他看來(lái)，許多企業(yè)使用GPT等技術(shù)時(shí)，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識(shí)。這導(dǎo)致了巨大的機(jī)會(huì)和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務(wù)流程中，以提高效率并創(chuàng)造新機(jī)會(huì)。

當(dāng)前，國(guó)內(nèi)大模型正蓬勃發(fā)展，無(wú)論是百度、阿里、字節(jié)等大廠都推出了自己的大模型。但在應(yīng)用方面，生成式AI還存在幻覺(jué)問(wèn)題，許多通用大語(yǔ)言模型缺乏垂域知識(shí)，導(dǎo)致無(wú)法解決復(fù)雜任務(wù)。

對(duì)于企業(yè)而言，應(yīng)用AI模型涉及合規(guī)、數(shù)據(jù)、算力、工程和算法等多個(gè)環(huán)節(jié)，任一環(huán)節(jié)出現(xiàn)質(zhì)量問(wèn)題都會(huì)影響到應(yīng)用場(chǎng)景的實(shí)施。

舉例來(lái)說(shuō)，在醫(yī)療問(wèn)答場(chǎng)景中，通常需要涉及患者的敏感個(gè)人信息，如醫(yī)?？ㄙ~號(hào)、病歷記錄和藥物使用情況。如果AI應(yīng)用系統(tǒng)出現(xiàn)數(shù)據(jù)調(diào)用錯(cuò)誤，可能會(huì)對(duì)后續(xù)的診斷產(chǎn)生不良影響。在這種情況下，專(zhuān)門(mén)設(shè)計(jì)用于醫(yī)療場(chǎng)景的AI模型可以起到關(guān)鍵作用，它能夠標(biāo)記潛在的隱私或關(guān)鍵病歷信息，并提醒后臺(tái)醫(yī)生或客服人員進(jìn)行審核，這種功能將降低問(wèn)診的成本，同時(shí)減少了潛在風(fēng)險(xiǎn)。

在羅偉東看來(lái)，這些問(wèn)題可以通過(guò)創(chuàng)建自定義的AI BOT(或AI Agent)

來(lái)解決，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領(lǐng)域知識(shí)，并通過(guò)API集成到流程業(yè)務(wù)中。這種方法不僅適用于大型企業(yè)，即使沒(méi)有大量研發(fā)資源的小型公司也可以輕松應(yīng)用。企業(yè)應(yīng)積極探索如何利用這些技術(shù)，無(wú)論是否擁有大量數(shù)據(jù)。

他表示，正是看到了企業(yè)的需求，極光基于多年開(kāi)發(fā)者服務(wù)積累，推出了GPTBots開(kāi)發(fā)平臺(tái)。極光GPTBots平臺(tái)上，開(kāi)發(fā)者只需要具備生成式AI和相關(guān)領(lǐng)域知識(shí)，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務(wù)，其中包括開(kāi)箱即用的LLMs、Plugins、長(zhǎng)/短期記憶、知識(shí)庫(kù)和flow等功能，幫助企業(yè)量身定制AI Bot應(yīng)用。

未來(lái)，生成式AI將成為企業(yè)提升效率和節(jié)省成本的工具。不過(guò)，羅偉東認(rèn)為，在最大程度地利用生成式人工智能，企業(yè)間并非是縮小差距，反而會(huì)因?yàn)锳I應(yīng)用的落地拉大差距。

每一個(gè)革命性技術(shù)的誕生到落地應(yīng)用，都需要一定的接受時(shí)間，同時(shí)也面臨用戶的隱私和數(shù)據(jù)安全，其次是算法的優(yōu)化和模型的迭代。對(duì)于企業(yè)而言，需要深入研究如何最大程度將生成式AI技術(shù)與自身業(yè)務(wù)相結(jié)合，才避免被時(shí)代淘汰。

以下是采訪實(shí)錄(原文基礎(chǔ)上有刪改)：

Q：ChatGPT爆紅之后，許多企業(yè)高層都會(huì)有很大的焦慮感。您的感受是什么?

極光CEO羅偉東：我認(rèn)為將其比作iPhone時(shí)刻一點(diǎn)也不夸張，我是連續(xù)創(chuàng)業(yè)者，我清晰地記得當(dāng)年iPhone問(wèn)世的那一刻，這兩個(gè)感受非常相似。不過(guò)，我也相信它還需要時(shí)間來(lái)實(shí)現(xiàn)各種應(yīng)用的成熟，就像iPhone問(wèn)世后，一年以后才出現(xiàn)應(yīng)用市場(chǎng)，應(yīng)用生態(tài)也是2、3年后才逐漸起來(lái)。

Q：極光發(fā)布了GPTBots，您是看到了什么機(jī)會(huì)?

極光CEO羅偉東：許多企業(yè)使用GPT等技術(shù)時(shí)，往往僅限于生成文章或圖像，而未能充分利用其內(nèi)部數(shù)據(jù)和知識(shí)。這導(dǎo)致了巨大的機(jī)會(huì)和潛在的利益損失。企業(yè)需要將GPT等技術(shù)整合到其業(yè)務(wù)流程中，以提高效率并創(chuàng)造新機(jī)會(huì)。這可以通過(guò)創(chuàng)建自定義的AI BOT來(lái)實(shí)現(xiàn)，結(jié)合企業(yè)內(nèi)部數(shù)據(jù)和領(lǐng)域知識(shí)，并通過(guò)API集成到流程業(yè)務(wù)中。

這種方法不僅適用于大型企業(yè)，即使沒(méi)有大量研發(fā)資源的小型公司也可以輕松應(yīng)用。企業(yè)應(yīng)積極探索如何利用這些技術(shù)，無(wú)論是否擁有大量數(shù)據(jù)?；谄髽I(yè)這樣的困擾，我們推出了GPTBots開(kāi)發(fā)平臺(tái)。

Q：可以詳細(xì)說(shuō)下 GPTBots 的插件功能嗎?

極光CEO羅偉東：首先，我們要了解什么是LLMs的插件：LLMs插件區(qū)別于傳統(tǒng)插件，它獨(dú)立、靈活、自由、功能強(qiáng)大，大語(yǔ)言模型插件的核心是Web API，因此大語(yǔ)言模型插件完全擁抱互聯(lián)網(wǎng)，同時(shí)，沒(méi)有開(kāi)發(fā)語(yǔ)言“歧視”，無(wú)論開(kāi)發(fā)者的語(yǔ)言棧是Python、Java、Go、PHP等，只要可以開(kāi)發(fā)HTTP協(xié)議接口，遵循RESTful規(guī)則，就可以構(gòu)建大語(yǔ)言模型插件。GPTBots插件融合了ChatGPT插件創(chuàng)建規(guī)范(通用的OpenAPI規(guī)范)和函數(shù)調(diào)用功能，讓開(kāi)發(fā)者只需專(zhuān)注于自身功能接口開(kāi)發(fā)，同時(shí)GPTBots也會(huì)自動(dòng)兼容市面上主流已支持插件能力的 LLM。

舉個(gè)例子，考慮一個(gè)郵件服務(wù)的情況，如果有客戶想要從新加坡寄一封信到美國(guó)，他們可能會(huì)詢問(wèn)該服務(wù)的費(fèi)用。這個(gè)價(jià)格可能是不斷變化的，存儲(chǔ)在結(jié)構(gòu)化的數(shù)據(jù)庫(kù)中在這種情況下，我們可以提供一個(gè)價(jià)格查詢插件，通過(guò)它可以調(diào)用并獲取這個(gè)動(dòng)態(tài)數(shù)據(jù)。

開(kāi)發(fā)者可以根據(jù)需求創(chuàng)建插件自定義，通常用于處理企業(yè)內(nèi)部的結(jié)構(gòu)化數(shù)據(jù)服務(wù)。例如，企業(yè)的 HR 部門(mén)可以開(kāi)發(fā)一個(gè)插件，用于查詢員工的假期余額。

Q：企業(yè)目前要應(yīng)用大模型存在哪些問(wèn)題? GPTBots是如何幫助企業(yè)解決這些問(wèn)題的?

極光CEO羅偉東：企業(yè)要開(kāi)發(fā)一個(gè)AI Bot，開(kāi)發(fā)者需要具備一定的技術(shù)技巧和相關(guān)領(lǐng)域知識(shí)。從學(xué)術(shù)理論到商業(yè)產(chǎn)品，涉及到機(jī)器學(xué)習(xí)工具、編程語(yǔ)言、框架、前后端工程師、運(yùn)維工程師等多個(gè)方面的專(zhuān)業(yè)知識(shí)。這對(duì)于企業(yè)來(lái)說(shuō)是一個(gè)挑戰(zhàn)。

我們的平臺(tái)上，開(kāi)發(fā)者只需要具備生成式AI和相關(guān)領(lǐng)域知識(shí)，就可以構(gòu)建自己的AI Bot，并將其接入企業(yè)服務(wù)。我們提供了簡(jiǎn)單、高效和安全的LLMOps平臺(tái)，其中包括開(kāi)箱即用的LLMs、Plugins、長(zhǎng)/短期記憶、知識(shí)庫(kù)和flow等功能，幫助開(kāi)發(fā)者為其業(yè)務(wù)量身定制AI Bot應(yīng)用。

Q：如何看待開(kāi)源跟閉源大模型的關(guān)系?GPTBots 是否都會(huì)支持?

極光CEO羅偉東：開(kāi)源在AI領(lǐng)域的發(fā)展確實(shí)非常強(qiáng)大，而且開(kāi)源社區(qū)在不斷創(chuàng)新和迭代，迎頭趕上了一些領(lǐng)先的原生技術(shù)。未來(lái)，開(kāi)源很可能成為主流，原因在于它滿足了不同規(guī)模的企業(yè)和需求。

對(duì)于中小型企業(yè)，他們可以使用OpenAI、百度或阿里的云端服務(wù)，在滿足其需求的同時(shí)還降低了技術(shù)關(guān)稅。而對(duì)于大型企業(yè)和政府部門(mén)，他們可能更傾向于使用私有化部署開(kāi)源模型以確保數(shù)據(jù)隱私和安全。所以，GPTBots也提供了支持和開(kāi)源模型結(jié)合的私有化部署的解決方案，可以滿足不同規(guī)模和性質(zhì)客戶的需求。

Q：大型企業(yè)普遍擔(dān)心的數(shù)據(jù)安全性問(wèn)題，我們有什么辦法?

極光CEO羅偉東：對(duì)于企業(yè)擔(dān)心的安全問(wèn)題，我們提供了一些解決方案。如果企業(yè)使用公有的模型，他們可以采取一些措施來(lái)保證數(shù)據(jù)的安全性，例如在傳輸時(shí)提取用戶的敏感信息。如果用戶在醫(yī)療問(wèn)答中詢問(wèn)有關(guān)個(gè)人身體癥狀的問(wèn)題，企業(yè)可以對(duì)其中的敏感信息進(jìn)行脫敏處理，如姓名和醫(yī)療卡號(hào)，再將脫敏后的數(shù)據(jù)提交給GPT模型。然后，GPT返回答案，并將答案中的敏感信息進(jìn)行替換，以保護(hù)用戶的隱私。

另一個(gè)解決方案是在企業(yè)內(nèi)部進(jìn)行數(shù)據(jù)過(guò)濾，以確保敏感信息不被提交給模型。企業(yè)需要自行處理這一過(guò)程來(lái)規(guī)避風(fēng)險(xiǎn)。企業(yè)還可以選擇本地化部署開(kāi)源模型，但這樣需要更高的成本，包括硬件和GPU。

Q：GPTBots的盈利模式是什么樣的?

極光CEO羅偉東：對(duì)于公用版本，我們采用包年訂閱的方式，并根據(jù)使用量和功能進(jìn)行不同的定價(jià)。我們提供了標(biāo)準(zhǔn)的SAAS模式，這是我們之前一直在使用的模式。如果企業(yè)選擇本地化部署，我們提供私有化版本的定價(jià)以及相關(guān)的服務(wù)。私有化版本的價(jià)格通常會(huì)包括硬件和服務(wù)成本。

Q：您最后還有什么想分享的嗎?

極光CEO羅偉東：人工智能是未來(lái)10年最大的生產(chǎn)力變革機(jī)會(huì)，每一個(gè)企業(yè)都要擁抱它，未來(lái)能不能用好AI，是一個(gè)非常核心的競(jìng)爭(zhēng)力。而AI-BOT開(kāi)發(fā)平臺(tái)的出現(xiàn)，不僅為企業(yè)提供了應(yīng)用實(shí)踐的機(jī)會(huì)，也為整個(gè)AI行業(yè)的發(fā)展帶來(lái)了新的動(dòng)力。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）