精品国产亚洲一区二区三区|亚洲国产精彩中文乱码AV|久久久久亚洲AV综合波多野结衣|漂亮少妇各种调教玩弄在线

<blockquote id="ixlwe"><option id="ixlwe"></option></blockquote>
  • <span id="ixlwe"></span>

  • <abbr id="ixlwe"></abbr>

    大模型落地,模型只是一部分

    4月8日消息,大模型掀起的AI熱潮已經(jīng)涌動(dòng)了一年多,在國(guó)內(nèi),2024年被認(rèn)為是大模型落地元年。

    “絕大部分客戶在看到大模型的驚艷表現(xiàn)時(shí),下一個(gè)問題就是:如何將大模型與我的業(yè)務(wù)相結(jié)合?”亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建在談及生成式AI落地時(shí)提道。

    “大模型如何有效落地應(yīng)用”已經(jīng)成為行業(yè)關(guān)注的重中之重。

    一方面,AGI擁躉者堅(jiān)守著一個(gè)超強(qiáng)模型解決所有的理想,另一方面,更多企業(yè)已經(jīng)務(wù)實(shí)的開始“具體問題具體分析”的將大模型應(yīng)用到細(xì)分業(yè)務(wù)場(chǎng)景中。

    在大模型落地應(yīng)用這條路上,亞馬遜云科技認(rèn)為“沒有一個(gè)模型能夠適用于所有場(chǎng)景”,而且,“大模型落地應(yīng)用,模型本身只是應(yīng)用落地的一部分”。

    近日,亞馬遜云科技的中國(guó)技術(shù)專家也分享了大模型落地的實(shí)踐經(jīng)驗(yàn)和思考。一起來看看這這家行業(yè)巨頭在生成式AI技術(shù)落地應(yīng)用方面的探索。

    沒有一個(gè)模型能夠適用于所有場(chǎng)景

    “亞馬遜云科技與眾多客戶的合作體會(huì)中發(fā)現(xiàn),雖然大模型的能力非常強(qiáng),但是每個(gè)企業(yè)的場(chǎng)景千變?nèi)f化,對(duì)大模型的使用必須經(jīng)歷定制化調(diào)優(yōu)和與自身數(shù)據(jù)結(jié)合的過程。如果簡(jiǎn)單地將大模型拿來原封不動(dòng)地使用,很可能未必達(dá)到最好的效果?!瓣悤越ū硎尽?/p>

    因而,陳曉建稱:”我們建議采用循序漸進(jìn)、從簡(jiǎn)單到復(fù)雜的思路,最初選擇一個(gè)容易落地且滿足業(yè)務(wù)要求的場(chǎng)景。這個(gè)場(chǎng)景從最初的簡(jiǎn)單到復(fù)雜,逐漸了解模型的能力,然后再進(jìn)行下一步,這樣會(huì)取得更好的效果?!?/p>

    我們一直強(qiáng)調(diào),沒有一個(gè)模型能夠適用于所有場(chǎng)景。從實(shí)際的例子來看,不同模型擅長(zhǎng)的場(chǎng)景和能力實(shí)際上各不相同,所以企業(yè)需要為自己的場(chǎng)景選擇適合的模型。

    據(jù)介紹,目前Amazon Bedrock上提供多種應(yīng)對(duì)不同場(chǎng)景的模型能力,包括文生圖模型Stable Diffusion、Meta的Llama模型、亞馬遜自研的Amazon Titan模型、Mistral 7B模型以及Anthropic最新發(fā)布的Claude 3的三款模型——具有幾乎即時(shí)響應(yīng)能力且最緊湊的 Claude 3 Haiku;在技能與速度之間達(dá)到理想平衡的 Claude 3 Sonnet;以及為處理高度復(fù)雜任務(wù)設(shè)計(jì)的最智能模型 Claude 3 Opus等等。

    “它們的能力、性能和價(jià)格都有所不同??蛻艨梢愿鶕?jù)需要選擇最適合自己業(yè)務(wù)需求的模型平臺(tái)?!标悤越◤?qiáng)調(diào)。

    另外,陳曉建還提到一類客戶:有些客戶希望生成自己的模型。

    “有客戶使用亞馬遜云科技的底層云資源和算力去做自研模型,而有些客戶則選擇在Amazon Bedrock上使用已經(jīng)訓(xùn)練好了的模型結(jié)合客戶的私有數(shù)據(jù)進(jìn)行定制化調(diào)整,進(jìn)行模型微調(diào)或預(yù)訓(xùn)練?!?/p>

    談及大模型應(yīng)用落地,陳曉建再次強(qiáng)調(diào):“對(duì)于客戶而言,充分了解業(yè)務(wù)后選擇合適的切入點(diǎn)和模型工具至關(guān)重要。”

    模型,只是應(yīng)用的一部分

    亞馬遜云科技大中華區(qū)數(shù)據(jù)分析與生成式AI產(chǎn)品總監(jiān)崔瑋則進(jìn)一步認(rèn)為:“模型僅是客戶企業(yè)應(yīng)用的一部分,大模型應(yīng)用落地必然需要許多組件來實(shí)現(xiàn)?!?/p>

    例如,Amazon Bedrock的Knowledge Bases知識(shí)庫(kù)功能,客戶在做企業(yè)知識(shí)庫(kù)時(shí),模型可能僅是服務(wù)的一部分,還需要利用本地私有數(shù)據(jù)。

    “這也是Claude 3等大模型如此強(qiáng)大,為什么亞馬遜云科技在服務(wù)客戶落地大模型應(yīng)用時(shí)還要加Amazon Bedrock這一層的原因”,陳曉建闡釋道:

    大模型在企業(yè)落地應(yīng)用這中間有兩個(gè)重要因素,即模型能力和真正的運(yùn)營(yíng)生產(chǎn)之間,需要增加很多輔助能力。

    Amazon Bedrock提供一系列除了大模型以外的能力。首先是Provisioned Throughput(預(yù)置吞吐量)。第二點(diǎn),就是模型微調(diào)(fine-tunning)能力。還有類似Guardrails的能力,能夠全面監(jiān)管大模型使用情況,通過適當(dāng)?shù)呐渲脕斫档突糜X現(xiàn)象的產(chǎn)生,同時(shí)提供全方位日志。

    要使用大模型,必須有一定的生產(chǎn)結(jié)合。生產(chǎn)結(jié)合意味著需要擁有大量的業(yè)務(wù)數(shù)據(jù),需要去與大模型打通。

    在這個(gè)過程中,客戶可以自己做一個(gè) RAG(Retrieval-Augmented Generation檢索增強(qiáng)生成) ,需要將客戶自己的知識(shí)庫(kù)與大模型做結(jié)合。目前,業(yè)界通常使用向量數(shù)據(jù)庫(kù)等方式,將客戶的知識(shí)庫(kù)通過向量的方式存儲(chǔ)起來。亞馬遜云科技也提供了豐富的向量數(shù)據(jù)庫(kù)選擇。

    大模型非常重要,非常核心,然而僅靠大模型對(duì)企業(yè)客戶的生產(chǎn)是遠(yuǎn)遠(yuǎn)不夠的。企業(yè)需要一系列周邊能力幫助實(shí)現(xiàn)正確、合理、安全、高效地使用大模型。這就是亞馬遜云科技一系列產(chǎn)品所提供的價(jià)值所在。

    事實(shí)上,在去年年底的亞馬遜云科技re:Invent大會(huì)上,亞馬遜云科技在生成式AI領(lǐng)域的三層架構(gòu)已經(jīng)正式亮相。

    這三層包括:最底層,亞馬遜云科技為客戶提供基礎(chǔ)算力,包括Nvidia最新推出的G200芯片、自研芯片Amazon Trainium 和 Amazon Inferentia等。

    中間層,也就是隨著生成式AI出來的一些全新的產(chǎn)品,例如Amazon Bedrock,通過一個(gè)模型平臺(tái)支持多種技術(shù)大模型。

    上層與大模型應(yīng)用結(jié)合,例如推出的Amazon Q,并與BI應(yīng)用Amazon QuickSight、智能客服的產(chǎn)品Amazon Connect、編程平臺(tái)Amazon CodeWhisperer等有效結(jié)合,支持不同客戶的業(yè)務(wù)需求。

    通過這三層,亞馬遜云科技希望給不同的客戶需求提供不同層級(jí)的產(chǎn)品來支持客戶的業(yè)務(wù)。

    陳曉建最后也強(qiáng)調(diào):“即使有最完善的數(shù)據(jù)基礎(chǔ)、可以選擇最好的工具,但是每個(gè)客戶的場(chǎng)景依然是千變?nèi)f化的。為了能將最新的云的生產(chǎn)力與業(yè)務(wù)相結(jié)合,企業(yè)需要專業(yè)的團(tuán)隊(duì)來做業(yè)務(wù)支持。在生成式AI時(shí)代,我們依然會(huì)通過專業(yè)團(tuán)隊(duì)為各行業(yè)用戶的生成式AI應(yīng)用保駕護(hù)航。”

    極客網(wǎng)企業(yè)會(huì)員

    免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。

    2024-04-08
    大模型落地,模型只是一部分
    4月8日消息,大模型掀起的AI熱潮已經(jīng)涌動(dòng)了一年多,在國(guó)內(nèi),2024年被認(rèn)為是大模型落地元年?!敖^大部分客戶在看到大模型的驚艷表現(xiàn)時(shí),下一個(gè)問題就是:如何將大模型與我的業(yè)務(wù)相結(jié)合?”亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建在

    長(zhǎng)按掃碼 閱讀全文