7月17日消息，剛剛結(jié)束的亞馬遜云科技紐約峰會，生成式AI仍然是重點(diǎn)。在會上，亞馬遜云科技圍繞其生成式AI三層架構(gòu)中的中間層Amazon Bedrock和應(yīng)用層Amazon Q生成式AI助手推出了多項(xiàng)新功能和新服務(wù)。
亞馬遜云科技生成式AI三層架構(gòu)
以Transformer架構(gòu)為基礎(chǔ)的大模型“天生”就存在一些弱點(diǎn)，比如幻覺現(xiàn)象、專業(yè)知識不夠、缺乏長期記憶力等等。以大模型為基礎(chǔ)打造的生成式AI應(yīng)用自然天生也會“遺傳上”這些問題。
Amazon Bedrock提供了利用LLM和其他基礎(chǔ)模型輕松快速地構(gòu)建、部署和擴(kuò)展生成性AI應(yīng)用程序的工具。
這次大會上，亞馬遜云科技針對中間層Amazon Bedrock的功能和服務(wù)上新，重點(diǎn)解決基礎(chǔ)大模型專業(yè)知識不夠、幻覺、缺乏長期記憶等問題。
1、解決數(shù)據(jù)不夠“?！焙汀皬V”的問題
目前，行業(yè)內(nèi)通常會使用外掛數(shù)據(jù)庫檢索增強(qiáng)生成（RAG）來幫助基礎(chǔ)模型提供更相關(guān)、準(zhǔn)確和定制的響應(yīng)。
Amazon Bedrock的知識庫功能備受關(guān)注，它可以讓模型讀懂用戶專屬的內(nèi)容以擴(kuò)充模型的知識面，從而提升生成結(jié)果的關(guān)聯(lián)性和準(zhǔn)確性。
Amazon Bedrock這次更新擴(kuò)大了數(shù)據(jù)連據(jù)器范圍，除了Amazon S3之外，用戶現(xiàn)在還可以將第三方Web域數(shù)據(jù)源、Confluence、Salesforce和SharePoint作為數(shù)據(jù)源接入到Amazon Bedrock當(dāng)中。
比如，很多用戶在Web域中存儲日常使用的數(shù)據(jù)，這項(xiàng)更新使得這些用戶能夠更方便地將生成式AI帶入到其日常應(yīng)用場景當(dāng)中。
2、解決一本正經(jīng)的胡說八道的幻覺問題
生成式AI應(yīng)用生成的結(jié)果有時(shí)會出現(xiàn)幻覺現(xiàn)象，為了解決這個(gè)為題，這次Amazon Bedrock在其Guardrails（護(hù)欄）中推出了基于上下文基礎(chǔ)檢查、情境基礎(chǔ)檢查的幻覺檢測功能。
事實(shí)上，Amazon Bedrock的Guardrails首次在re:Invent 2023預(yù)覽版中發(fā)布，支持內(nèi)容過濾和拒絕主題等政策。在2024年4月正式發(fā)布時(shí)，Guardrails支持四種保護(hù)措施：拒絕主題、內(nèi)容過濾器、敏感信息過濾器和文字過濾器。
這一次，Amazon Bedrock宣布推出另外兩項(xiàng)功能：
一是，基于上下文基礎(chǔ)檢查的幻覺檢測功能，
二是，Amazon Bedrock的Guardrails支持新的ApplyGuardrail API，Apply Guardrail API可評估所有基礎(chǔ)模型（包括Amazon Bedrock上的大模型、自定義和第三方大模型）的輸入提示和模型響應(yīng)，從而實(shí)現(xiàn)對所有生成人工智能應(yīng)用程序的集中管理。
基于上下文基礎(chǔ)檢查的幻覺檢測功能是一種檢測幻覺的新策略類型，是在之前推出的四種檢測保護(hù)措施后的第五種保障措施。可以在不基于企業(yè)數(shù)據(jù)或與用戶查詢無關(guān)的模型響應(yīng)中檢測幻覺。這可用于提高RAG、摘要或信息提取等用例中的響應(yīng)質(zhì)量。
基于上下文基礎(chǔ)檢查的幻覺檢測功能有兩個(gè)過濾參數(shù)（Grounding和Relevance）：
設(shè)定閾值
用戶現(xiàn)在可以在Amazon Bedrock的Guardrails中設(shè)置針對生成結(jié)果準(zhǔn)確性的關(guān)聯(lián)值，低于這一設(shè)定閾值的生成結(jié)果就會被Guardrails判定為不相關(guān)的幻覺結(jié)果并不予顯示。這項(xiàng)功能是通過對上下文的基礎(chǔ)性檢查來提供的，以更好的避免基礎(chǔ)模型產(chǎn)生的幻覺問題。
例如，用戶可以使用Amazon Bedrock知識庫的上下文基礎(chǔ)檢查，通過過濾不基于企業(yè)數(shù)據(jù)的不準(zhǔn)確響應(yīng)來部署值得信賴的RAG應(yīng)用程序。從企業(yè)數(shù)據(jù)源檢索到的結(jié)果被上下文基礎(chǔ)檢查策略用作參考源，以驗(yàn)證模型響應(yīng)。
3、解決記不住的問題
針對生成式AI記不住的問題，Amazon Bedrock的代理（Agent）功能推出了 跨多個(gè)交互的記憶保留特性，基于該功能構(gòu)建的代理（現(xiàn)在也被稱為智能體），能夠隨時(shí)間推移學(xué)習(xí)并適應(yīng)每個(gè)用戶的獨(dú)特需求和偏好，同時(shí)多個(gè)記憶之間完全分離，每個(gè)用戶的對話歷史和上下文都會安全地存儲在唯一的記憶ID之下。這項(xiàng)功能將有助于提升預(yù)訂航班或是處理客戶反饋等復(fù)雜任務(wù)代理下的用戶體驗(yàn)。
用戶可設(shè)置1-30天的內(nèi)存持續(xù)時(shí)間，超過此期間的所有會話摘要都將被刪除。
例如，企業(yè)用于處理客戶反饋的智能體現(xiàn)在可以知道與同一客戶之前和正在進(jìn)行的交互。每個(gè)用戶的對話歷史和上下文都安全地存儲在唯一的內(nèi)存標(biāo)識符（ID）下，確保用戶之間的完全分離。通過記憶保留，可以更容易地構(gòu)建提供無縫、自適應(yīng)和個(gè)性化體驗(yàn)的智能體。
此外，Amazon Bedrock還推出了代碼解釋支持功能，它允許Agent代理在安全的沙箱環(huán)境中動(dòng)態(tài)生成和運(yùn)行代碼片段，從而顯著提升其處理復(fù)雜任務(wù)的能力，包括數(shù)據(jù)分析、可視化、文本處理、方程求解和優(yōu)化問題等，并支持多種數(shù)據(jù)類型和格式，同時(shí)在需要時(shí)由大型語言模型（LLM）決定是否調(diào)用該功能，以確保靈活性和安全性。
同時(shí)，在應(yīng)用層，Amazon Q也有多項(xiàng)新服務(wù)。
Amazon Q Apps現(xiàn)已正式可用。這是Amazon Q Business中的一項(xiàng)功能，借助這項(xiàng)新功能，用戶可以通過自然語言對話的方式，構(gòu)建基于企業(yè)數(shù)據(jù)的生成式AI應(yīng)用，并安全地將其發(fā)布到企業(yè)內(nèi)部的應(yīng)用程序庫Amazon Q Apps Library中，并添加多個(gè)應(yīng)用類型標(biāo)簽，從讓企業(yè)內(nèi)的使用者方便地進(jìn)行檢索，以查找其所需的Q Apps應(yīng)用。
另外，此次更新中，亞馬遜云科技將 Amazon Q Developer擴(kuò)展到Amazon SageMaker Studio中，以簡化并加速機(jī)器學(xué)習(xí)的工作流程。機(jī)器學(xué)習(xí)模型開發(fā)過程很復(fù)雜，數(shù)據(jù)科學(xué)家花費(fèi)太多時(shí)間尋找合適的工具、文檔或方法，這項(xiàng)服務(wù)將為數(shù)據(jù)科學(xué)家節(jié)省數(shù)周甚至數(shù)月的工作時(shí)間。該功能提供基于自然語言的交互，并通過推薦每個(gè)任務(wù)的最佳工具、提供分步指導(dǎo)、生成入門代碼以及在遇到錯(cuò)誤時(shí)提供故障排除幫助，以及為開發(fā)者量身定制針對機(jī)器學(xué)習(xí)開發(fā)生命周期的詳細(xì)執(zhí)行計(jì)劃。值得一提的是，這項(xiàng)更新將在所有提供Amazon SageMaker的區(qū)域中提供。
Amazon Q Developer現(xiàn)在還 擴(kuò)展至在用戶自己的集成開發(fā)環(huán)境IDE中，并提供自定義功能，以在用戶的IDE代碼編輯器和聊天中提供基于開發(fā)者私有代碼庫生成的代碼建議，這使得開發(fā)者能夠更好地打造其專屬的代碼助手。
另外，在這次紐約峰會上，亞馬遜云科技宣布了全球第二批獲得生成式AI能力認(rèn)證的合作伙伴，其中有11家來自中國的合作伙伴，包括伊克羅德、柯基數(shù)據(jù)、八斗智能、墨奇科技、神州數(shù)碼、聚云科技、神州泰岳、靈奧科技、Zilliz、跨?？萍己腿A訊網(wǎng)絡(luò)。
今年3月，亞馬遜云科技在全球推出業(yè)內(nèi)首個(gè)生成式AI能力認(rèn)證，旨在驗(yàn)證、認(rèn)可在利用亞馬遜云科技生成式AI技術(shù)方面擁有專業(yè)知識、實(shí)踐經(jīng)驗(yàn)和成功案例的合作伙伴。
截止目前，全球已有60余家合作伙伴獲得了該認(rèn)證。
亞馬遜云科技生成式AI與機(jī)器學(xué)習(xí)市場推廣全球副總裁Rahul Pathak表示，“我們非常興奮迎來新一批獲得亞馬遜云科技生成式AI能力認(rèn)證的合作伙伴。自該能力認(rèn)證推出以來，這些合作伙伴已經(jīng)在全球范圍內(nèi)幫助客戶構(gòu)建和部署了許多生成式AI工作負(fù)載，取得了顯著成就和積極影響?！?br>
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
