去年底，ChatGPT橫空出世，不僅吸引了全球各界的眼光，更是讓生成式AI的熱浪來襲。隨后，Google、百度、阿里巴巴、360等紛紛下場，發(fā)布各自大模型產(chǎn)品，使得整個市場熱度有增無減。

如今，亞馬遜云科技也正式下場。作為云計算領(lǐng)域的頭牌廠商，亞馬遜云科技此次帶來了Amazon Bedrock生成式AI托管服務(wù)、Amazon Titan大語言模型、Amazon EC2 Trn1n、Amazon EC2 Inf2以及Amazon CodeWhisperer全家桶式的組合式服務(wù)。

眾所周知，越來越多企業(yè)意識到生成式AI所帶來顛覆性的變化，也渴望能夠利用生成式AI、大模型等強大的能力來改變自身。但強大的生成式AI后面是基礎(chǔ)設(shè)施、大模型和模型應(yīng)用等一系列復(fù)雜的組合，絕非簡單搭建即可實現(xiàn)。

亞馬遜云科技全家桶式的生成式AI組合無疑瞄準(zhǔn)了當(dāng)下生成式AI應(yīng)用的痛點，通過一系列產(chǎn)品與服務(wù)來降低了生成式AI應(yīng)用的門檻和成本，助力普惠AI的加速實現(xiàn)。亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建直言：“亞馬遜云科技希望將生成式AI技術(shù)從研究和實驗領(lǐng)域釋放出來，不僅僅是大型科技公司的專屬，而是讓更多公司能夠從中受益。”

生成式AI的基石：云計算

什么是生成式AI的基石？

毫無疑問是云計算。本質(zhì)上，生成式AI涉及到前端應(yīng)用、模型庫、大模型以及基礎(chǔ)設(shè)施。像ChatGPT這種生成式AI應(yīng)用，背后起到支撐作用的正是強大的基礎(chǔ)設(shè)施。例如，公開信息顯示，OpenAI在訓(xùn)練GPT-3大模型時用到了數(shù)十萬個CPU、上萬個GPU等大量基礎(chǔ)設(shè)施資源。

因為需要消耗大量的算力和數(shù)據(jù)資源，所以生成式AI應(yīng)用所面臨的門檻極高。以基礎(chǔ)設(shè)施層為例，訓(xùn)練大模型涉及到采取何種并行策略、如何進(jìn)行高效數(shù)據(jù)存儲、如何選擇合適的數(shù)據(jù)精度以及如何實現(xiàn)動態(tài)負(fù)載均衡等等一系列問題。

因此，云計算平臺無疑是生成式AI最為理想的基礎(chǔ)平臺。像亞馬遜云科技這樣的大型云服務(wù)商，本身就擁有強大的基礎(chǔ)設(shè)施能力，能夠滿足生成式AI對于算力的強大需求，并且在并行計算、數(shù)據(jù)高效存儲甚至運維等方面均有著豐富的經(jīng)驗，通過屏蔽底層基礎(chǔ)設(shè)施的復(fù)雜性，為用戶帶來性價比更加出色的基礎(chǔ)設(shè)施服務(wù)。

以訓(xùn)練為例，眾所周知，大模型訓(xùn)練往往需要耗費大量的GPU，但GPU實際效果遠(yuǎn)非人們想象中那么理想。為此，亞馬遜云科技針對生成式AI推出了兩款優(yōu)化的計算實例Amazon EC2 Trn1n 實例和Amazon EC2 Inf2 。訓(xùn)練實例Amazonn EC2 Trn1 由其自研芯片Trainium支持，可節(jié)省高達(dá)50%的訓(xùn)練成本。推理實例Amazon Inf2 基于其自研芯片Inferentia2 ，據(jù)稱吞吐量提高了4倍，延遲降低了10倍。

陳曉建介紹：“Trn1n是一個網(wǎng)絡(luò)增強型的新實例，網(wǎng)絡(luò)帶寬提升到1.6TB，旨在為大型網(wǎng)絡(luò)密集型的模型訓(xùn)練來使用。Inf2則把云中推理成本降到了最低。”

除了基礎(chǔ)設(shè)施之外，生成式AI要想真正用起來，也離不開模型層的服務(wù)，而亞馬遜云科技有針對性的推出了Amazon BedRock，為大模型的應(yīng)用打開了全新的思路。

Amazon Bedrock，降低大模型門檻

在近年來的人工智能發(fā)展中，經(jīng)歷了“大練模型”到“練大模型”的過程。OpenAI GPT模型的發(fā)展歷程也是如此，直到基于GPT-3.5的ChatGPT橫空出世，極大打破了人們對于AI的認(rèn)知，原來生成式AI在大模型參數(shù)足夠多、訓(xùn)練數(shù)據(jù)足夠出色的情況下，其“涌現(xiàn)”能力往往讓人驚奇。

正因為如此，很多行業(yè)用戶都在密切關(guān)注大模型的訓(xùn)練。例如，彭博已經(jīng)在金融領(lǐng)域率先嘗鮮，推出了擁有500億參數(shù)的BloombergGPT，希望在日常業(yè)務(wù)中融入大模型的能力。

但要想真正把大模型用起來絕非易事，哪怕是一些行業(yè)龍頭面對大模型的構(gòu)建時也會束手無策。亞馬遜云科技的思路是通過Amazon Bedrock，來降低大模型訓(xùn)練的門檻，推動生成式AI的普惠。

據(jù)悉，Amazon Bedrock是完全托管式的云服務(wù)，通過API提供無服務(wù)器的托管體驗，客戶無需擔(dān)心實例類型、網(wǎng)絡(luò)拓?fù)浜投它c等基礎(chǔ)設(shè)施細(xì)節(jié)，用戶可以通過API的方式來訪問亞馬遜云科技Titan大模型，以及AI21Labs、Anthropic和Stability AI等AI初創(chuàng)公司的預(yù)訓(xùn)練基礎(chǔ)模型，可以為用戶提供多種模型的選擇。

“客戶只要在Amazon S3中提供少量（低至20個）帶標(biāo)簽的示例，就可以輕松定制Amazon Bedrock的基礎(chǔ)模型，用于其特定用例。此外，客戶還能通過Amazon Bedrock獨家訪問亞馬遜云科技開發(fā)的最先進(jìn)基礎(chǔ)模型?！标悤越ㄍ嘎兜?。

Amazon Titan大模型是基于亞馬遜云科技20多年機(jī)器學(xué)習(xí)經(jīng)驗訓(xùn)練出來的，包括Titan Text和Titan Embeddings。Titan Text是基于總結(jié)文本生成、分類、開放式回答和信息提取等任務(wù)的生成式大語言模型。Titan Embeddings是一個文本嵌入式的大語言模型，能夠把文本的輸入翻譯成包含語義的數(shù)字表達(dá)。

此外，亞馬遜云科技還強調(diào)了數(shù)據(jù)隱私和數(shù)據(jù)安全的重要性。用戶在Amazon Bedrock平臺訓(xùn)練時，所有的數(shù)據(jù)都經(jīng)過加密的，并且不會離開虛擬專用云（VPC）而且亞馬遜云科技不會那用戶數(shù)據(jù)再訓(xùn)練Titan大模型。

當(dāng)前，埃森哲、德勤、Infosys 和Slalom 等客戶已經(jīng)在使用亞馬遜云科技Amazon Bedrock服務(wù)。陳曉建介紹：“亞馬遜云科技希望形成一個開放性、多元的底層模型環(huán)境?！?/p>

全家桶式服務(wù)：普惠AI指日可待

亞馬遜云科技還針對開發(fā)者們發(fā)布了AI編碼助手Amazon CodeWhisperer，面向所有個人用戶免費開放，不設(shè)任何資質(zhì)或使用時長的限制！

眾所周知，生成式 AI 可以通過“編寫”大量無差異代碼來消除繁重、重復(fù)的編碼工作，有利于開發(fā)人員進(jìn)行其他創(chuàng)新。以Amazon CodeWhisperer為例，其幫助開發(fā)者基于注釋生成代碼，追蹤開源參考，掃描查找漏洞。

此外，Amazon CodeWhisperer還可以幫助開發(fā)者創(chuàng)建代碼勝任如下場景，比如常規(guī)、耗時的無差別任務(wù)，或是在使用不熟悉的API或SDK時構(gòu)建示例代碼，亦或要正確高效地使用亞馬遜云科技API操作，還有其他場景比如編寫讀寫文件、處理圖像、編寫單元測試等代碼。Amazon CodeWhisperer還能利用亞馬遜云科技在安全方面的積累來掃描各種安全問題，自動掃描代碼中的安全漏洞并幫用戶修復(fù)。

據(jù)悉，Amazon CodeWhisperer可以支持15 種編程語言，包括Python、Java 和 C++等，以及開發(fā)者最喜歡的集成開發(fā)環(huán)境 (IDE)，包括 VS Code、IntelliJ IDEA 和 AWS Cloud9等。

亞馬遜云科技大中華區(qū)數(shù)據(jù)技術(shù)專家團(tuán)隊總監(jiān)王曉野介紹：“Amazon CodeWhisperer更像是一款插件，可以直接安裝在開發(fā)者現(xiàn)有開發(fā)環(huán)境中，開發(fā)者可以通過注釋的方式與Amazon CodeWhisperer交互。它類似開發(fā)者的智能助手，最主要的優(yōu)勢在于提高生產(chǎn)力。例如，使用Amazon CodeWhisperer之后，開發(fā)者無需切換到其他頁面去查找文檔?！?/p>

毫無疑問，生成式AI和大語言模型是革命性的，將深刻影響到每一個行和和每一個人。有研究顯示，到2027年，全球生成式AI市場預(yù)計將增長7倍，將超過1000億美元，將廣泛應(yīng)用到智能客服、內(nèi)容優(yōu)化與推廣、智能輔助內(nèi)容生產(chǎn)、對話系統(tǒng)、自動化產(chǎn)品設(shè)計等場景領(lǐng)域。普惠AI，讓AI民主化是整個社會的大勢所趨，而亞馬遜云科技生成式AI全家桶式的服務(wù)組合，無疑率先在市場中降低了生成式AI的門檻，打開了普惠AI的局面。

生成海報

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。