作者：云道士

2023年，生成式AI技術(shù)破繭成蝶，引發(fā)了一場全球范圍的數(shù)字革命。從最初的聊天、下棋開始，到醫(yī)療、金融、制造、教育、科研等，生成式AI表現(xiàn)出了強大的創(chuàng)造力和無限潛力。

同時，生成式AI又是一把雙刃劍，它既可以幫助企業(yè)解決實際問題，又面臨著數(shù)據(jù)泄露等巨大風(fēng)險。今年年初，某大型全球化企業(yè)就在大模型訓(xùn)練過程中，泄露了企業(yè)數(shù)據(jù)庫中的機密信息，給企業(yè)帶來了巨大的負面影響。而此類事件依然層出不窮。

生成式AI在訓(xùn)練與使用過程中，有諸多環(huán)節(jié)都將面臨數(shù)據(jù)泄露風(fēng)險，應(yīng)該以何種方式保障安全呢?

8月31日，亞馬遜云科技re:Inforce 2023中國站正式開啟，此次大會以“AI時代 全面智能的安全”為主題，目標(biāo)就是幫助企業(yè)解決生成式AI在全部流程環(huán)節(jié)中的安全挑戰(zhàn)。

安全是構(gòu)建生成式AI應(yīng)用之根本

亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)代聞表示：安全是構(gòu)建生成式AI應(yīng)用不可回避的重要議題。從全棧角度出發(fā)，應(yīng)該從數(shù)據(jù)、傳輸、應(yīng)用到基礎(chǔ)設(shè)施整體構(gòu)建出可靠的合規(guī)體系，這樣才能真正保障AI應(yīng)用的安全。

代聞-亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)

亞馬遜云科技一直嚴(yán)格遵從客戶擁有和控制數(shù)據(jù)的理念，提供了行業(yè)領(lǐng)先的技術(shù)和物理措施來防止未經(jīng)授權(quán)的訪問，為數(shù)據(jù)提供涵蓋存儲、傳輸、使用、治理等各個環(huán)節(jié)的加密及保護服務(wù)。

舉例而言，企業(yè)在訓(xùn)練AI模型過程中首先要訪問數(shù)據(jù)庫，現(xiàn)代企業(yè)的業(yè)務(wù)數(shù)據(jù)是創(chuàng)新的基礎(chǔ)，也是“命脈”，一旦數(shù)據(jù)泄露就將帶來不可逆的惡劣影響。同時，在數(shù)據(jù)傳輸、使用、治理、訪問等各個環(huán)節(jié)，也會面臨泄露風(fēng)險。

因此，安全是構(gòu)建生成式AI應(yīng)用不可回避的議題!

針對生成式AI，亞馬遜云科技將安全防護劃分為三個階段，分別為：數(shù)據(jù)和模型安全、應(yīng)用安全和全球合規(guī)，并基于此提供了更為系統(tǒng)化的安全防護工具。

數(shù)據(jù)安全，從存儲和傳輸開始

在數(shù)據(jù)保護方面，亞馬遜云科技重點推薦的第一項服務(wù)就是Amazon KMS。其全稱為Amazon Key Management Service，是一項通過硬件安全模塊來保護用戶密鑰的云端安全服務(wù)。借助AmazonKMS，用戶可以創(chuàng)建和管理加密密鑰，并控制相關(guān)權(quán)限。這些密鑰可用于跨各種亞馬遜云科技服務(wù)和用戶應(yīng)用程序訪問加密數(shù)據(jù)。

同樣地，數(shù)據(jù)傳輸也是安全防護的重要階段，此環(huán)節(jié)可通過Amazon Nitro來構(gòu)建獨立的安全傳輸通道。Amazon Nitro是一種虛擬化基礎(chǔ)設(shè)施，AmazonNitro安全芯片可用于加密和驗證虛擬機的訪問，并可檢測未經(jīng)授權(quán)的硬件修改和惡意軟件的植入。依托于虛擬化技術(shù)，AmazonNitro系統(tǒng)還能夠提供更好的網(wǎng)絡(luò)和存儲性能。

有了安全的存儲和傳輸，針對計算環(huán)節(jié)亞馬遜云科技則有AmazonNitro Enclaves計算加密。它可將計算實例進行隔離，并控制應(yīng)用互訪vCPU和內(nèi)存，可幫助用戶減少用于處理最敏感數(shù)據(jù)的應(yīng)用程序的攻擊面，從而保護計算安全。

涂鴉信息技術(shù)有限公司安全總監(jiān)劉龍威表示：涂鴉智能是一家全球化的物聯(lián)網(wǎng)解決方案商，以亞馬遜云科技AmazonNitro為安全的云基礎(chǔ)，通過硬件隔離的方式保障了整個用戶數(shù)據(jù)體系的可信。與AmazonKMS聯(lián)動實現(xiàn)了更高基本的安全管理，從而服務(wù)于78萬的開發(fā)者及海量的IoT設(shè)備，并使其牢不可破。

在re:Inforce 2023大會上，亞馬遜云科技與涂鴉智能成立“聯(lián)合安全實驗室”，雙方將在智能家居、數(shù)據(jù)安全、安全文化建設(shè)、海外合規(guī)等領(lǐng)域，重點就機密計算及數(shù)據(jù)隱私、Matter技術(shù)合作及體系建設(shè)、生成式AI在IoT領(lǐng)域等安全實踐展開聯(lián)合共創(chuàng)。

此外，亞馬遜云科技中國方案開發(fā)中心還正式發(fā)布了敏感數(shù)據(jù)保護解決方案，可實現(xiàn)自動發(fā)現(xiàn)企業(yè)敏感數(shù)據(jù)，并在統(tǒng)一平臺管理數(shù)據(jù)資產(chǎn)。例如在AmazonS3存儲中，允許用戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型，以機器學(xué)習(xí)方式來匹配并識別敏感信息，并做出警告。以可視化方式進行管理，進而幫助用戶實現(xiàn)對敏感數(shù)據(jù)的管理與保護。目前該解決方案已經(jīng)可以提供下載。

訓(xùn)練安全，AmazonSageMaker的模型三劍客

數(shù)據(jù)在存儲、傳輸及計算環(huán)節(jié)的安全得到了保障，接下來需要關(guān)注的自然就是模型的構(gòu)建環(huán)節(jié)了。

代聞表示：Amazon IAM API每秒調(diào)用次數(shù)超過10億，其為大模型的構(gòu)建提供了強大的源動力。Amazon SageMaker正在為設(shè)置、授權(quán)、驗證、調(diào)優(yōu)等環(huán)節(jié)提供針對模型的訪問策略，并通過AmazonModel Cards、AmazonModel Monitor及AmazonModel Registry等工具全方位地監(jiān)控模型的運行。

在AI大模型的初始爆發(fā)期，很多企業(yè)的模型訓(xùn)練環(huán)節(jié)都處于“裸奔”狀態(tài)，即原始數(shù)據(jù)與模型未加防護，此時的數(shù)據(jù)泄露風(fēng)險也是最高。

針對這些痛點，模型三劍客之一的Amazon SageMaker Model Cards問世了，它是一套文檔化機器學(xué)習(xí)模型的規(guī)范格式工具，可實現(xiàn)對模型信息的統(tǒng)一管理，包括模型的描述、功能、性能等信息。通過使用AmazonModel Cards，用戶可以更好地了解和評估機器學(xué)習(xí)模型，以選擇最適合其需求的模型，并為下一步監(jiān)測與管理做好準(zhǔn)備。

Amazon SageMaker Model Monitor提供的就是自動化監(jiān)控與檢測服務(wù)，可以幫助用戶在生產(chǎn)環(huán)境中監(jiān)控模型的性能、數(shù)據(jù)質(zhì)量和數(shù)據(jù)偏差，以確保模型的準(zhǔn)確性和穩(wěn)定性。

功能方面AmazonModel Monitor提供了數(shù)據(jù)捕獲、數(shù)據(jù)分析、數(shù)據(jù)報告和數(shù)據(jù)警報，可生成詳細的報告和警報通知用戶，有利于促進模型的持續(xù)改進和優(yōu)化。

AmazonModel Registry則是Amazon SageMaker提供的一個功能強大的工具，用于管理和跟蹤機器學(xué)習(xí)模型的版本和元數(shù)據(jù)。它提供了版本控制、回滾、元數(shù)據(jù)管理和集成功能，使用戶能夠更好地管理和部署模型。

在Amazon SageMaker這三套工具的幫助下，能夠讓用戶實現(xiàn)模型管理自動化，極大提升了工作效率。

大模型之潮已經(jīng)勢不可擋，如果企業(yè)級用戶自身技術(shù)能力較弱，是否可以嘗試構(gòu)建大模型呢?

別急，這就安排!

就在今年4月，亞馬遜云科技發(fā)布了完全托管的基礎(chǔ)模型服務(wù)Amazon Bedrock，可讓用戶根據(jù)需求通過API訪問及使用其中的基礎(chǔ)模型。Amazon Bedrock可使用用戶自己的數(shù)據(jù)私下自定義FM，并使用相關(guān)工具和功能將它們無縫集成和部署到應(yīng)用程序中，無需管理任何基礎(chǔ)設(shè)施。

舉例而言，用戶希望在零基礎(chǔ)的情況下構(gòu)建一套文本生成大模型，那么就可以通過簡單的操作在亞馬遜云端自定義出模型需求，并通過各種模型工具將其集成并部署到應(yīng)用之中，就像拼裝樂高一樣簡單，極大降低了模型構(gòu)建的門檻。

開發(fā)安全，利用AI取長補短

度過了激動人心的模型構(gòu)建環(huán)節(jié)，接下來是開發(fā)。很多企業(yè)級用戶對開發(fā)戲稱是：人多手雜，容易出錯，同時還經(jīng)常出現(xiàn)安全性問題。

針對這些痛點，亞馬遜云科技展示了兩套自動化工具服務(wù)，能夠幫助用戶排憂解難。

Amazon CodeWhisperer 可以看作是AI編程助手，經(jīng)過數(shù)十億行代碼的訓(xùn)練，可以根據(jù)用戶需求和現(xiàn)有代碼實時生成從代碼片段到全函數(shù)的代碼建議。AmazonCodeWhisperer支持主流編程語言和IDE，還可以為用戶提供有關(guān) API 安全性、性能和最佳實踐的建議。融合機器學(xué)習(xí)和自動化分析就有了Amazon CodeGuru Security，它是一套強大的代碼漏洞掃描工具，可提供漏洞修補建議，并解決檢測配置錯誤、權(quán)限問題和敏感數(shù)據(jù)的泄露等安全問題。有效提升代碼的安全性和可靠性。

運行安全，來自云端的保障

當(dāng)生成式AI大模型經(jīng)歷開發(fā)后就迎來上線運行，而在該階段的安全防護也不能掉以輕心。因為在實際操作過程中，有很多安全事件都出在運行環(huán)節(jié)。此時，應(yīng)用程序需要保護模型本身、數(shù)據(jù)及用戶隱私等來自多方面的安全，而最有效的方式就是：驗證。

Amazon Verified Permissions是亞馬遜云科技向開發(fā)者提供的一種驗證用戶訪問權(quán)限的機制。通過該服務(wù)，開發(fā)者可以確保用戶只能訪問其應(yīng)用程序需要的有效權(quán)限，以保護用戶的隱私和數(shù)據(jù)安全。

當(dāng)用戶向應(yīng)用程序授權(quán)時，亞馬遜會驗證并返回一個訪問令牌，該令牌包含用戶已授權(quán)的權(quán)限。開發(fā)者可以使用這個令牌來驗證用戶的權(quán)限，并根據(jù)需要執(zhí)行相應(yīng)的操作。通過令牌式驗證，開發(fā)者可以確保用戶數(shù)據(jù)的安全性，并且遵守隱私法規(guī)和規(guī)定。同時也通過訪問權(quán)限控制來保障應(yīng)用程序的數(shù)據(jù)安全。

構(gòu)建全球化安全合規(guī)

在全球安全合規(guī)方面，亞馬遜云科技的全球化基礎(chǔ)設(shè)施包括超過200大類廣泛而深入的云服務(wù)和解決方案，包括覆蓋全球的安全合規(guī)、高速穩(wěn)定的云基礎(chǔ)設(shè)施，以及來自亞馬遜的全球資源和創(chuàng)新文化。

據(jù)了解，亞馬遜云科技現(xiàn)已在全球獲得超過140個安全標(biāo)準(zhǔn)和合規(guī)認證。并進一步通過在其500多項自身合規(guī)審計控制項中使用 AI 技術(shù)，大幅提升了自身的合規(guī)效率，將審計時間節(jié)約了53%。

此外，亞馬遜云科技還通過零信任架構(gòu)，來幫助用戶增強安全性、靈活性、擴展性并有效降低來自安全方面的成本，幫助企業(yè)構(gòu)建更安全、高效和可靠的云安全體系。

生成式AI為我們帶來更多的創(chuàng)作、個性化服務(wù)、與用戶的交互以及創(chuàng)新和研究的可能性。也為人類創(chuàng)造力和智慧的拓展提供了新的工具和平臺。

在短短幾個月的時間里，生成式AI在中國市場就掀起了一場全行業(yè)的“百模大戰(zhàn)”，并將AI創(chuàng)新推向了一個新的高峰。諸多企業(yè)開始了探索與嘗試，同時也迎來了更為復(fù)雜的安全性挑戰(zhàn)。為了幫助企業(yè)迎接這日益復(fù)雜的安全挑戰(zhàn)，亞馬遜云科技通過技術(shù)積累、創(chuàng)新能力和對AI的深入理解，推出了多項面向生成式AI全流程的安全服務(wù)，著力幫助企業(yè)解決實際問題。

正如代聞所說：我們從第一天開始，就應(yīng)該把安全當(dāng)做第一最高優(yōu)先級。

安全之事無小事，關(guān)乎企業(yè)發(fā)展之命脈。此次大會亞馬遜云科技攜同合作伙伴一起，以客戶為中心，通過安全服務(wù)深入到應(yīng)用AI的每一個環(huán)節(jié)，共同構(gòu)建起面向AI的未來安全。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）