科技云報道原創(chuàng)。
隨著企業(yè)上云的提速,一系列云安全問題也逐漸暴露出來,云安全問題得到重視,市場不斷擴大。
Gartner 發(fā)布“2022 年中國 ICT 技術(shù)成熟度曲線”顯示,云安全已處于技術(shù)萌芽期高點,預期在2-5年內(nèi)有望達到技術(shù)生產(chǎn)成熟期。
與此同時,為提高效率,AI在各場景中應用探索從未停歇,尤其是生成式AI的出現(xiàn),快速應用到企業(yè)生產(chǎn)創(chuàng)新的各個環(huán)節(jié)中,展現(xiàn)出了驚人的能力和效果,也為云安全帶來了更多的挑戰(zhàn)和機遇。
因此AI和云安全的結(jié)合勢在必行,一方面需要關(guān)注智能化生產(chǎn)的安全方案,另一方面以AI賦能云安全,將構(gòu)建更強大的防御機制。
智能化生產(chǎn)下的云安全挑戰(zhàn)與對策
生成式AI降低了應用門檻,但也對一個企業(yè)的數(shù)據(jù)平臺提出了更高的要求。
而很多公司還沒有能力構(gòu)建這樣一個高要求的數(shù)據(jù)平臺,或者并未設(shè)立一個強大的IT部門運營管理。
數(shù)據(jù)和模型安全是構(gòu)建AI應用的關(guān)鍵在訓練構(gòu)建一個生成式AI的模型時,需要大量的非結(jié)構(gòu)化數(shù)據(jù)。即使一個企業(yè)直接去應用一個做好的模型進行微調(diào),也需要有高質(zhì)量的數(shù)據(jù)。
如果企業(yè)沒有規(guī)定好數(shù)據(jù)邊界、權(quán)限、應用的API的控制不足,就很有可能發(fā)生數(shù)據(jù)泄露。在今年OWASP發(fā)布的《大模型應用十大安全風險》中,數(shù)據(jù)泄露高居第二位。
同時,生成式AI和大語言模型對企業(yè)內(nèi)部管控機制帶來一個新的挑戰(zhàn)。
大語言模型使用公開服務(wù)的需求,要求公司對企業(yè)內(nèi)部數(shù)據(jù)資產(chǎn)及其他信息資產(chǎn)進行更細顆粒度的管控。
因此貫穿生成式AI全周期的數(shù)據(jù)治理是非常必要的,從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢,再到將數(shù)據(jù)傳輸給 AI平臺進行模型的訓練、調(diào)優(yōu)和推理,在數(shù)據(jù)流動的過程中確保端到端的數(shù)據(jù)安全,為生成式AI應用提供安全和有價值的數(shù)據(jù)輸入。
例如,亞馬遜云科技就為企業(yè)數(shù)據(jù)提供涵蓋存儲、傳輸、使用、治理等各個環(huán)節(jié)的加密及保護服務(wù)。
用戶可使用Amazon Key Management Service (Amazon KMS),并將其與亞馬遜云科技眾多服務(wù)深度集成輕松保護多種數(shù)據(jù);還可以通過Amazon Data Zone使用貫穿整個數(shù)據(jù)周期的治理服務(wù)。
此外,亞馬遜云科技還推出了敏感數(shù)據(jù)保護解決方案,可實現(xiàn)對企業(yè)敏感數(shù)據(jù)的自動化發(fā)現(xiàn)并在統(tǒng)一平臺管理數(shù)據(jù)資產(chǎn)。
該解決方案允許客戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型,該方案利用機器學習、模式匹配的方式自動識別敏感數(shù)據(jù),并提供可視化面板,使客戶更容易對敏感數(shù)據(jù)進行管理和保護。
另外,模型訓練后進入生產(chǎn)環(huán)境的安全防護同樣重要。需要保證數(shù)據(jù)輸入的安全,防止數(shù)據(jù)篡改,同時在數(shù)據(jù)處理的過程中更加注意安全合規(guī)和敏感數(shù)據(jù)的剔除。
應用安全是實現(xiàn)AI價值的保障保障應用安全的第一個階段是開發(fā)流程中的安全(DevSecOps)。
安全需要貫穿到從開發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個反饋的過程里面來。
第二個階段是運行中的安全。針對應用的安全訪問,企業(yè)可構(gòu)建零信任的應用安全訪問策略。
它能夠?qū)崿F(xiàn)按需的授權(quán)和認證,零信任不是一個標準的工具或者解決方案,而是一套機制,并且需要經(jīng)過演練和考驗。
同時也需要對訪問大模型的應用進行權(quán)限管理,確保只有在擁有特定權(quán)限的應用,才能訪問或者調(diào)用大模型里的定制API。
在亞馬遜云科技re:lnforce2023大會中國站上,亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞提到,“以前是靠應用程序和網(wǎng)絡(luò)邊界來隔離,現(xiàn)在這種防守的邊界感已經(jīng)改變了,單純的應用程序和網(wǎng)絡(luò)邊界已經(jīng)不足以隔離,因而加速了零信任在企業(yè)中的落地?!?/p>
不過代聞也強調(diào),在關(guān)注AI安全時不能僅僅只關(guān)注AI應用本身。
“從構(gòu)建開始,我們就需要把安全作為企業(yè)AI戰(zhàn)略發(fā)展中的核心環(huán)節(jié)。從一個全棧的角度,去全面審視 應用、模型、數(shù)據(jù)、基礎(chǔ)架構(gòu)的安全規(guī)范、技術(shù)策略和平臺工具。生成式AI應用就像是海面上的冰山,我們想要在企業(yè)里安全地駕馭這項新技術(shù),還需要關(guān)注海面下的冰川?!?/p>
亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞
AI+云安全有望加速上云之旅Cybersecurity Insiders今年發(fā)布的《2023年全球云安全報告》顯示,成本上升、合規(guī)性要求、混合和多云環(huán)境復雜性、可見性銳減以及技能人才短缺等困境,迫使企業(yè)不得不放緩或調(diào)整既定云部署戰(zhàn)略。
因而,雖然企業(yè)工作負載遷移上云的速度總體仍呈現(xiàn)穩(wěn)步上升趨勢,但云部署率同比趨于平穩(wěn),而云安全性仍是企業(yè)上云之旅的關(guān)鍵痛點。
而由于云安全產(chǎn)品的易用性,不需要繁瑣的安裝或者是調(diào)試,可直接部署,以及按需付費的能力,不會給企業(yè)的安全成本帶來額外的負擔。
因此中國企業(yè)在云安全的部署上與國際上其他企業(yè)有相近的投入。
AI+云安全構(gòu)建的更強大的防御機制,為解決這一問題及提高云部署率提供了更多的可能性,目前多家云服務(wù)商仍在探索中。
首先在合規(guī)方面,目前雖然相關(guān)法律法規(guī)越來越完善,但隨著重要數(shù)據(jù)加速上云,數(shù)據(jù)的數(shù)量和種類不斷增加,客戶的業(yè)務(wù)需求也在持續(xù)變化,因此合規(guī)難度仍不容小覷。
而將AI應用到合規(guī)服務(wù)中,能夠為大規(guī)模批量審查提供安全控制,利用自動化減少手工操作以降低錯誤,利用AI提供一致性判斷,通過AI/ML技術(shù)實現(xiàn)自動審查,全面提升合規(guī)效率。
其次,AI可以助力實現(xiàn)智能控制、記錄管理權(quán)限,而這些記錄是可以先來支持從權(quán)限管控到網(wǎng)絡(luò)控制再到整體的自動化管理的權(quán)限和部署,包括審計。
另外,利用AI可自動掃描代碼漏洞、軟件的缺陷以及集成過程中的誤報等,并及時響應。
結(jié)語
目前云安全仍以AI賦能為主,然而隨著生成式AI的不斷應用,企業(yè)從關(guān)注其技術(shù)的先進性變成關(guān)注其提供的業(yè)務(wù)價值,需求的提出者從技術(shù)負責人更多變成業(yè)務(wù)負責人,AI賦能向AI原生發(fā)展將成為一種必然趨勢。
建立一個更好的、合規(guī)的、安全的AI應用也成為重中之重,更強的防御機制將保障AI發(fā)揮更大的作用,并有一個更好的發(fā)展。
免責聲明:此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章,所有文字和圖片版權(quán)歸作者所有,且僅代表作者個人觀點,與極客網(wǎng)無關(guān)。文章僅供讀者參考,并請自行核實相關(guān)內(nèi)容。投訴郵箱:editor@fromgeek.com。
- 蜜度索驥:以跨模態(tài)檢索技術(shù)助力“企宣”向上生長
- 算力荒緩解,自主化智算還有必要嗎?
- 波司登千元鵝絨褲僅3克鵝絨,警惕被“國貨品牌”割韭菜
- 中國電車進入10萬級時代,2025年決生死,但日本車先頂不住了
- 中國存儲芯片大舉圍剿美日韓芯片,外媒確認在技術(shù)上進一步突破
- 谷歌成為手機市場的殺手,國產(chǎn)手機或被迫擁護國產(chǎn)操作系統(tǒng)
- 折疊屏2024的新東西、好東西、舊東西
- 董明珠與小米的二次戰(zhàn)爭
- 芯片不賣中國,美芯無處賣了,本來不要的市場偷偷地賣,后悔莫及
- 僅售999元 月底開售 閃極打響AI眼鏡量產(chǎn)發(fā)令槍
- 蘿卜快跑走紅、滴滴加碼,中國Robotaxi大戰(zhàn)升級
免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。