與影子人工智能相關(guān)的挑戰(zhàn)在好轉(zhuǎn)之前可能會(huì)變得更糟,因?yàn)槿斯ぶ悄芄ぞ叩膶?shí)施速度比大多數(shù)組織能夠保護(hù)它們的速度更快。
研究表明,近一半(49%)的人使用過生成式人工智能,其中超過三分之一的人每天都在使用它。不可否認(rèn),生成式人工智能有許多好處和用例,但在IT治理之外的組織內(nèi)非法或未經(jīng)批準(zhǔn)地使用這些工具(稱為影子人工智能)可能會(huì)導(dǎo)致重大風(fēng)險(xiǎn)。
在過去的一年里,我們看到亞馬遜等科技巨頭抓住了利用ChatGPT和其他人工智能工具來獲取業(yè)務(wù)收益的機(jī)會(huì)。但其他企業(yè)已經(jīng)禁止其使用:去年,三星在數(shù)據(jù)意外泄露后禁止員工使用ChatGPT和GoogleBard等工具。由于擔(dān)心敏感信息共享,高盛和花旗集團(tuán)等更多銀行也限制人工智能的使用。
我們看到知名機(jī)構(gòu)以這種方式做出反應(yīng),因?yàn)橛白尤斯ぶ悄軒砹宋粗耐{,并在更廣泛的影子IT威脅類別中為安全性和合規(guī)性提供了新的威脅向量。
據(jù)估計(jì),三分之一的成功網(wǎng)絡(luò)攻擊來自影子IT。盡管如此,影子IT的威脅眾所周知,而且一旦發(fā)現(xiàn)就相對(duì)容易管理。只需將其退役并繼續(xù)。另一方面,影子人工智能則帶來更多難以量化和管理的未知風(fēng)險(xiǎn)。這不僅僅是未經(jīng)批準(zhǔn)使用這些工具的問題。它還涉及在未經(jīng)授權(quán)且目前不受監(jiān)管的空間中未經(jīng)批準(zhǔn)使用公司數(shù)據(jù)。此外,使用或可能使用這些人工智能工具的范圍不僅限于技術(shù)人員。
這些因素,再加上在更短的時(shí)間內(nèi)完成更多工作的承諾,為更多人將公司數(shù)據(jù)輸入未經(jīng)授權(quán)的工具打開了大門,從而使敏感信息和知識(shí)產(chǎn)權(quán)面臨風(fēng)險(xiǎn)。
什么是影子人工智能(ShadowAI)是一個(gè)相對(duì)較新的概念,指的是在組織內(nèi)未經(jīng)正式審查或批準(zhǔn)而獨(dú)立開發(fā)或采用的AI技術(shù)和系統(tǒng)。這種現(xiàn)象可能在任何規(guī)模的組織中發(fā)生,包括企業(yè)、政府機(jī)構(gòu)甚至小型團(tuán)隊(duì)。影子AI的存在通常是因?yàn)閳F(tuán)隊(duì)或個(gè)人試圖繞過正式的審批流程,以快速推進(jìn)項(xiàng)目或解決特定的問題,但這樣做可能會(huì)帶來一系列的風(fēng)險(xiǎn)和挑戰(zhàn)。
影子人工智能的風(fēng)險(xiǎn)
數(shù)據(jù)安全和隱私:未經(jīng)審查的AI系統(tǒng)可能會(huì)處理敏感或受保護(hù)的數(shù)據(jù),而不遵循組織的數(shù)據(jù)保護(hù)政策,從而增加數(shù)據(jù)泄露或?yàn)E用的風(fēng)險(xiǎn)。
兼容性和集成問題:獨(dú)立開發(fā)的AI解決方案可能與組織現(xiàn)有的IT架構(gòu)和系統(tǒng)不兼容,導(dǎo)致集成問題和效率低下。
質(zhì)量和可靠性問題:影子AI項(xiàng)目可能未經(jīng)過充分測(cè)試和驗(yàn)證,其性能和可靠性無法保證,可能導(dǎo)致錯(cuò)誤決策和潛在的業(yè)務(wù)損失。
資源分散:未經(jīng)批準(zhǔn)的項(xiàng)目可能會(huì)消耗有限的資源,包括時(shí)間、資金和人員,這些資源本可以用于支持正式批準(zhǔn)的項(xiàng)目。
法律和合規(guī)風(fēng)險(xiǎn):使用未經(jīng)審查的AI技術(shù)可能違反特定行業(yè)的法律和規(guī)定,給組織帶來法律訴訟和罰款風(fēng)險(xiǎn)。
應(yīng)對(duì)影子人工智能的策略
建立正式的AI治理框架:確保所有AI項(xiàng)目都符合組織的政策、標(biāo)準(zhǔn)和流程。
提高透明度:鼓勵(lì)團(tuán)隊(duì)報(bào)告和分享他們的AI項(xiàng)目,無論它們是官方批準(zhǔn)的還是處于探索階段。
教育和培訓(xùn):對(duì)員工進(jìn)行關(guān)于數(shù)據(jù)保護(hù)、AI倫理和合規(guī)性的培訓(xùn)。
提供資源和支持:為那些希望探索AI解決方案的團(tuán)隊(duì)提供必要的資源和指導(dǎo),以減少他們自行采用影子AI的動(dòng)機(jī)。
實(shí)施風(fēng)險(xiǎn)評(píng)估程序:確保所有新引入的AI系統(tǒng)和技術(shù)都經(jīng)過適當(dāng)?shù)娘L(fēng)險(xiǎn)評(píng)估,以識(shí)別和緩解潛在的安全和合規(guī)風(fēng)險(xiǎn)。
通過這些策略,組織可以減少影子人工智能帶來的風(fēng)險(xiǎn),同時(shí)促進(jìn)技術(shù)創(chuàng)新和進(jìn)步。
解決影子人工智能潛在威脅的4個(gè)技巧
雖然管理和監(jiān)控?cái)?shù)據(jù)活動(dòng)的傳統(tǒng)方法對(duì)于保護(hù)數(shù)據(jù)環(huán)境、確保授權(quán)數(shù)據(jù)使用和滿足隱私要求至關(guān)重要,但不足以防御數(shù)據(jù)中心墻外的影子人工智能。也不是徹底禁止所有人工智能的使用,因?yàn)樵S多員工仍然想方設(shè)法謹(jǐn)慎地利用人工智能來為自己謀利。
幸運(yùn)的是,IT領(lǐng)導(dǎo)者可以采取一些額外的步驟來幫助減少這些潛在的威脅。這些包括:
讓員工了解未經(jīng)批準(zhǔn)使用人工智能的風(fēng)險(xiǎn),重要的是要記住,大多數(shù)影子人工智能違規(guī)行為并非出于惡意。在從同事、朋友和家人那里得知像ChatGPT這樣的流行平臺(tái)如何幫助處理乏味的工作,甚至創(chuàng)作藝術(shù)或音樂后,員工常常很想嘗試一下,看看自己能從中受益。因此,關(guān)鍵的第一步是對(duì)員工進(jìn)行教育。
具體了解影子人工智能帶來的威脅和影響:首先,將敏感或?qū)S行畔⑤斎牒谙蛔尤斯ぶ悄艿目赡苄?。其次,缺乏?duì)企業(yè)人工智能使用的整體了解,意味著人工智能失敗的影響將是未知的。與員工建立這種程度的透明度有助于證明風(fēng)險(xiǎn)是真實(shí)的。
更新人工智能政策和流程:對(duì)于許多企業(yè)來說,全面禁止所有人工智能的使用并不是一條合理的道路,尤其是那些每天使用機(jī)器學(xué)習(xí)和大型語(yǔ)言增強(qiáng)功能的企業(yè)。但I(xiàn)T領(lǐng)導(dǎo)者可以更新他們的政策,以包含特定的人工智能限制以及有關(guān)如何獲得批準(zhǔn)的業(yè)務(wù)需求的指導(dǎo)。為了為合法用例提供授權(quán)途徑,組織可以實(shí)施審查人工智能使用的流程,在此期間企業(yè)可以審查用例、評(píng)估風(fēng)險(xiǎn)并批準(zhǔn)或拒絕。
采用端點(diǎn)安全工具:實(shí)際上,僅人工智能教育和更新的政策并不能阻止所有用戶嘗試影子人工智能技術(shù)和服務(wù)。因此,為了進(jìn)一步保護(hù)自己,組織必須采用更多工具來增強(qiáng)對(duì)所有人工智能使用的可見性,并降低用戶層面的外部風(fēng)險(xiǎn)。端點(diǎn)將成為控制或了解用戶是否以及如何仍在使用影子人工智能的最有效的地方。因此,在許多情況下,采用端點(diǎn)安全工具是解決方案,可以應(yīng)對(duì)遠(yuǎn)程用戶和基于云的人工智能平臺(tái)的最大風(fēng)險(xiǎn)。這可以以云訪問安全代理(CASB)等技術(shù)以及解決端點(diǎn)和遠(yuǎn)程工作人員問題的其他技術(shù)的形式出現(xiàn)。
與人工智能供應(yīng)商建立終端用戶協(xié)議:終端用戶許可協(xié)議(EULA)在IT領(lǐng)域并不罕見。這些協(xié)議也稱為軟件許可協(xié)議,是在終端用戶和軟件供應(yīng)商之間實(shí)施的。當(dāng)在軟件級(jí)別實(shí)施時(shí),這些協(xié)議圍繞用戶如何使用特定軟件或應(yīng)用設(shè)置參數(shù)。該協(xié)議還包括對(duì)使用該軟件的限制。例如,EULA限制用戶以任何有利于自己而不是供應(yīng)商的方式分發(fā)或共享軟件。從人工智能的角度來看,實(shí)施類似的協(xié)議可能有利于控制將哪些數(shù)據(jù)輸入人工智能模型和平臺(tái)。一份正式協(xié)議清楚地概述了員工在利用這些模型時(shí)可以使用和不能使用哪些類型的數(shù)據(jù),有助于設(shè)定明確的界限和指導(dǎo)方針。它還開放了與人工智能供應(yīng)商本身的溝通,使流程更加協(xié)作和透明。
展望未來
不幸的是,與影子人工智能相關(guān)的挑戰(zhàn)在好轉(zhuǎn)之前可能會(huì)變得更糟,因?yàn)槿斯ぶ悄芄ぞ叩膶?shí)施速度比大多數(shù)組織能夠保護(hù)它們的速度更快。更重要的是,組織可能需要時(shí)間來實(shí)施正確的策略并部署所需的培訓(xùn),以確保在人工智能模型中正確、安全地利用數(shù)據(jù)。然而,我們可能會(huì)看到更多的公司和解決方案出現(xiàn)來應(yīng)對(duì)這些風(fēng)險(xiǎn)。
技術(shù)行業(yè)從未面臨過如此規(guī)模的情況,組織無法清楚地了解數(shù)據(jù)的去向、接收者以及數(shù)據(jù)的使用方式??焖偻S糜袉栴}的系統(tǒng)來解決所有影子IT問題的日子已經(jīng)一去不復(fù)返了。歸根結(jié)底,影子人工智能的足跡是巨大的,組織必須立即采取行動(dòng),防止更多未經(jīng)批準(zhǔn)的人工智能使用,以免為時(shí)已晚。
- 萬通發(fā)展:終止收購(gòu)索爾思光電60.16%股份
- 聯(lián)特科技預(yù)計(jì)2024年凈利潤(rùn)同比增長(zhǎng)220.96%—334.25%
- 有方科技預(yù)計(jì)2024年凈利潤(rùn)同比增長(zhǎng)365.41%
- 800G和400G高端光模塊銷售大增 中際旭創(chuàng)2024年凈利潤(rùn)增長(zhǎng)111.64%—166.85%
- 亞信安全:預(yù)計(jì)2024年實(shí)現(xiàn)扭虧為盈
- Arm發(fā)布芯粒系統(tǒng)架構(gòu)首個(gè)公開規(guī)范,加速芯片技術(shù)演進(jìn)
- 中國(guó)鐵塔擬新購(gòu)一套應(yīng)急無人直升機(jī)空中基站
- 427780臺(tái) 中國(guó)鐵塔啟動(dòng)智能維護(hù)攝像機(jī)產(chǎn)品集中招標(biāo)
- 規(guī)模267904臺(tái) 中國(guó)鐵塔啟動(dòng)2025年自研邊緣網(wǎng)關(guān)合作伙伴招標(biāo)
- 國(guó)家數(shù)據(jù)局聲明:未授權(quán)任何“數(shù)據(jù)要素×”相關(guān)有償活動(dòng)
免責(zé)聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。