如何管理人工智能風(fēng)險(xiǎn)和安全？在大多數(shù)組織中，人工智能模型是“黑匣子”，只有數(shù)據(jù)科學(xué)家知道人工智能到底做什么。這可能會(huì)給組織帶來(lái)重大風(fēng)險(xiǎn)。

大型、敏感的數(shù)據(jù)集經(jīng)常被用于訓(xùn)練AI模型，從而產(chǎn)生隱私和數(shù)據(jù)泄露風(fēng)險(xiǎn)。人工智能的使用增加了組織的威脅向量，并擴(kuò)大了其攻擊面。人工智能進(jìn)一步為良性錯(cuò)誤創(chuàng)造了新的機(jī)會(huì)，對(duì)模式和業(yè)務(wù)結(jié)果產(chǎn)生不利影響。不了解的風(fēng)險(xiǎn)無(wú)法減輕。Gartner最近對(duì)首席信息安全官的一項(xiàng)調(diào)查顯示，大多數(shù)組織沒(méi)有考慮到人工智能帶來(lái)的新的安全和業(yè)務(wù)風(fēng)險(xiǎn)，或者他們必須采取新的控制措施來(lái)降低這些風(fēng)險(xiǎn)。人工智能需要新型風(fēng)險(xiǎn)和安全管理措施以及緩解框架。以下是安全和風(fēng)險(xiǎn)領(lǐng)導(dǎo)者應(yīng)該關(guān)注的五大優(yōu)先事項(xiàng)，以有效管理其組織內(nèi)的人工智能風(fēng)險(xiǎn)和安全:1、捕捉AI暴露程度機(jī)器學(xué)習(xí)模型對(duì)大多數(shù)用戶來(lái)說(shuō)是不透明的，并且與一般的軟件系統(tǒng)不同，它們的內(nèi)部工作原理甚至連最熟練的專家都不知道。數(shù)據(jù)科學(xué)家和模型開(kāi)發(fā)人員通常理解他們的機(jī)器學(xué)習(xí)模型試圖做什么，但他們不能總是破譯模型處理數(shù)據(jù)的內(nèi)部結(jié)構(gòu)或算法手段。這種理解能力的缺乏嚴(yán)重限制了組織管理AI風(fēng)險(xiǎn)的能力。人工智能風(fēng)險(xiǎn)管理的第一步是列出組織中使用的所有人工智能模型，無(wú)論它們是第三方軟件的組件、內(nèi)部開(kāi)發(fā)或通過(guò)軟件即服務(wù)應(yīng)用程序訪問(wèn)。這應(yīng)該包括識(shí)別各種模型之間的相互依賴關(guān)系。然后根據(jù)運(yùn)營(yíng)影響對(duì)模型進(jìn)行排序，并考慮到風(fēng)險(xiǎn)管理控制可以根據(jù)確定的優(yōu)先級(jí)逐步應(yīng)用。一旦模型被列出，下一步就是使它們盡可能的可解釋或可解釋性?！翱山忉屝浴币馕吨a(chǎn)生細(xì)節(jié)、原因或解釋的能力，為特定的受眾闡明模型的功能。這將為風(fēng)險(xiǎn)和安全管理者提供管理和減輕由模型結(jié)果帶來(lái)的業(yè)務(wù)、社會(huì)、責(zé)任和安全風(fēng)險(xiǎn)的環(huán)境。2、通過(guò)人工智能風(fēng)險(xiǎn)教育活動(dòng)提高員工意識(shí)員工意識(shí)是人工智能風(fēng)險(xiǎn)管理的一個(gè)重要組成部分。首先，讓所有參與者，包括CISO、首席隱私官、首席數(shù)據(jù)官以及法律和合規(guī)官，重新調(diào)整他們對(duì)AI的心態(tài)。他們應(yīng)該明白，人工智能“不像任何其他應(yīng)用程序”——它會(huì)帶來(lái)獨(dú)特的風(fēng)險(xiǎn)，需要特定的控制來(lái)減輕此類風(fēng)險(xiǎn)。然后，與業(yè)務(wù)利益相關(guān)者聯(lián)系，以擴(kuò)大對(duì)需要管理的AI風(fēng)險(xiǎn)的認(rèn)識(shí)。與這些利益相關(guān)者一起，確定跨團(tuán)隊(duì)和隨著時(shí)間的推移構(gòu)建AI知識(shí)的最佳方式。例如，看看是否可以在企業(yè)的學(xué)習(xí)管理系統(tǒng)中添加一門關(guān)于基本AI概念的課程。與應(yīng)用程序和數(shù)據(jù)安全部門合作，幫助在所有組織成員中培養(yǎng)AI知識(shí)。3、通過(guò)隱私計(jì)劃消除人工智能數(shù)據(jù)暴露根據(jù)Gartner最近的一項(xiàng)調(diào)查，隱私和安全一直被視為人工智能實(shí)現(xiàn)的主要障礙。采用數(shù)據(jù)保護(hù)和隱私程序可以有效地消除AI內(nèi)部和共享數(shù)據(jù)的暴露。有一系列方法可以用于訪問(wèn)和共享基本數(shù)據(jù)，同時(shí)仍然滿足隱私和數(shù)據(jù)保護(hù)要求。確定哪種數(shù)據(jù)隱私技術(shù)或技術(shù)組合，對(duì)組織的特定用例最有意義。例如，調(diào)查諸如數(shù)據(jù)屏蔽、合成數(shù)據(jù)生成或差分隱私等技術(shù)。在向外部組織導(dǎo)出或?qū)霐?shù)據(jù)時(shí)，應(yīng)滿足數(shù)據(jù)隱私要求。在這些場(chǎng)景中，像完全同態(tài)加密和安全多方計(jì)算等技術(shù)，應(yīng)該比保護(hù)數(shù)據(jù)不受內(nèi)部用戶和數(shù)據(jù)科學(xué)家的影響更有用。4、將風(fēng)險(xiǎn)管理納入模型運(yùn)營(yíng)AI模型需要特殊用途的流程作為模型操作或ModelOps的一部分，以使人工智能可靠且高效。隨著環(huán)境因素的不斷變化，AI模型必須持續(xù)監(jiān)測(cè)業(yè)務(wù)價(jià)值泄漏和不可預(yù)測(cè)的(有時(shí)是不利的)結(jié)果。有效的監(jiān)控需要對(duì)AI模型的理解。專門的風(fēng)險(xiǎn)管理流程必須成為ModelOps的一個(gè)組成部分，以使AI更值得信任、準(zhǔn)確、公平，并對(duì)對(duì)抗性攻擊或良性錯(cuò)誤更有彈性?？刂拼胧?yīng)該持續(xù)應(yīng)用——例如，貫穿模型開(kāi)發(fā)、測(cè)試和部署以及持續(xù)運(yùn)營(yíng)的整個(gè)過(guò)程。有效的控制將檢測(cè)到惡意行為、良性錯(cuò)誤和AI數(shù)據(jù)或模型的意外變化，這些變化會(huì)導(dǎo)致不公平、損壞、不準(zhǔn)確、模型性能和預(yù)測(cè)不佳，以及其他意想不到的后果。

5、采用人工智能安全措施應(yīng)對(duì)對(duì)抗性攻擊檢測(cè)和阻止對(duì)人工智能的攻擊需要新的技術(shù)。對(duì)AI的惡意攻擊可能導(dǎo)致重大的組織損害和損失，包括財(cái)務(wù)、聲譽(yù)或與知識(shí)產(chǎn)權(quán)、敏感客戶數(shù)據(jù)或?qū)Ｓ袛?shù)據(jù)相關(guān)的數(shù)據(jù)。與安全部門合作的應(yīng)用程序負(fù)責(zé)人必須在他們的AI應(yīng)用程序中添加控制，以檢測(cè)異常數(shù)據(jù)輸入、惡意攻擊和良性輸入錯(cuò)誤。圍繞AI模型和數(shù)據(jù)實(shí)施一整套傳統(tǒng)的企業(yè)安全控制，以及針對(duì)AI的全新完整性措施，如容忍對(duì)抗性AI的訓(xùn)練模型。最后，使用欺詐、異常檢測(cè)和機(jī)器人檢測(cè)技術(shù)，防止AI數(shù)據(jù)中毒或輸入錯(cuò)誤檢測(cè)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。