去年，生成式人工智能的采用率急劇上升。雖然該技術(shù)有望實現(xiàn)創(chuàng)新和生產(chǎn)力，但數(shù)據(jù)安全和泄露的風(fēng)險卻困擾著組織。與生成式人工智能相關(guān)的一些風(fēng)險包括數(shù)據(jù)濫用、數(shù)據(jù)泄露和數(shù)據(jù)中毒。這是因為生成式人工智能是一種大型語言模型(LLM)，它依賴于大量數(shù)據(jù)來產(chǎn)生輸出。隨著人工智能的日益普及和發(fā)展，理解和減輕固有風(fēng)險對組織來說變得越來越重要。

與人工智能相關(guān)的三大風(fēng)險

大多數(shù)生成式人工智能風(fēng)險源于用戶如何提出提示以及工具如何收集、存儲和處理信息。以下是與生成式人工智能工具相關(guān)的三個主要風(fēng)險。

數(shù)據(jù)泄露風(fēng)險

生成式人工智能系統(tǒng)通過大型數(shù)據(jù)集和用戶提供的提示來學(xué)習(xí)和改進。提示用于立即分析，并且通常保留在人工智能的后端中，以供將來的訓(xùn)練和模型優(yōu)化。它們也經(jīng)常由人類操作員進行分析。這帶來了無意中暴露敏感信息的潛在風(fēng)險。

與此類人工智能工具交互的員工，可能會在不知不覺中在提示中泄露機密或敏感細節(jié)。例如，最近發(fā)生的一起事件顯示，三星員工將機密代碼上傳到ChatGPT，從而暴露了企業(yè)最敏感的信息。他們還使用ChatGPT創(chuàng)建會議記錄和總結(jié)業(yè)務(wù)報告，無意中泄露了機密信息。

雖然這只是一個例子，但在很多情況下，員工在不知情的情況下將敏感信息上傳到人工智能軟件，使企業(yè)的數(shù)據(jù)面臨風(fēng)險。

人工智能工具中的漏洞

與任何軟件一樣，生成式人工智能工具也不能免受安全漏洞的影響。這些漏洞可能會給用戶數(shù)據(jù)和更廣泛的系統(tǒng)安全帶來重大風(fēng)險。一些潛在的違規(guī)行為包括：

數(shù)據(jù)泄露：人工智能系統(tǒng)存儲大量信息數(shù)據(jù)集，如果黑客利用漏洞，并滲透托管生成人工智能工具的計算機系統(tǒng)或網(wǎng)絡(luò)，這些信息可能會面臨風(fēng)險。這樣，黑客就可以訪問敏感數(shù)據(jù)，包括用戶生成的提示、企業(yè)內(nèi)部文檔等。

模型操縱：惡意行為者可能操縱人工智能模型，可能導(dǎo)致有偏見或不準(zhǔn)確的輸出、錯誤信息活動或有害內(nèi)容。

數(shù)據(jù)中毒或竊取

生成式人工智能模型嚴(yán)重依賴的數(shù)據(jù)集通?？梢詮幕ヂ?lián)網(wǎng)上抓取，從而使數(shù)據(jù)容易受到數(shù)據(jù)中毒和竊取。

數(shù)據(jù)中毒是指惡意威脅行為者將誤導(dǎo)性或錯誤的數(shù)據(jù)注入現(xiàn)有的訓(xùn)練集中，從而破壞或操縱人工智能的學(xué)習(xí)過程。這可能會導(dǎo)致有偏見、不準(zhǔn)確甚至有害的用戶輸出。

當(dāng)人工智能組織缺乏足夠的數(shù)據(jù)存儲和安全措施時，可能會發(fā)生數(shù)據(jù)竊取，從而可能暴露敏感的用戶信息或?qū)Ｓ兄R產(chǎn)權(quán)。這些被盜數(shù)據(jù)可用于各種惡意目的，例如身份盜竊。

使用生成式人工智能帶來的另一個困境是黑客利用該技術(shù)進行威脅。黑客使用生成式人工智能發(fā)起高度復(fù)雜的網(wǎng)絡(luò)釣魚攻擊，用戶無法區(qū)分合法電子郵件和黑客編寫的電子郵件，從而導(dǎo)致網(wǎng)絡(luò)攻擊。威脅行為者還利用人工智能進行深度虛假攻擊，利用合法機構(gòu)的面部表情、聲音或音頻來操縱目標(biāo)采取某些行動或泄露敏感信息。

如何降低生成式人工智能風(fēng)險？

組織可以通過以下幾種方式減輕生成式人工智能風(fēng)險并安全地利用該技術(shù)。

教育員工：最關(guān)鍵的一步是教育員工了解使用人工智能工具的潛在風(fēng)險。對收集、處理和存儲信息的教育可以使他們正確地進行提示。組織可以通過制定人工智能使用指南并提及該行業(yè)所需的合規(guī)性或監(jiān)管指南來防止數(shù)據(jù)泄露和其他相關(guān)攻擊。

進行法律審查：每個人工智能工具都有其規(guī)定。這些需要由組織的法律部門進行審查，以確保它們保持一致。對于金融服務(wù)或醫(yī)療保健等受到嚴(yán)格監(jiān)管的行業(yè)來說，這一點更為重要。法律團隊可以就數(shù)據(jù)收集、存儲和使用條款和條件向公司發(fā)出警告，并查看它們是否與公司一致。

保護用于訓(xùn)練人工智能的數(shù)據(jù)和數(shù)據(jù)集：數(shù)據(jù)安全應(yīng)該是構(gòu)建自己的生成人工智能工具的組織的首要任務(wù)。他們必須優(yōu)先考慮符合預(yù)期目的的數(shù)據(jù)，并避免在數(shù)據(jù)選擇時引入偏見或敏感信息。匿名信息也至關(guān)重要，因為它可以最大限度地降低識別個人的風(fēng)險，同時保留人工智能模型的數(shù)據(jù)實用性。組織還應(yīng)通過建立明確的數(shù)據(jù)治理策略和訪問控制機制來優(yōu)先考慮數(shù)據(jù)安全措施，以限制只有授權(quán)人員才能訪問敏感數(shù)據(jù)。

建立零信任系統(tǒng)：組織可以通過采用零信任安全模型，僅向需要執(zhí)行任務(wù)的特定員工授予對敏感數(shù)據(jù)和信息的訪問權(quán)限。這種精細控制顯著減少了整體攻擊面，并防止了心懷不滿的員工或意外錯誤可能導(dǎo)致操作人工智能工具時數(shù)據(jù)泄露或盜用的情況。

結(jié)論

生成式人工智能憑借其自動化任務(wù)、生成獨特內(nèi)容和個性化用戶體驗的能力，有可能徹底改變行業(yè)。然而，它也伴隨著固有的風(fēng)險。其中包括數(shù)據(jù)隱私問題、偏見和濫用的可能性。

通過預(yù)防措施來應(yīng)對風(fēng)險，而不是阻止生成式人工智能的使用，將使組織能夠充分利用這項技術(shù)。通過實施強有力的安全措施、促進負責(zé)任的數(shù)據(jù)治理實踐和優(yōu)先考慮用戶教育，可以減輕這些風(fēng)險。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。