一項(xiàng)新調(diào)查揭示了企業(yè)面臨的五大新興風(fēng)險(xiǎn)，對(duì)人工智能（AI）增強(qiáng)型惡意攻擊的擔(dān)憂在2024年第一季度的新興風(fēng)險(xiǎn)排名中位居榜首。

人工智能輔助工具引發(fā)惡意行為的前景令全球風(fēng)險(xiǎn)領(lǐng)導(dǎo)者感到擔(dān)憂。語(yǔ)音和圖像生成等人工智能輔助工具相對(duì)易于使用且質(zhì)量高，增強(qiáng)了實(shí)施惡意攻擊的能力，并帶來廣泛后果。

今年第一季度，Gartner對(duì)345名高級(jí)企業(yè)風(fēng)險(xiǎn)主管進(jìn)行了調(diào)查，以捕捉和評(píng)估他們面臨的20大新興風(fēng)險(xiǎn)，并讓領(lǐng)導(dǎo)者了解這些風(fēng)險(xiǎn)的原因和潛在后果。

在2024年第一季度的調(diào)查中，與人工智能相關(guān)的風(fēng)險(xiǎn)占據(jù)了前兩位，其中人工智能增強(qiáng)型惡意攻擊被列為最大的新興風(fēng)險(xiǎn)，人工智能輔助的虛假信息也引起了人們的擔(dān)憂。

人工智能攻擊和錯(cuò)誤信息的原因

人工智能攻擊和虛假信息的主要驅(qū)動(dòng)因素之一是其能力的快速擴(kuò)展。人工智能增強(qiáng)可以提供惡意代碼，并促進(jìn)網(wǎng)絡(luò)釣魚和社會(huì)工程，從而實(shí)現(xiàn)更精準(zhǔn)的入侵、更高的可信度和更具破壞性的攻擊。

低成本和快速增長(zhǎng)也讓用戶接觸到了這項(xiàng)技術(shù)，而他們卻不太清楚如何識(shí)別人工智能工具提供的信息是有效信息，還是虛假或歪曲的信息。

需要緩解的潛在后果

人工智能增強(qiáng)型攻擊和錯(cuò)誤信息的潛在影響是深遠(yuǎn)的，會(huì)對(duì)聲譽(yù)、生產(chǎn)力和組織的響應(yīng)能力產(chǎn)生重大影響。違規(guī)行為和披露要求的增加可能會(huì)削弱客戶、消費(fèi)者和合作伙伴對(duì)組織和品牌的信任。

人工智能增強(qiáng)型攻擊和錯(cuò)誤信息的速度和質(zhì)量，也阻礙了信息安全團(tuán)隊(duì)?wèi)?yīng)對(duì)和適應(yīng)新安全形勢(shì)的能力，進(jìn)一步放大了其漏洞。

以下是AI攻擊成為企業(yè)面臨的新主要風(fēng)險(xiǎn)的一些關(guān)鍵原因：

自動(dòng)化攻擊手段：

AI技術(shù)可以用于自動(dòng)化網(wǎng)絡(luò)攻擊，例如自動(dòng)化的釣魚攻擊（phishing）和分布式拒絕服務(wù)攻擊（DDoS）。這些攻擊可以以更高效、更大規(guī)模進(jìn)行，難以被傳統(tǒng)防御手段快速檢測(cè)和阻止。

智能化惡意軟件：

AI驅(qū)動(dòng)的惡意軟件能夠?qū)W習(xí)并適應(yīng)防御系統(tǒng)，變得更加隱蔽和難以檢測(cè)。例如，AI可以幫助惡意軟件不斷修改自身代碼以避免被防病毒軟件發(fā)現(xiàn)。

社會(huì)工程攻擊：

AI技術(shù)可以通過分析社交媒體和其他公開數(shù)據(jù)，生成更為逼真的社會(huì)工程攻擊。例如，使用AI生成的語(yǔ)音或視頻，可以模仿企業(yè)高層，實(shí)施詐騙行為（如CEO欺詐）。

數(shù)據(jù)泄露和隱私風(fēng)險(xiǎn)：

AI技術(shù)能夠更快地處理和分析大量數(shù)據(jù)，這使得一旦數(shù)據(jù)被不法分子獲取，他們可以更快速地識(shí)別并利用敏感信息，導(dǎo)致更嚴(yán)重的數(shù)據(jù)泄露和隱私侵害。

對(duì)抗性攻擊：

AI模型本身也成為攻擊目標(biāo)。攻擊者可以通過對(duì)抗性樣本（adversarialexamples）來欺騙AI系統(tǒng)，使其做出錯(cuò)誤判斷。這在自動(dòng)駕駛、金融交易等高風(fēng)險(xiǎn)應(yīng)用中尤其危險(xiǎn)。

深度偽造技術(shù)：

深度偽造（Deepfake）技術(shù)可以生成高度逼真的假視頻和音頻，這不僅威脅到個(gè)人隱私和聲譽(yù)，也可能被用來傳播虛假信息，影響公共輿論和企業(yè)聲譽(yù)。

供應(yīng)鏈攻擊：

AI可以用于識(shí)別并攻擊企業(yè)供應(yīng)鏈中的薄弱環(huán)節(jié)，導(dǎo)致整個(gè)供應(yīng)鏈的安全風(fēng)險(xiǎn)增加。例如，攻擊者可以通過AI分析找到最易受攻擊的供應(yīng)商進(jìn)行入侵，然后通過供應(yīng)商網(wǎng)絡(luò)進(jìn)入目標(biāo)企業(yè)系統(tǒng)。

企業(yè)應(yīng)當(dāng)采取多種措施來應(yīng)對(duì)AI帶來的安全威脅，包括：

加強(qiáng)網(wǎng)絡(luò)安全防護(hù)：采用先進(jìn)的安全技術(shù)和策略，如零信任架構(gòu)、多因素認(rèn)證和持續(xù)監(jiān)控。

員工培訓(xùn)和意識(shí)提升：提高員工對(duì)AI相關(guān)安全威脅的認(rèn)知，培養(yǎng)其防范社會(huì)工程攻擊的能力。

引入AI安全技術(shù)：利用AI技術(shù)增強(qiáng)安全防護(hù)，例如威脅檢測(cè)和響應(yīng)系統(tǒng)、異常行為分析等。

制定應(yīng)急響應(yīng)計(jì)劃：確保企業(yè)具備快速應(yīng)對(duì)和恢復(fù)的能力，以減少潛在攻擊的影響。

通過這些措施，企業(yè)可以更好地應(yīng)對(duì)AI技術(shù)帶來的新型安全挑戰(zhàn)，保護(hù)自身免受攻擊。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。