當(dāng)人工智能領(lǐng)導(dǎo)者們爭(zhēng)論什么是安全的人工智能以及這是否意味著我們正走上毀滅之路時(shí)，網(wǎng)絡(luò)安全社區(qū)仍在努力思考如何才能最好地保護(hù)我們的企業(yè)和客戶。人工智能帶來了巨大的挑戰(zhàn)和機(jī)遇、大量新應(yīng)用和快速發(fā)展的威脅。這使得網(wǎng)絡(luò)安全社區(qū)合作領(lǐng)先于不良行為者比以往任何時(shí)候都更加重要。

人工智能如何為黑客和惡意攻擊者提供力量

2022年，物理安全事件給企業(yè)造成了1萬億美元的損失，而人工智能驅(qū)動(dòng)的網(wǎng)絡(luò)攻擊繼續(xù)表現(xiàn)出更高的復(fù)雜性、速度和適應(yīng)性。雖然這使得它們更難檢測(cè)和緩解，但DarkGPT和FraudGPT等產(chǎn)品讓惡意行為者更容易造成傷害，而無需任何編碼技能。

人工智能算法可以將來自社交媒體和其他來源的大量數(shù)據(jù)轉(zhuǎn)化為高度針對(duì)性和令人信服的網(wǎng)絡(luò)釣魚攻擊或其他形式的社交工程。例如，在利用生成式人工智能的競(jìng)爭(zhēng)中，黑客已經(jīng)利用假的ChatGPT網(wǎng)站和模仿真實(shí)網(wǎng)站的網(wǎng)絡(luò)釣魚詐騙來利用普通用戶。當(dāng)這些攻擊針對(duì)毫無戒心的員工時(shí)，它們可以提供對(duì)關(guān)鍵系統(tǒng)的未經(jīng)授權(quán)的訪問。

與此同時(shí)，為了快速進(jìn)入市場(chǎng)，合法的GenAI客戶在開發(fā)應(yīng)用時(shí)往往沒有將安全性作為優(yōu)先事項(xiàng)。由于Google的Gemini等產(chǎn)品容易受到攻擊，早期采用者正在使用第三方應(yīng)用程序擴(kuò)充員工隊(duì)伍，而這讓他們處于危險(xiǎn)之中，這意味著員工可能會(huì)在不知情的情況下故意泄露企業(yè)的敏感信息。

隨著網(wǎng)絡(luò)安全社區(qū)學(xué)會(huì)防御一系列人工智能攻擊，該技術(shù)只會(huì)助長不法分子的氣焰。我們的團(tuán)隊(duì)將面臨越來越高級(jí)的高級(jí)持續(xù)性威脅(APT)以及更復(fù)雜、更具有規(guī)避性的惡意軟件，這些惡意軟件能夠以更高的精度和速度滲透和操縱工業(yè)控制系統(tǒng)。

人工智能如何賦能網(wǎng)絡(luò)安全防御者

在人工智能加速發(fā)展的世界中，安全領(lǐng)導(dǎo)者面臨的挑戰(zhàn)比以往任何時(shí)候都要快。值得慶幸的是，我們擁有同樣的技術(shù)，我們可以利用人工智能解決方案來加強(qiáng)防御，并針對(duì)不良行為者發(fā)起主動(dòng)行動(dòng)。

通過將AI/ML類型的模型納入安全程序，我們的網(wǎng)絡(luò)安全團(tuán)隊(duì)可以更深入地了解我們的數(shù)據(jù)，并發(fā)現(xiàn)我們?cè)緯?huì)忽略的風(fēng)險(xiǎn)。與自動(dòng)化相結(jié)合后，AI工具可以篩選海量數(shù)據(jù)集、比較數(shù)據(jù)集群行為，并在人類同行之前對(duì)潛在危險(xiǎn)做出反應(yīng)，從而快速將暴露的系統(tǒng)與公司的基礎(chǔ)設(shè)施隔離開來。

此外，正如惡意攻擊者使用GenAI制造更強(qiáng)大、更具欺騙性的威脅一樣，企業(yè)也可以使用該技術(shù)構(gòu)建主動(dòng)訓(xùn)練場(chǎng)景。在這種受控環(huán)境中，團(tuán)隊(duì)可以練習(xí)、測(cè)試和改進(jìn)防御能力，從而為應(yīng)對(duì)各種真實(shí)攻擊做好準(zhǔn)備。在日常工作中，可以實(shí)施GenAI，使CISO能夠使用自然語言詢問有關(guān)其計(jì)劃的問題，并獲得具有預(yù)測(cè)性見解的準(zhǔn)確答案。

雖然員工培訓(xùn)和教育仍然至關(guān)重要，但擊敗當(dāng)今的網(wǎng)絡(luò)犯罪分子需要強(qiáng)大且不斷發(fā)展的技術(shù)防御。

網(wǎng)絡(luò)安全高管的新角色

AI可以幫助提供早期檢測(cè)警告和更快的響應(yīng)時(shí)間，以便在該時(shí)間段內(nèi)識(shí)別違規(guī)行為。隨著職責(zé)的增加，如今的CISO不再像以前那樣身處戰(zhàn)壕。他們更有可能從更高的角度觀察他們的計(jì)劃，使他們能夠采取更全面的方法制定網(wǎng)絡(luò)防御策略，并用可操作的數(shù)據(jù)情報(bào)指導(dǎo)他們的團(tuán)隊(duì)。

對(duì)于CISO來說，擁抱AI/ML對(duì)于實(shí)現(xiàn)這種整體視角并幫助分析他們需要篩選的大量數(shù)據(jù)至關(guān)重要。

總結(jié)

隨著人工智能的能力似乎以驚人的速度增長，它不斷為雙方帶來新的可能性。為了領(lǐng)先于被賦予權(quán)力的壞人并塑造一個(gè)有彈性和適應(yīng)性的生態(tài)系統(tǒng)，網(wǎng)絡(luò)安全社區(qū)必須共同努力，發(fā)掘和擁抱風(fēng)險(xiǎn)管理和威脅防御中的可能性。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。