將人工智能工具引入業(yè)務(wù)工作流程可以讓一些信息變得可用，這些信息對黑客來說可能更有價值，而且也更難防范。

似乎越來越有可能的是，人工智能正在改變各行各業(yè)的It運營，從最小的初創(chuàng)企業(yè)到大型傳統(tǒng)企業(yè)。在某些方面，人工智能的出現(xiàn)是一股均衡力量，由于人工智能仍處于起步階段，所有企業(yè)在探索如何利用這些新工具時都同樣處于早期階段。在制定新的安全措施以配合在工作場所內(nèi)外使用人工智能時，大多數(shù)企業(yè)也處于平等地位。

與之前的顛覆性技術(shù)一樣，探索中的一個主要問題是在創(chuàng)新和信息安全之間取得適當(dāng)?shù)钠胶?。盡管人工智能具有增強業(yè)務(wù)運營的潛力，但它也同樣有可能使企業(yè)面臨危險。對首席技術(shù)官來說，非常謹(jǐn)慎地對待人工智能的采用是一個好主意，因為即使它徹底改變了IT領(lǐng)導(dǎo)者開展業(yè)務(wù)的方式，它也會同樣徹底改變黑客和其他不良行為者的攻擊方式。

黑客長期以來一直將數(shù)據(jù)作為他們的“戰(zhàn)利品”，無論是可以在商業(yè)競爭中利用的專有企業(yè)數(shù)據(jù)，還是可以幫助獲取個人個人財富等等的個人數(shù)據(jù)，人工智能不會阻止數(shù)據(jù)的盜竊和利用。

人工智能收集數(shù)據(jù)的黑客攻擊

由于人工智能既可以從數(shù)據(jù)中學(xué)習(xí)，也可以用來處理和解析大量數(shù)據(jù)，因此它的崛起可能會導(dǎo)致更多不同類型的數(shù)據(jù)暴露，成為黑客攻擊的目標(biāo)。也就是說，將人工智能工具引入業(yè)務(wù)工作流程有可能導(dǎo)致人們提供一些對黑客來說更有價值的信息，而且也更難防范黑客攻擊。

當(dāng)任何人，無論是企業(yè)決策者還是個人，選擇使用人工智能時，他們都需要意識到向人工智能程序提供數(shù)據(jù)所涉及的風(fēng)險，并確保他們對決策充滿信心。在企業(yè)環(huán)境中，我傾向于認為單個團隊成員應(yīng)該避免單獨做出這個決定。一個知情的團隊，不僅包括首席技術(shù)官，還包括營銷和法律等其他關(guān)鍵群體的代表，應(yīng)該幫助指導(dǎo)有關(guān)人工智能工具的所有決策。

人工智能促進黑客攻擊

那些旨在制定負責(zé)任的人工智能使用政策、符合企業(yè)最大利益的人，可以從了解他們所面臨的不斷變化的威脅中受益。雖然人工智能的進步可能不會改變黑客的目標(biāo)，信息可能仍然是一種有價值的商品，但它幾乎肯定會改變他們的目標(biāo)方式。

畢竟，人工智能是一種強大的工具，可以大規(guī)模地自動化各種分析過程，其中包括邪惡的分析過程。因此，雖然許多首席技術(shù)官，自然渴望充分利用人工智能的許多潛在用例，但我們所有人都應(yīng)該記住，黑客也是如此。

許多開發(fā)人員在構(gòu)建人工智能工具時，熱衷于追求的目標(biāo)之一是讓這些工具盡可能地顯得人性化。像ChatGPT這樣的大型語言模型(LLM)不僅可以模擬語言的流暢性，還可以模擬語氣，甚至可以模擬引人入勝的對話。

在最成功的情況下，這可能意味著人工智能將能夠通過圖靈測試，這是計算機科學(xué)家艾倫·圖靈提出的一項測試，旨在確定機器表現(xiàn)出人類特征的能力；通過圖靈測試意味著機器可以欺騙不知情的人，讓他們認為他們正在與另一個人交談。

這可能對網(wǎng)絡(luò)釣魚黑客的規(guī)模和有效性產(chǎn)生重大影響。網(wǎng)絡(luò)釣魚需要冒充某個機構(gòu)或個人來欺騙受害者交出金錢、敏感信息或機密訪問權(quán)限（通過密碼等）?，F(xiàn)代網(wǎng)絡(luò)釣魚詐騙，例如近年來愈演愈烈的國稅局騙局已經(jīng)比21世紀(jì)初的“尼日利亞王子”騙局復(fù)雜了好幾光年，但要想讓人信服，它們可能會很麻煩，而且需要耗費大量時間。

人工智能可能會提供黑客正在尋找的解決方案，而首席技術(shù)官們應(yīng)該對此感到恐懼。一種可以快速解析所需信息的工具的承諾，可以對代表某個機構(gòu)的人或任何其他人進行高級模仿，這為許多同時對話打開了大門，從而說服受害者提供信息。這可能意味著，相對小規(guī)模的黑客行動可能比以往任何時候都有可能犯下更多、更高級的欺詐行為。

但事情并沒有就此結(jié)束。如果企業(yè)的團隊成員正在與LLMAI進行交互，即使小心地將敏感數(shù)據(jù)保密，他們?nèi)匀豢赡芟蚱涮峁┛赡芙o您公司帶來風(fēng)險的信息而沒有意識到這一點。在與任何人交談時，即使是表面上平淡無奇的話題，人工智能也會了解這個人的聊天方式、感興趣的話題類型等等。

事實上，即使團隊從未與人工智能互動，我們所有人仍然有很多相對不受保護的數(shù)據(jù)，從瀏覽歷史記錄到電子郵件訂閱，再到可用于操縱的其他信息，在互聯(lián)網(wǎng)上流動并可供購買。這可能適用于所有團隊成員，包括公司的CEO，甚至是CTO。不難想象，黑客要么購買個人數(shù)據(jù)來訓(xùn)練人工智能，要么利用人工智能通過與人的直接互動了解到的信息來冒充他們。

這在個人層面上已經(jīng)足夠可怕了，想象一下，當(dāng)朋友和家人認為他們正在與我們聊天時，這樣的機器能夠從他們那里收集什么信息。然而，在專業(yè)層面上，它為員工創(chuàng)造了代表黑客執(zhí)行任務(wù)的機會，這些任務(wù)可能會危及企業(yè)，以響應(yīng)看似來自同事的指令。利用這些信息可以創(chuàng)建的攻擊，將比我們今天看到的典型網(wǎng)絡(luò)釣魚更有針對性，因此更復(fù)雜和先進。

這種進步也延續(xù)到了更基本和更細粒度的黑客元素上。到目前為止，如果黑客想要收集有關(guān)團隊成員或整個企業(yè)的信息，他們必須準(zhǔn)備好投入一些時間。借助人工智能，大部分繁瑣的偵察工作都可以在算法的幫助下得到簡化，這些算法幾乎可以立即消化大量信息。此外，人工智能能夠在收集數(shù)據(jù)時進行分析，這對黑客來說意味著識別漏洞和攻擊點。所有這些都使黑客能夠迅速發(fā)動更多、更大規(guī)模的攻擊。

與此相關(guān)的是，如果人工智能能夠在眨眼間收集信息并識別和分析漏洞，它也將能夠比我們以前見過的更快地開發(fā)復(fù)雜的對策。通常，如果黑客想要在計算機、服務(wù)器或網(wǎng)絡(luò)上安裝惡意軟件，他們必須首先進行偵察以找到漏洞，確定哪種惡意軟件最能利用這些漏洞，然后編寫軟件。人工智能強大的分析和外推能力意味著這三步過程幾乎可以立即發(fā)生。這可能意味著高度定制且?guī)缀蹼y以察覺的惡意軟件，可以幾乎實時地收集信息并逃避反病毒工作。

這就是為什么我說首席技術(shù)官和首席信息官需要先于黑客思考。所有IT領(lǐng)導(dǎo)者都需要了解是什么讓企業(yè)容易受到這些攻擊，并在新一波人工智能黑客攻擊到來之前加強防御。

總結(jié)

關(guān)于人工智能進化的討論已經(jīng)無處不在，以前的技術(shù)往往在開發(fā)和采用方面走得更遠，然后才達到人工智能已經(jīng)享受的外行熟悉程度。目前對于如何應(yīng)對人工智能大規(guī)模黑客攻擊還沒有足夠的了解，如何防止這些攻擊就更不清楚了。雖然新技術(shù)也非常令人興奮，并將為各行業(yè)的首席信息官和首席技術(shù)官打開無數(shù)的大門，但我們應(yīng)該意識到，黑客和我們一樣興奮。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。