2024年大數(shù)據(jù)行業(yè)預(yù)測（六）

安全

GenAI將在2024年證明現(xiàn)有的安全意識培訓(xùn)已經(jīng)過時；組織將對其計劃進行現(xiàn)代化改造，以應(yīng)對這些新的、更復(fù)雜的威脅。隨著GenAI在不良行為者社區(qū)中的大規(guī)模消費，傳統(tǒng)安全意識培訓(xùn)的價值將迅速下降。企業(yè)將對安全意識計劃進行現(xiàn)代化改造，包括持續(xù)以用戶為中心的控制，增強識別和防御當(dāng)今現(xiàn)代社會工程攻擊的能力，同時提供實時用戶指導(dǎo)，以防止用戶在不經(jīng)意間意外成為此類攻擊的受害者。–Curtis Simpson，Armis首席信息安全官

2024年，由于人工智能的出現(xiàn)，釣魚培訓(xùn)將不再流行：由于人工智能，現(xiàn)代的對手正在用新的創(chuàng)新來提升其攻擊游戲。高級LLM將使攻擊者更容易制作完美的網(wǎng)絡(luò)釣魚電子郵件，不會留下錯別字或奇怪的格式供受害者捕獲。因此，我們所知道的網(wǎng)絡(luò)釣魚培訓(xùn)將變得過時。企業(yè)將需要尋求其他形式的網(wǎng)絡(luò)安全培訓(xùn)，以確保其關(guān)鍵資產(chǎn)受到保護，并采用更復(fù)雜的防御措施。–Eric Skinner，Trend Micro副總裁

隨著人工智能增強攻防戰(zhàn)略，API安全不斷發(fā)展：2023年，AI開始改變網(wǎng)絡(luò)安全，在進攻和防御安全方面發(fā)揮著關(guān)鍵作用。傳統(tǒng)上，識別和利用復(fù)雜的一次性API漏洞需要人工干預(yù)。人工智能現(xiàn)在正在改變這一格局，使流程自動化，從而實現(xiàn)具有成本效益的大規(guī)模攻擊。我預(yù)測到2024年，攻擊的復(fù)雜性和可擴展性將顯著增加。隨著人工智能成為惡意行為者和防御者的強大工具，我們將見證一個關(guān)鍵的轉(zhuǎn)變，重新定義數(shù)字安全的動態(tài)。–Shay Levi，Noname Security首席技術(shù)官兼聯(lián)合創(chuàng)始人

欺騙性AI驅(qū)動技術(shù)將在2024年變得突出：隨著時間的推移，網(wǎng)絡(luò)安全的復(fù)雜程度呈指數(shù)級發(fā)展，但隨著生成式AI變得更加突出，2023年出現(xiàn)了一些最快的創(chuàng)新。由于這些工具通常普遍可用且易于訪問，因此我們必須評估其對當(dāng)前網(wǎng)絡(luò)環(huán)境造成的風(fēng)險。生成式人工智能對于網(wǎng)絡(luò)安全行業(yè)而言是一把雙刃劍，其可以讓防御者變得更快、更有能力，但也為對手做同樣的事情。隨著生成式人工智能在模仿人類方面變得越來越好，攻擊者的技術(shù)變得越來越具有欺騙性，也越來越難以被發(fā)現(xiàn)，這使得傳統(tǒng)的社會工程跡象更難以從第一接觸點識別出來。這些趨勢將持續(xù)到2024年，并且變得更加危險。重要的是，該行業(yè)的能力在來年繼續(xù)跟上攻擊者對生成式人工智能和5G等新興技術(shù)的使用。–Siroui Mushegian，Barracuda首席信息官

人工智能將在組織如何分析安全數(shù)據(jù)，并采取行動方面發(fā)揮越來越重要的作用：我們將開始看到使用人工智能與分析和運營手冊相關(guān)的可量化的好處。這些優(yōu)勢將有助于緩解安全運營中心(SOC)分析師目前所做的一些繁重工作。人工智能還將有利于響應(yīng)和緩解能力轉(zhuǎn)化為操作能力。–Mike Spanbauer，Juniper Networks首席技術(shù)官

從生產(chǎn)力到危險：人工智能對身份安全的影響：在數(shù)字化轉(zhuǎn)型的更廣泛背景下，人工智能以前所未有的方式提高了生產(chǎn)力，并開辟了非凡的可能性，例如創(chuàng)建與人類創(chuàng)造的內(nèi)容幾乎沒有區(qū)別的逼真圖像、視頻和文本。但在即將到來的一年里，組織必須做好迎接人工智能這把雙刃劍的準備。這種超現(xiàn)實內(nèi)容生成的能力具有深遠的影響，生成式人工智能的興起，將增強基于身份的攻擊。人工智能的發(fā)展與更廣泛的基于身份的風(fēng)險和漏洞交織在一起，包括日益增長的網(wǎng)絡(luò)釣魚和魚叉式網(wǎng)絡(luò)釣魚活動的威脅，以及攻擊者針對特定個人或群體的技術(shù)，并且通常會包含已知目標感興趣的信息。由于人工智能的能力，這已經(jīng)呈現(xiàn)出新的維度。進入2024年，組織必須保持警惕，了解技術(shù)風(fēng)險，投資先進的安全措施，并全面了解其身份基礎(chǔ)設(shè)施，以便有機會抵御威脅行為者。–Yaron Kassner，Silverfort聯(lián)合創(chuàng)始人兼首席技術(shù)官

人工智能將推動主動安全模型的采用。人們將更加關(guān)注主動方法和工具，包括防火墻、零信任、惡意軟件和強化。GenAI面臨的最主要威脅問題是，日益增長的隱私問題、無法檢測的網(wǎng)絡(luò)釣魚攻擊以及攻擊數(shù)量/速度的增加。應(yīng)對人工智能帶來的復(fù)雜安全挑戰(zhàn)，需要戰(zhàn)略規(guī)劃和主動措施。安全問題以一種近年來從未有過的方式出現(xiàn)了。–Mike Loukides，O’Reilly Media副總裁

人工智能的快速應(yīng)用將需要安全專業(yè)人員進行新的評估：ChatGPT面世已經(jīng)一年了，自其首次亮相以來，我們已經(jīng)看到人工智能工具的大規(guī)模擴散。說其改變了組織的工作方式是一種保守的說法。然而，隨著組織急于采用人工智能，許多組織對如何實現(xiàn)正確的安全控制缺乏基本的了解。到2024年，安全團隊面臨的最大挑戰(zhàn)將是，妥善保護其組織已經(jīng)使用的人工智能工具和技術(shù)。我們已經(jīng)看到了針對GenAI模型的攻擊，如模型反演、數(shù)據(jù)中毒和提示注入；隨著行業(yè)采用更多的人工智能工具，這些新型應(yīng)用中的人工智能攻擊面將會擴大。這將帶來一些挑戰(zhàn):改進人工智能的使用方式，以幫助提高效率和威脅檢測，同時應(yīng)對這些工具引入的新漏洞。再加上不良行為者也在使用這些工具來幫助自動化新威脅的開發(fā)和執(zhí)行，這已經(jīng)為新的安全事件創(chuàng)建了一個成熟的環(huán)境。就像任何新技術(shù)一樣，企業(yè)在采用人工智能時需要平衡安全性、便利性和創(chuàng)新性，并確保其了解人工智能的潛在影響。–Chaz Lever博士，Devo安全研究高級總監(jiān)

消費者將更加關(guān)注人工智能：最近的一項調(diào)查發(fā)現(xiàn)，超過一半(51%)的消費者曾是身份盜竊的受害者，或者認識受害者，81%的消費者擔(dān)心在網(wǎng)上購物時出現(xiàn)人工智能欺詐。消費者和企業(yè)有保護自己和彼此的社會責(zé)任，呼吁更多的安全工具來保護個人信息。企業(yè)對消費者層面還必須加強教育，以避免數(shù)據(jù)泄露，例如在線購物時，以及購物者在零售商網(wǎng)站上保存支付信息時。身份驗證工具，例如移動身份驗證，的重要性會越來越凸顯。–Tim Brown，Prove identity全球身份認證官

警惕2024年生成式人工智能的武器化：今年和未來的最大威脅涉及生成式人工智能的武器化，以驅(qū)動更復(fù)雜的網(wǎng)絡(luò)釣魚攻擊，以及我們將如何從安全角度解決這一問題。我們知道，人類的訓(xùn)練不足以陰止商業(yè)電子郵件泄露(BEC)攻擊的成功。根據(jù)美國聯(lián)邦調(diào)查局（FBI）的《互聯(lián)網(wǎng)犯罪報告》，在2022年，僅BEC就造成了約27億美元的損失，其他類型的網(wǎng)絡(luò)釣魚造成了5200萬美元的損失。有了這樣的激勵，網(wǎng)絡(luò)犯罪分子越來越多地加倍進行網(wǎng)絡(luò)釣魚和BEC嘗試，而生成式人工智能進一步推動了這一過程。到2024年，我們將看到更多此類人為攻擊，由于使用了人工智能，這些攻擊變得更加復(fù)雜和有針對性。我們需要重新考慮如何應(yīng)對這一問題的路線圖。我們應(yīng)該預(yù)料到，基于人工智能的攻擊會加速，變得更加普遍和有針對性，而且也會更加成功。攻擊者正在從依賴大量網(wǎng)絡(luò)釣魚電子郵件的發(fā)送方式，轉(zhuǎn)變?yōu)楝F(xiàn)在針對具有某人身份、銀行帳戶或個人詳細信息的特定信息的人，這使得詐騙更加令人信服。我們將看到這些社會工程攻擊的針對性和復(fù)雜性，以及最終的成功都顯著增加。電子郵件將繼續(xù)成為最大的威脅媒介，但我們現(xiàn)在在任何地方都可以看到這些攻擊，包括短信、語音消息、Slack等工作協(xié)作工具和社交媒體。在任何可以收到個人和商業(yè)消息的地方，都可能受到攻擊。–Patrick Harr，SlashNext首席執(zhí)行官

安全數(shù)據(jù)共享成為生成式AI驅(qū)動的網(wǎng)絡(luò)防御的關(guān)鍵：生成式AI是一種雙重用途的技術(shù)，有可能引領(lǐng)人類前進；但如果管理不當(dāng)，則使人類倒退，甚至走向潛在的滅絕。API推動系統(tǒng)、軟件和數(shù)據(jù)點之間的集成，對于以安全、受保護的方式實現(xiàn)人工智能的潛力至關(guān)重要。人工智能在網(wǎng)絡(luò)防御中的應(yīng)用也是如此。到2024年，組織將認識到安全的數(shù)據(jù)共享，對于構(gòu)建強大、有彈性的人工智能驅(qū)動的未來至關(guān)重要。雖然人工智能無疑證明了人類的聰明才智和潛力，但其安全和合乎道德的應(yīng)用勢在必行。這不僅僅是獲取人工智能工具；這是安全集成的責(zé)任和義務(wù)，主要是通過API促進的。–Ameya Talwalkar，Cequence Security首席執(zhí)行官兼創(chuàng)始人

人工智能驅(qū)動的攻擊和防御：網(wǎng)絡(luò)犯罪分子將越來越多地使用人工智能(AI)來自動化和增強其攻擊。作為回應(yīng)，網(wǎng)絡(luò)安全防御將更多地依賴人工智能和機器學(xué)習(xí)來進行威脅檢測和自動事件響應(yīng)，從而形成一場持續(xù)的算法之戰(zhàn)。–Joseph Carson，Delinea首席安全科學(xué)家

威脅行為者將贏得2024年人工智能之戰(zhàn)：生成式人工智能的興起引發(fā)了一場激烈的爭論。組織會及時利用生成式人工智能，還是威脅行為者會更快地利用生成式人工智能來獲得優(yōu)勢？不幸的是，隨著威脅行為者在采用生成式人工智能方面超過組織，天平將向黑暗面傾斜。準備好應(yīng)對深度偽造、復(fù)雜的網(wǎng)絡(luò)釣魚活動，以及逃避端點安全防御的隱形有效負載的無情攻擊。這些挑戰(zhàn)將以前所未有的方式，考驗網(wǎng)絡(luò)安全防御者的勇氣。–Aleksandr Yampolskiy博士，SecurityScorecard聯(lián)合創(chuàng)始人兼首席執(zhí)行官

黑客將開始利用人工智能，制造一場危機：雖然這是偉大技術(shù)創(chuàng)新的意外后果，但我們將開始看到人工智能落入不良行為者之手可能造成損害的證據(jù)。人工智能工具可以幫助黑客提高一個數(shù)量級的生產(chǎn)力。這將使其能夠更快地植入惡意軟件，發(fā)現(xiàn)漏洞，并利用弱姿態(tài)。–Ratan Tipirneni，Tigera總裁兼首席執(zhí)行官

人工智能已經(jīng)為網(wǎng)絡(luò)防御者提供了巨大的優(yōu)勢，使其能夠提高能力、減少勞動并更好地防御威脅。我們預(yù)計這些功能和優(yōu)勢將在2024年激增，因為防御者擁有該技術(shù)，從而根據(jù)特定用例指導(dǎo)其開發(fā)。從本質(zhì)上講，我們擁有主場優(yōu)勢，并打算充分利用。另一方面，雖然我們的一線調(diào)查人員在2023年發(fā)現(xiàn)攻擊者使用人工智能的情況非常有限，但到2024年，我們預(yù)計攻擊者將使用生成式人工智能和LLM來個性化并緩慢擴展其活動。攻擊者將盡其所能來模糊良性和惡意人工智能應(yīng)用之間的界限，因此防御者必須采取更快、更有效的響應(yīng)行動。–Phil Venables，Google Cloud首席信息安全官

隨著網(wǎng)絡(luò)安全攻擊風(fēng)險的上升，到2024年，政府必須采取積極主動的安全措施，確保其與居民的官方溝通渠道不被利用或受到影響，并且首先要非常謹慎地處理從居民那里獲得的任何敏感信息。每個人都應(yīng)該尋找的主要部分是，設(shè)置多重身份驗證的能力，使威脅行為者盡可能難以進入潛在的通信系統(tǒng)，如Facebook或X(以前的Twitter)。–Ben Sebree，CivicPlus研發(fā)高級副總裁

生成式AI的新惡意用途將會出現(xiàn)：對人工智能的恐懼是有根據(jù)的，但不是我們預(yù)期的方式。內(nèi)容創(chuàng)建雖然對網(wǎng)絡(luò)安全構(gòu)成風(fēng)險，但現(xiàn)代解決方案可以解決這一風(fēng)險。真正的威脅是，生成式人工智能正在開發(fā)計劃和組織攻擊的能力。如果這種情況發(fā)生，那就意味著人工智能可以動態(tài)設(shè)計和執(zhí)行攻擊，并利用互聯(lián)網(wǎng)上的信息來實現(xiàn)這一點。生成式人工智能有望消除我們相對于對手的最大優(yōu)勢：復(fù)雜攻擊所需的時間和資源。如果生成式人工智能能夠策劃攻擊，就會極大地改變力量平衡。如今，黑客需要數(shù)周時間才能發(fā)現(xiàn)漏洞。未來，人工智能可以在幾秒鐘或幾分鐘內(nèi)完成同樣的事情；而且不需要一支具有不同技能的黑客團隊，只需要一個人來處理人工智能。–Adrien Gendre，Vade首席產(chǎn)品和技術(shù)官

人們很容易通過極其負面的視角，來看待不良行為者為邪惡目的而對微調(diào)LLM的網(wǎng)絡(luò)安全影響。雖然人工智能確實將使黑客能夠擴展其所做的工作，但對于安全專業(yè)人員而言亦是如此。好消息是各國政府并沒有坐以待斃。構(gòu)建定制LLM為其他注重安全的政府機構(gòu)和商業(yè)組織提供了一條可行的前進道路。雖然只有資金雄厚的大型技術(shù)企業(yè)才有資源從頭開始建立LLM，但許多企業(yè)都擁有專業(yè)知識和資源來微調(diào)開源LLM，以減輕不良行為者的威脅。我們有責(zé)任確保，無論出于惡意目的而創(chuàng)建的是什么，都要有一種平等的、相反的力量，來為善創(chuàng)造相同的工具集。–Aaron Mulgrew，F(xiàn)orcepoint解決方案架構(gòu)師

自2022年以來，我們見證了數(shù)據(jù)安全和監(jiān)管合規(guī)技術(shù)領(lǐng)域的顯著轉(zhuǎn)變。這一轉(zhuǎn)變標志著技術(shù)整合的開始，預(yù)計未來幾年將持續(xù)下去。隨著消費者尋求滿足數(shù)據(jù)安全和監(jiān)管要求的解決方案，同時最大限度地減少所需的專業(yè)知識、成本和工作量，利基和單一解決方案產(chǎn)品和供應(yīng)商越來越受到收購和合作伙伴的追捧。使2024年變得特別有趣的是最近的發(fā)展和收購，目前表明供應(yīng)商將在新的一年中采取一些不同的路徑——一些供應(yīng)商將優(yōu)先考慮增強其云功能，而另一些供應(yīng)商將合并現(xiàn)有技術(shù)，以提供整合的一體化產(chǎn)品。其他企業(yè)只是想回答數(shù)據(jù)風(fēng)險問題。這些發(fā)展將會有重疊，但最終的贏家將是消費者，其將看到企業(yè)數(shù)據(jù)資產(chǎn)覆蓋范圍的大幅增長、技能要求的降低，以及傳統(tǒng)細分技術(shù)之間協(xié)同作用的提高。–Terry Ray，Imperva副總裁兼首席技術(shù)官

對數(shù)據(jù)和人工智能的信任將是做出明智決策的首要條件，但這種信任只能通過了解來實現(xiàn)。首席執(zhí)行官需要了解企業(yè)如何收集和構(gòu)建數(shù)據(jù)、其數(shù)據(jù)基礎(chǔ)設(shè)施有哪些方面可以改進，以及在2024年能夠有效使用人工智能的局限性。這意味著數(shù)據(jù)基礎(chǔ)設(shè)施、質(zhì)量、安全性和完整性，不能簡單地委托給首席技術(shù)官(CTO)、首席信息官(CIO)或首席數(shù)據(jù)官(CDO)。首席執(zhí)行官必須非常熟悉其在人工智能中投入的內(nèi)容，以便在適當(dāng)?shù)谋尘跋聦θ斯ぶ悄墚a(chǎn)生的結(jié)果采取行動。–Allison Arzeno，Assurance IQ首席執(zhí)行官

人工智能投資的激增，將引發(fā)人工智能安全的重大轉(zhuǎn)變，重塑技術(shù)安全格局：2024年，隨著人工智能投資的持續(xù)激增，人工智能安全領(lǐng)域?qū)⒊霈F(xiàn)關(guān)鍵轉(zhuǎn)變。隨著人工智能模型，特別是大型語言模型和生成式人工智能，被集成到不同行業(yè)軟件鏈的各個方面，保護這些技術(shù)免受快速注入和其他惡意攻擊等不斷變化的威脅的需求將達到前所未有的水平。盡管這些進步相對新穎，但嚴格的安全措施的必要性將受到關(guān)注，這標志著人工智能技術(shù)發(fā)展歷程中的一個分水嶺時刻。當(dāng)我們繼續(xù)努力應(yīng)對海量數(shù)據(jù)和新挑戰(zhàn)的未知領(lǐng)域時，將見證共同努力來鞏固邊界，并確保這一變革性技術(shù)的負責(zé)任增長。–JP Perez-Etchegoyen，Onapsis首席技術(shù)官

到2024年，將過渡到人工智能生成的定制惡意軟件和網(wǎng)絡(luò)攻擊的全面自動化：網(wǎng)絡(luò)安全團隊面臨著使用生成式人工智能和其他高級工具快速自動化創(chuàng)建和執(zhí)行惡意軟件的重大威脅。2023年，能夠生成高度定制惡意軟件的人工智能系統(tǒng)出現(xiàn)，為威脅行為者提供了新的強大武器。來年，重點將從僅僅生成定制的惡意軟件轉(zhuǎn)向自動化整個攻擊過程。這將使即使是不熟練的威脅行為者也更容易發(fā)起成功的攻擊。–Adi Dubin，Skybox Security產(chǎn)品管理副總裁

生成式人工智能將成為影子IT的最大推動者：傳統(tǒng)上對影子IT的擔(dān)憂主要圍繞成本控制，但今年，隨著生成式人工智能服務(wù)在企業(yè)內(nèi)未經(jīng)批準的使用迅速增長，這種風(fēng)險已經(jīng)擴大到知識產(chǎn)權(quán)和客戶數(shù)據(jù)暴露在組織之外。到2024年，我們預(yù)計，如果企業(yè)沒有強大的人工智能合規(guī)政策，和對員工使用的工具的可見性，那么其PII暴露率會更高。還可以，至少會出現(xiàn)幾起專有源代碼被無意中用于訓(xùn)練不受IT控制的人工智能模型的事件。這對整個技術(shù)團隊和企業(yè)領(lǐng)導(dǎo)者來說是一個重要的警鐘，應(yīng)迫切需要圍繞負責(zé)任的生成式人工智能使用制定積極主動的強制計劃。–Heath Thompson，Quest Software總裁兼總經(jīng)理

以人工智能為中心的監(jiān)控系統(tǒng)：安全與安防：在發(fā)生安全事件時，傳統(tǒng)的視頻監(jiān)控系統(tǒng)需要有人審查數(shù)小時的鏡頭以發(fā)現(xiàn)關(guān)鍵事件，這是一個耗時的過程，可能會延遲響應(yīng)。視頻監(jiān)控行業(yè)準備向人工智能驅(qū)動的安全系統(tǒng)轉(zhuǎn)型。傳統(tǒng)視頻監(jiān)控系統(tǒng)正在向全面的人工智能安防解決方案演進。這些系統(tǒng)將記錄視頻片段，但也會做更多的事情來增強安全性。這種轉(zhuǎn)變反映了這樣一個事實：客戶對視頻不再那么感興趣，而更關(guān)心預(yù)防和解決安全問題。利用機器學(xué)習(xí)、算法和計算機視覺，人工智能安全和安保系統(tǒng)將有效處理和解釋視頻內(nèi)容，從而實現(xiàn)實時威脅檢測。這些人工智能驅(qū)動的安全系統(tǒng)將成為常態(tài)，提供智能、主動的解決方案，最大限度地減少問題，并增強各種類型環(huán)境的整體安全性。–Dean Drako，Eagle Eye Networks首席執(zhí)行官

普遍存在的基于人工智能的網(wǎng)絡(luò)攻擊導(dǎo)致“多重危機”的出現(xiàn)：我們在2022年看到了人工智能的出現(xiàn)，看到了濫用人工智能作為攻擊媒介的出現(xiàn)，這有助于進行網(wǎng)絡(luò)釣魚嘗試更敏銳、更有效。到2024年，預(yù)計隨著企業(yè)轉(zhuǎn)型，網(wǎng)絡(luò)攻擊將變得普遍。如今，人工智能愛好者有可能成為人工智能即時注入的犧牲品。到2024年，攻擊者將發(fā)現(xiàn)利用人工智能更容易攻擊傳統(tǒng)IT和云容器，以及越來越多的ICS和OT環(huán)境，從而導(dǎo)致“多重危機”的出現(xiàn)。這種危機不僅威脅到金融影響，同時還會產(chǎn)生連鎖效應(yīng)，影響人類生活。由于地緣政治威脅的增加，關(guān)鍵計算基礎(chǔ)設(shè)施將面臨更大的威脅。網(wǎng)絡(luò)防御將實現(xiàn)自動化，利用人工智能來適應(yīng)更新的攻擊模型。–Agnidipta Sarkar，ColorTokens副首席信息安全顧問

生成式AI的安全計劃：隨著企業(yè)開始將生成式AI項目從實驗階段轉(zhuǎn)向生產(chǎn)階段，對數(shù)據(jù)安全的擔(dān)憂變得至關(guān)重要。經(jīng)過敏感數(shù)據(jù)培訓(xùn)的LLM可能會被操縱，通過即時注入攻擊來暴露該數(shù)據(jù)。有權(quán)訪問敏感數(shù)據(jù)的LLM會帶來合規(guī)、安全和治理風(fēng)險。圍繞在生產(chǎn)中保護LLM的工作，將需要組織更多地關(guān)注數(shù)據(jù)發(fā)現(xiàn)和分類，以便為“提供”語言模型的數(shù)據(jù)創(chuàng)建透明度。–Dan Benjamin，Dig Security首席執(zhí)行官兼聯(lián)合創(chuàng)始人

生成式人工智能將增強而不是取代網(wǎng)絡(luò)安全中的SOC分析師：隨著網(wǎng)絡(luò)安全領(lǐng)域的發(fā)展，由于其成熟度的限制，生成式人工智能在安全運營中心(SOC)中的作用將以增強而不是取代人類分析師為特征。新一代人工智能將主要通過必要的專業(yè)知識，來協(xié)助和提高SOC員工的能力，以解釋其輸出，這對中級分析師尤其有價值。企業(yè)將需要在營銷炒作中辨別真正的新一代人工智能貢獻，在投資于新一代人工智能等更多技術(shù)或雇傭額外的SOC分析師之間的爭論將持續(xù)下去，而人為因素仍然至關(guān)重要。成功將取決于將這些工具與分析人員的工作流程結(jié)合起來，而不是依賴于膚淺的智能。–Andrew Hollister，loghyth實驗室研發(fā)副總裁兼首席信息安全官

到2024年底，美國95%的消費者將成為深度偽造的受害者：每個企業(yè)和消費者都在追隨人工智能潮流，欺詐者也不例外。網(wǎng)絡(luò)犯罪分子此前已經(jīng)找到了欺騙系統(tǒng)的方法。2023年初，其被發(fā)現(xiàn)繞過ChatGPT的反濫用限制來生成和審查惡意代碼?，F(xiàn)在，ChatGPT已完全連接到互聯(lián)網(wǎng)，并且能夠生成圖像——這是完美深度偽造的秘訣。2023年，52%的消費者認為其可以檢測到深度偽造視頻，這反映出消費者的過度自信。深度偽造已經(jīng)變得非常復(fù)雜，幾乎無法用肉眼檢測到，而現(xiàn)在生成式人工智能使其創(chuàng)作變得比以往任何時候都更容易。錯誤信息已經(jīng)像野火一樣蔓延，而隨著即將到來的選舉，深度偽造只會變得更加復(fù)雜。到2024年底，絕大多數(shù)美國消費者都將接觸到深度偽造，無論是否知道這是合成媒體。–Stuart Wells，Jumio首席技術(shù)官

無論頭條新聞如何暗示，根據(jù)我們在安全運營中心親眼所見，2024年企業(yè)網(wǎng)絡(luò)面臨的最大風(fēng)險不會來自人工智能發(fā)起的攻擊。人工智能有望為防御者和攻擊者提供支持，但我們看到，當(dāng)缺乏可見性或安全控制時，網(wǎng)絡(luò)攻擊實際上進展得最快。為什么這一點值得注意？雖然最近圍繞人工智能的炒作和隨后的恐懼只會繼續(xù)下去，但最大的威脅將來自現(xiàn)有的漏洞和不安全的配置，而攻擊者不需要人工智能來利用這些漏洞。–Aaron Walton，Expel威脅情報分析師

2024年，人工智能只會讓不良行為者更容易進行有針對性的攻擊。如今的攻擊很簡單，其將繼續(xù)瞄準我們從一開始就沒能彌補的缺陷——太多的連接，沒有足夠的可見性或洞察力來了解什么在與什么通信。在建立網(wǎng)絡(luò)彈性方面，更廣泛地采用零信任和“假設(shè)違約”方法確實是我們?nèi)〉眠M展的唯一途徑。否則，我們將繼續(xù)看到網(wǎng)絡(luò)空間的巨大損失。–Paul Dant，Illumio網(wǎng)絡(luò)安全戰(zhàn)略與研究高級總監(jiān)

存儲

人工智能將加速存儲和安全要求：從本質(zhì)上講，生成式人工智能模型會產(chǎn)生大量數(shù)據(jù)。因此，在接下來的一年中，組織預(yù)計其數(shù)據(jù)存儲和安全需求將激增，從而導(dǎo)致對可擴展存儲解決方案的投資，無論是本地、基于云還是混合。人工智能生成的數(shù)據(jù)的動態(tài)和連續(xù)生產(chǎn)將需要更頻繁的備份周期，企業(yè)將需要實施更強大的數(shù)據(jù)生命周期管理解決方案來確定數(shù)據(jù)保留、歸檔或刪除策略，確保只長期存儲有價值的數(shù)據(jù)。鑒于人工智能生成的見解對業(yè)務(wù)至關(guān)重要，確保備份的完整性也至關(guān)重要。鑒于人工智能生成的數(shù)據(jù)可能敏感且關(guān)鍵，加強的安全措施將是加速存儲難題的最后一部分，這意味著數(shù)據(jù)安全需要融入所有生成人工智能項目的結(jié)構(gòu)中，包括預(yù)防、檢測和數(shù)據(jù)可恢復(fù)性。–Tony Liau，Object First產(chǎn)品副總裁

我們最終克服了數(shù)據(jù)孤島問題：到2024年，組織將越來越多地采用并行全球文件系統(tǒng)，真正實現(xiàn)數(shù)字化轉(zhuǎn)型。文件系統(tǒng)傳統(tǒng)上隱藏在專有存儲層中，該存儲層通常將文件系統(tǒng)和組織的數(shù)據(jù)鎖定到存儲供應(yīng)商平臺中。將數(shù)據(jù)從一個供應(yīng)商的存儲類型移動到另一個供應(yīng)商的存儲類型，或者移動到不同的位置或云，涉及創(chuàng)建文件系統(tǒng)元數(shù)據(jù)和實際文件本質(zhì)的新副本。文件副本的激增，以及跨孤島啟動副本管理所需的復(fù)雜性會中斷用戶訪問，并且是阻礙IT現(xiàn)代化和整合的關(guān)鍵問題。傳統(tǒng)的文件系統(tǒng)范例被困在供應(yīng)商的存儲平臺中，在單個數(shù)據(jù)中心的孤島中是不方便的。但越來越多的云遷移使問題變得更加復(fù)雜，因為擁有大量非結(jié)構(gòu)化數(shù)據(jù)的企業(yè)，通常很難將所有文件完全遷移到云中。與試圖通過將文件副本從一個地方轉(zhuǎn)移到另一個地方來管理存儲孤島和分布式環(huán)境的解決方案不同，可以跨越來自任何供應(yīng)商的所有存儲類型，并跨單個或多個位置和云的高性能并行全局文件系統(tǒng)更加有效。–Molly Presley，Hammerspace營銷高級副總裁

從專用存儲到AI平臺的優(yōu)化商品存儲：AI工作負載的增長，推動了針對速度和吞吐量進行優(yōu)化的專用高性能計算(HPC)存儲的采用。但到2024年，預(yù)計將轉(zhuǎn)向商品化存儲。云對象存儲、NVMe閃存和其他存儲解決方案將進行優(yōu)化，以實現(xiàn)經(jīng)濟高效的可擴展性。專用存儲的高成本和復(fù)雜性，將讓位于針對人工智能需求量身定制的靈活、更便宜、易于管理的商品存儲，從而使更多組織能夠使用經(jīng)濟高效的解決方案，來存儲和處理數(shù)據(jù)密集型工作負載。–Haoyuan Li，Alluxio創(chuàng)始人兼首席執(zhí)行官

綜合數(shù)據(jù)

人工智能生成的數(shù)據(jù)：數(shù)據(jù)一直被視為做出明智決策的可靠且公正的方式。當(dāng)我們應(yīng)對人工智能生成數(shù)據(jù)的增長時，組織將需要花費時間和監(jiān)督來驗證數(shù)據(jù)或風(fēng)險幻覺結(jié)果。這些數(shù)據(jù)集的另一個重大影響是，數(shù)據(jù)在網(wǎng)絡(luò)攻擊中被修改的風(fēng)險，這造成結(jié)果將是災(zāi)難性的。我們依靠正確的數(shù)據(jù)來投票、接受政府服務(wù)、登錄工作設(shè)備和應(yīng)用，并做出明智的、數(shù)據(jù)驅(qū)動的決策。如果組織或政府的數(shù)據(jù)被威脅行為者修改，或者我們在未經(jīng)驗證的情況下過于信任人工智能生成的數(shù)據(jù)，將會產(chǎn)生廣泛的后果。–Sri Mukkamala，Ivanti首席產(chǎn)品官

垂直行業(yè)/應(yīng)用

強大的數(shù)據(jù)引擎將使金融數(shù)據(jù)移動成為可能：金融組織剛剛開始意識到其數(shù)據(jù)的潛力，將其用于財務(wù)規(guī)劃和分析、預(yù)算規(guī)劃等方面的指導(dǎo)。然而，大部分數(shù)據(jù)仍然是孤立的，我們已經(jīng)達到了這樣的程度：這些組織擁有如此多的數(shù)據(jù)，需要開始思考這些數(shù)據(jù)如何為企業(yè)帶來價值，否則就會面臨失去競爭優(yōu)勢的風(fēng)險。到2024年，我們將看到金融組織尋求對其跨存儲庫的數(shù)據(jù)進行分類和協(xié)調(diào)，以實現(xiàn)新的解決方案。因此，數(shù)據(jù)引擎、數(shù)據(jù)平臺和數(shù)據(jù)湖，將成為有效理解和利用此類數(shù)據(jù)的關(guān)鍵工具。因此，我們預(yù)計金融科技應(yīng)用將不斷增長，從而實現(xiàn)聚合數(shù)據(jù)分析、報告和可視化。–Bernie Emsley，insightsoftware首席技術(shù)官

人工智能將成為2024年聯(lián)絡(luò)中心內(nèi)持續(xù)學(xué)習(xí)文化培養(yǎng)的推動力，提高代理的批判性思維能力。認識到適應(yīng)性的作用，聯(lián)絡(luò)中心管理者將分配資金用于培訓(xùn)計劃，使代理能夠適應(yīng)不斷變化的挑戰(zhàn)，并認識到這些技能對未來生產(chǎn)力至關(guān)重要。超過60%的管理者認為批判性思維是未來代理所需的首要技能。招聘策略將側(cè)重于表現(xiàn)出強大的批判性思維能力和不斷學(xué)習(xí)新技能的積極意愿的個人。–Dave Hoekstra，Calabrio首席產(chǎn)品官

全章【完】！

若想查看“2024年大數(shù)據(jù)行業(yè)預(yù)測”相關(guān)篇章，請點擊：

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。