網(wǎng)易科技訊11月11日?qǐng)?bào)道，據(jù)Singularityhub報(bào)道，谷歌已經(jīng)開(kāi)發(fā)出能夠自創(chuàng)加密算法的機(jī)器學(xué)習(xí)系統(tǒng)，這是人工智能（AI）在網(wǎng)絡(luò)安全領(lǐng)域取得的最新成功。但是當(dāng)我們的數(shù)字安全日益依賴(lài)智能機(jī)器時(shí)，將會(huì)產(chǎn)生什么樣的影響？

谷歌位于加州的AI子公司Google Brain通過(guò)神經(jīng)網(wǎng)絡(luò)之間的互相攻擊，實(shí)現(xiàn)了最新壯舉。他們?cè)O(shè)計(jì)出兩套分別被稱(chēng)為鮑勃（Bob）和愛(ài)麗絲（Alice）的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它們的任務(wù)就是確保通訊信息不被第三套神經(jīng)系統(tǒng)伊芙（Eve）破解。沒(méi)人告訴它們?nèi)绾渭用苄畔?，但鮑勃和愛(ài)麗絲被給與共享的安全密匙，而伊芙?jīng)]有。

在大多數(shù)測(cè)試中，鮑勃與愛(ài)麗絲能夠迅速找到安全的通訊方式，使得伊芙無(wú)法破譯密碼。有意思的是，這些機(jī)器都使用了不同尋常的方法，這些方法通常在人類(lèi)開(kāi)發(fā)的加密系統(tǒng)中十分罕見(jiàn)。從可能性方面看，這些方法遠(yuǎn)比人類(lèi)設(shè)計(jì)的最好的方法還要復(fù)雜得多。但是由于神經(jīng)網(wǎng)絡(luò)以不透明的方式解決問(wèn)題，因此很難找出它們是如何操作的。

對(duì)于人類(lèi)來(lái)說(shuō)，破譯計(jì)算機(jī)生成的加密非常容易。但是這也很難保證系統(tǒng)的安全性，并可能限制其實(shí)際應(yīng)用范疇。此外，伊芙的表現(xiàn)似乎也可證明人的類(lèi)懷疑，即神經(jīng)系統(tǒng)在破譯加密信息方面不太擅長(zhǎng)。

但是研究人員表示，在理解通信元數(shù)據(jù)方面和計(jì)算機(jī)網(wǎng)絡(luò)流量分析方面，神經(jīng)網(wǎng)絡(luò)是相當(dāng)有效的技術(shù)。這就是許多人認(rèn)為機(jī)器學(xué)習(xí)可被應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域的原因，因?yàn)楝F(xiàn)代AI在發(fā)現(xiàn)模式方面非常擅長(zhǎng)，它們可以處理遠(yuǎn)比人類(lèi)多得多的數(shù)據(jù)。

隨著網(wǎng)絡(luò)安全專(zhuān)家缺口不斷增大，這將是個(gè)巨大市場(chǎng)。在今年夏季舉行的黑帽黑客大會(huì)上，安全公司SparkCognition公布了其殺毒軟件DeepArmor，它可以利用AI技術(shù)不斷了解新的惡意軟件行為，并識(shí)別出發(fā)生變異以嘗試?yán)@過(guò)安全系統(tǒng)的病毒。

當(dāng)前的機(jī)器學(xué)習(xí)依然傾向于發(fā)現(xiàn)誤報(bào)，并且無(wú)法應(yīng)對(duì)許多由人類(lèi)黑客發(fā)起的更微妙攻擊。為此，許多方法專(zhuān)注于AI與人類(lèi)并肩工作。荷蘭安全廠商F-Secure與麻省理工學(xué)院下屬計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室都開(kāi)發(fā)出機(jī)器學(xué)習(xí)網(wǎng)絡(luò)分流系統(tǒng)，它們可以過(guò)濾掉通過(guò)網(wǎng)絡(luò)的大部分可疑信息，大幅削減需要人類(lèi)專(zhuān)家處理的潛在威脅數(shù)量。

IBM希望更進(jìn)一步，探索其超級(jí)計(jì)算機(jī)沃特森的自然語(yǔ)言處理能力。沃特森可以從人類(lèi)網(wǎng)絡(luò)安全專(zhuān)家發(fā)布的大量威脅報(bào)告、研究論文以及博客文章中學(xué)習(xí)。他們希望這能幫助他們于今年晚些時(shí)候提供云服務(wù)，可以有效地充當(dāng)人類(lèi)的專(zhuān)家級(jí)助理。

全自動(dòng)系統(tǒng)也在取得進(jìn)展。8月份，美國(guó)國(guó)防部下屬DARPA舉行網(wǎng)絡(luò)挑戰(zhàn)大賽，這是首次機(jī)器之間進(jìn)行的黑客攻擊對(duì)決。這些聊天機(jī)器人使用各種各樣的AI方案，去自動(dòng)發(fā)現(xiàn)軟件漏洞，要么修復(fù)漏洞，要么利用漏洞，這一切都沒(méi)有人類(lèi)幫助。

盡管它們還遠(yuǎn)不夠完美，有的機(jī)器甚至在比賽多數(shù)時(shí)間都處于休眠狀態(tài)，其它機(jī)器甚至偶爾破壞了自己試圖保護(hù)的系統(tǒng)。獲勝的聊天機(jī)器人Mayhem在DEFCON黑客大會(huì)上與人類(lèi)對(duì)決，盡管其最終落敗，但結(jié)果依然令人印象深刻。許多觀察家對(duì)聊天機(jī)器人展示出來(lái)的復(fù)雜水平和超人般的操作速度感到驚訝。

這是一場(chǎng)軍備競(jìng)賽，黑客們也在利用這些新技術(shù)。路易斯維爾大學(xué)AI與網(wǎng)絡(luò)安全副教授羅曼·揚(yáng)波爾斯基(Roman Yampolskiy)說(shuō)，他已經(jīng)遇到過(guò)這樣的程序，可以利用AI自動(dòng)發(fā)現(xiàn)系統(tǒng)的安全漏洞或預(yù)測(cè)密碼。他說(shuō)：“我們正看到非常聰明的電腦病毒出現(xiàn)，它們能夠修改無(wú)人機(jī)代碼、改變它們的行為以及向目標(biāo)中滲透。”

AI的另一個(gè)優(yōu)勢(shì)是模擬人類(lèi)的能力。網(wǎng)絡(luò)安全公司Darktrace技術(shù)主管戴夫·帕爾默（Dave Palmer）表示，他認(rèn)為不久的將來(lái)，智能惡意軟件就可以利用你的電子郵件來(lái)了解你的通訊方式，并創(chuàng)造出來(lái)自你的被感染的信息?！督鹑跁r(shí)報(bào)》曾報(bào)道稱(chēng)，已經(jīng)有人在使用假鼠標(biāo)動(dòng)作或不同的打字速度模擬人類(lèi)登陸，試圖繞過(guò)安全系統(tǒng)訪問(wèn)特定網(wǎng)站。

在DARPA的網(wǎng)絡(luò)挑戰(zhàn)大賽結(jié)束后，電子前沿基金會(huì)(EFF)警告稱(chēng)，自動(dòng)化處理漏洞的過(guò)程可能產(chǎn)生意想不到的嚴(yán)重后果，研究人員需要在行為準(zhǔn)則方面達(dá)成一致，以應(yīng)對(duì)這些威脅。如果這些系統(tǒng)擺脫開(kāi)發(fā)者的控制，沒(méi)人能夠保證自動(dòng)化防御系統(tǒng)能夠?qū)顾鼈儭２⒎撬械挠?jì)算機(jī)都能輕易修補(bǔ)漏洞，特別是那些不經(jīng)常訪問(wèn)或不容易進(jìn)行更新的物聯(lián)網(wǎng)設(shè)備。

研究人員需要考慮這些問(wèn)題：防御工具如何能夠輕易被改造成進(jìn)攻工具？什么樣的系統(tǒng)最容易成為攻擊目標(biāo)？他們到底有多脆弱？如果這些工具失去控制，最糟糕的后果會(huì)如何？

知名專(zhuān)欄作家瓦奧萊特·布盧 (Violet Blue) 說(shuō)，EFF的擔(dān)憂為時(shí)過(guò)早，他預(yù)測(cè)真正的AI黑客可能30年后才會(huì)出現(xiàn)，過(guò)度監(jiān)管只會(huì)減慢AI技術(shù)的進(jìn)步。正如Mayhem團(tuán)隊(duì)所說(shuō)：“如果你只集中于防御，你會(huì)發(fā)現(xiàn)自己總是處于追趕之中，可能永遠(yuǎn)無(wú)法超過(guò)攻擊者。”

但是隨著網(wǎng)絡(luò)安全日益成為對(duì)立機(jī)器人之間的對(duì)決，我們應(yīng)該盡早開(kāi)始謹(jǐn)慎地思考。畢竟，隨著技術(shù)進(jìn)步，機(jī)器人操作方式變得越來(lái)越高深莫測(cè)，我們可能弄不清它們到底誰(shuí)好誰(shuí)壞！

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。