人工智能的飛速發(fā)展正在將世界帶入一個(gè)全新的維度，但這同時(shí)也將網(wǎng)絡(luò)世界的正邪對(duì)抗推入下一個(gè)戰(zhàn)場(chǎng)。

美國(guó)當(dāng)?shù)貢r(shí)間8月10日，由 GeekPwn 主辦的 CAAD Village 登陸世界頂級(jí)極客大會(huì) DEF CON。騰訊安全云鼎實(shí)驗(yàn)室在 CAAD Village 上帶來(lái)前沿議題分享，云鼎實(shí)驗(yàn)室安全專家張壯、史博以基于卷積神經(jīng)網(wǎng)絡(luò)的多形態(tài)惡意軟件檢測(cè)為例，分享了安全廠商應(yīng)用人工智能之后對(duì)抗病毒免殺技術(shù)的效果;同時(shí)還站在攻擊方的視角，介紹了惡意軟件使用了生成式對(duì)抗網(wǎng)絡(luò)之后，可繞過(guò)應(yīng)用機(jī)器學(xué)習(xí)檢測(cè)模型的案例。為人工智能趨勢(shì)下的正邪對(duì)抗帶來(lái)全新思路，受到了與會(huì)專家的重點(diǎn)關(guān)注。

(騰訊安全云鼎實(shí)驗(yàn)室安全專家張壯)

“檢測(cè)”與“免殺”不斷進(jìn)化AI成下一個(gè)戰(zhàn)略高地

面對(duì)不斷涌現(xiàn)的新型病毒和已知病毒的變異，基于病毒代碼文件特征的傳統(tǒng)檢測(cè)方法逐漸變得“捉襟見肘”。張壯對(duì)此表示，針對(duì)殺毒軟件的查殺機(jī)制，病毒開發(fā)者通過(guò)修改特征碼、指令加花、軟件加殼、修改 PE 文件等手段使病毒免于殺毒軟件的查殺。

此外，免殺技術(shù)也已從黑客的專業(yè)技能變成了一項(xiàng)可以用低廉價(jià)格輕易獲取的標(biāo)準(zhǔn)服務(wù)：在暗網(wǎng)只需370美金，在國(guó)內(nèi)花費(fèi)1800元就可獲得一套免殺服務(wù)。這無(wú)疑進(jìn)一步加劇了安全廠商應(yīng)對(duì)病毒攻擊的挑戰(zhàn)。

而人工智能的快速發(fā)展，則讓安全廠商看到了未來(lái)。張壯指出，在面對(duì)新增病毒樣本數(shù)量巨大，無(wú)法有效通過(guò)手工及時(shí)添加規(guī)則、手動(dòng)規(guī)則提取在有些問(wèn)題中的不適性、人工規(guī)則主觀性很高等檢測(cè)難點(diǎn)，人工智能查殺都能輕易克服。

全球各大安全廠商因此紛紛應(yīng)用這一前沿科技，但具體的實(shí)現(xiàn)過(guò)程千差萬(wàn)別，云鼎實(shí)驗(yàn)室在會(huì)上分享了自己的實(shí)踐，通過(guò)機(jī)器學(xué)習(xí)處理復(fù)雜問(wèn)題，將二進(jìn)制病毒轉(zhuǎn)化為一[A1] 個(gè)灰度圖，利用深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Networks，簡(jiǎn)稱CNN)來(lái)進(jìn)行圖片分類，達(dá)到高效檢測(cè)新增樣本和樣本變種，識(shí)別出病毒的家族關(guān)系和不同家族之前的區(qū)別，發(fā)現(xiàn)更多更深層次的特征關(guān)聯(lián)。

人工智能查殺可以處理海量樣本，檢測(cè)特征緯度更廣，病毒免殺難度增大。對(duì)于加殼或者多態(tài)變形病毒也有著良好的效果，檢測(cè)過(guò)程無(wú)需脫殼。但是張壯指出，人工智能的模型本身存在一些“視覺(jué)盲點(diǎn)”，容易受到生成樣本的攻擊，更重要的是，人工智能的相關(guān)技術(shù)同樣可以為病毒開發(fā)者所用。

毫無(wú)疑問(wèn)，人工智能介入后，殺毒與反殺毒的較量將進(jìn)入到下一個(gè)回合。

GAN應(yīng)用免殺已獲驗(yàn)證安全廠商需未雨綢繆

今年3月，《麻省理工科技評(píng)論》公布了2018年“全球十大突破性技術(shù)”，生成對(duì)抗網(wǎng)絡(luò)(Generative Adversarial Networks，簡(jiǎn)稱 GAN)赫然在列。GeekPwn曾對(duì)這種前沿的深度學(xué)習(xí)模型作出解讀：GAN 可以簡(jiǎn)單理解為一位制造仿制品的名畫仿造者與一位名畫鑒定師，兩者在互相博弈的過(guò)程中訓(xùn)練自己的技巧，讓各自的技能得到提升。最終，仿造者會(huì)生成鑒定師無(wú)法判斷的贗品。

《麻省理工科技評(píng)論》也表示，“它(GAN)給機(jī)器帶來(lái)一種類似想象力的能力，因此可能讓它們變得不再那么依賴人類，但也把它們變成了一種能力驚人的數(shù)字造假工具”。

張壯在 DEF CON 2018大會(huì)上驗(yàn)證了這一預(yù)言的真實(shí)性。他表示，通過(guò) GAN 生成器和判別器相互對(duì)抗，可以提升病毒的偽裝能力，最終生成在殺毒軟件判斷標(biāo)準(zhǔn)下的“非惡意程序”，使病毒成功繞過(guò)基于機(jī)器學(xué)習(xí)的檢測(cè)模型 。

比如，機(jī)器對(duì)一張圖片以57.7%的置信度將其歸為“熊貓”，但是在應(yīng)用 GAN 之后，可以使其以99.3%的置信度將其歸為“長(zhǎng)臂猿”;在被攻擊前后，圖像一個(gè)像素的改變，就讓機(jī)器識(shí)別一個(gè)圖像為“青蛙”的概率從99.999714%變?yōu)?.460092%，而這前后的巨大差額轉(zhuǎn)化成為了89.782685%的概率識(shí)別成“貓咪”。

張壯進(jìn)一步表示，GAN 應(yīng)用在免殺中，攻擊者對(duì)于被攻擊模型的結(jié)構(gòu)和權(quán)重都有完全的了解，而常規(guī)的攻擊手段對(duì)于被攻擊的模型卻一無(wú)所知，“最終通過(guò)把‘黑文件’偽裝成為具有高可信度的‘白文件’，以達(dá)到欺騙機(jī)器學(xué)習(xí)模型，甚至欺騙人類的目的”。

針對(duì)病毒免殺技術(shù)的新發(fā)展，張壯也給安全廠商提出了如下防御建議：

1、紅藍(lán)軍對(duì)抗式的自我檢測(cè)：安全廠商需要未雨綢繆，可提前自己攻擊自己的模型，發(fā)現(xiàn)自身模型“盲點(diǎn)”，并及時(shí)修復(fù)盲點(diǎn)，從而提升防御能力;

2、規(guī)則不暴露：安全廠商不要暴露對(duì)惡意文件的評(píng)分情況，這樣模型(鑒定器)會(huì)直接受到針對(duì)特征的攻擊，給出的評(píng)分會(huì)告訴攻擊者攻擊效果，對(duì)攻擊者下一步的攻擊方向具有指導(dǎo)作用，比如：哪些些特征影響大，哪些特征有效果;

3、多維度檢測(cè)：提取更多有效、穩(wěn)定的特征，使得針對(duì)廣泛普遍的特征生成的免殺樣本同樣難逃查殺。

未知攻焉知防，白帽黑客站在攻擊方的角度研究前沿技術(shù)，正在加速安全廠商掌握新時(shí)代攻防的主動(dòng)性。以本次研究為例，騰訊安全云鼎實(shí)驗(yàn)室的研究成果已應(yīng)用在攻防一線，進(jìn)一步提升騰訊云的云主機(jī)病毒查殺能力，守護(hù)廣大用戶的網(wǎng)絡(luò)安全。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。