不經(jīng)意間，人工智能已經(jīng)全面占領(lǐng)了我們的日常——“刷臉時(shí)代”似乎真的來(lái)了。隨著辦公室可以“刷臉打卡”、機(jī)場(chǎng)用上了“刷臉安檢”、銀行“刷臉取款”， 廁所 “刷臉取紙”等人臉識(shí)別技術(shù)的普及，人工智能成功從好萊塢巨幕中走進(jìn)了人類(lèi)的現(xiàn)實(shí)生活。

當(dāng)它們?cè)谏钪邪缪菰絹?lái)越重要的角色時(shí)，我們開(kāi)始質(zhì)疑：看似一絲不茍的AI是否是未來(lái)智能生活的最安全解決方案?GeekPwn2018揭開(kāi)你的迷思。10月24日，在中國(guó)上海舉辦的GeekPwn2018國(guó)際安全極客大賽的現(xiàn)場(chǎng)，白帽黑客與人工智能的“爭(zhēng)鋒相對(duì)”——一場(chǎng)史無(wú)前例的人工智能項(xiàng)目破解秀，揭露了現(xiàn)階段人工智能發(fā)展過(guò)程所存在的安全問(wèn)題。

　　GeekPwn2018大賽上海站現(xiàn)場(chǎng)

作為全球首個(gè)探索人工智能與專(zhuān)業(yè)安全的前沿平臺(tái)，GeekPwn始終保持敏銳的科技洞察力，在創(chuàng)建之初就開(kāi)始關(guān)注AI安全問(wèn)題。今年，以“人‘攻’智能，洞見(jiàn)未來(lái)”為主題的GeekPwn又對(duì)人工智能時(shí)代下的安全問(wèn)題開(kāi)啟全新一輪的探索，其中重點(diǎn)項(xiàng)目“CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽“的命題專(zhuān)項(xiàng)賽和“GAN掉馬賽克挑戰(zhàn)賽”的趣味挑戰(zhàn)賽，創(chuàng)新國(guó)內(nèi)人工智能對(duì)抗新玩法，黑客與人工智能之間的博弈無(wú)疑成為本屆GeekPwn大賽最大的亮點(diǎn)。

“宇宙飛船”or“巨石”傻傻分不清楚?AI在誘導(dǎo)下也會(huì)看花眼

眾所周知，人臉識(shí)別技術(shù)為生活帶來(lái)諸多高效體驗(yàn)的同時(shí)，也打開(kāi)了人類(lèi)無(wú)限的想象空間。AI保安、AI警衛(wèi)正在逐漸代替?zhèn)鹘y(tǒng)人力，承擔(dān)起為重要場(chǎng)所“看家護(hù)院”的職責(zé)。似乎AI將不可避免地在某些領(lǐng)域被賦予“至高無(wú)上”的權(quán)利。但是，它真的能扮演好一個(gè)優(yōu)秀警衛(wèi)的角色，眼里容不得“半點(diǎn)沙”?

目前的AI識(shí)圖并不能夠萬(wàn)無(wú)一失，它不僅也會(huì)看花眼，而且離譜到“人人”都可以是施瓦辛格!本是肉眼就能輕易分辨出來(lái)的“事物”，被GeekPwn2018選手們“黑”去細(xì)節(jié)后，AI誤將“宇宙飛行器”識(shí)別成“巨石”;將“導(dǎo)彈”判定為“安全物品”;甚至將現(xiàn)場(chǎng)特邀主持人蔣昌建老師的照片識(shí)別為阿諾德·施瓦辛格。在GeekPwn2018大賽現(xiàn)場(chǎng)，由吳青昕和謝慈航兩位選手組成的IYSWIM戰(zhàn)隊(duì)，通過(guò)生成一系列“對(duì)抗樣本”，成功欺騙亞馬遜celebrity recognition，實(shí)現(xiàn)對(duì)AI識(shí)圖的PWN三連擊，以第一名的成績(jī)率先完成“CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽”項(xiàng)目第一階段的限時(shí)挑戰(zhàn)。

　　“CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽”參賽隊(duì)伍 IYSWIM

這是繼今年8月GeekPwn拉斯維加斯站之后，“CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽”首次登陸上海。GeekPwn 聯(lián)合谷歌大腦人工智能研究科學(xué)家Ian Goodfellow、Alexey Kurakin以及美國(guó)加州大學(xué)伯克利分校計(jì)算機(jī)系教授宋曉冬等學(xué)術(shù)機(jī)構(gòu)等權(quán)威，延續(xù)拉斯維加斯站上首創(chuàng)的CAAD CTF形式，邀請(qǐng)到來(lái)自清華大學(xué)、中國(guó)科學(xué)技術(shù)大學(xué)、美國(guó)約翰·霍普金斯大學(xué)、Facebook、騰訊、阿里巴巴、扇貝等知名高校與企業(yè)的六支 AI 強(qiáng)隊(duì)登上“1024”的舞臺(tái)，進(jìn)行實(shí)時(shí)攻擊與防守比賽，提前預(yù)演人工智能應(yīng)用潛在的安全風(fēng)險(xiǎn)。

區(qū)別于第一階段的“限時(shí)挑戰(zhàn)賽”完成規(guī)定挑戰(zhàn)即可，第二階段的“攻防賽”是戰(zhàn)隊(duì)間一場(chǎng)不定向的拉鋸戰(zhàn)——各隊(duì)伍相互攻擊、相互防御，誰(shuí)也預(yù)測(cè)不到下一個(gè)攻擊來(lái)自“who”。選手們一手握著鋒利的“刺刀“，一手把著厚實(shí)的”盾牌“，在攻擊和防御的兩端來(lái)回游走。經(jīng)過(guò)兩個(gè)階段的激烈角逐，最終，IYSWIM團(tuán)隊(duì)問(wèn)鼎本屆“CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽”項(xiàng)目冠軍，OWLET、TSAIL團(tuán)隊(duì)分別獲得二、三名，Blade、USTC-ALIBABA以及RNG團(tuán)隊(duì)獲得優(yōu)勝獎(jiǎng)。

　　CAAD對(duì)抗性樣本攻防挑戰(zhàn)賽獲獎(jiǎng)選手合照

不僅如此，期待已久的CAAD線(xiàn)上賽最終成績(jī)也在GeekPwn2018的現(xiàn)場(chǎng)揭曉。其中ysharma1126、Labmem2018、TSAIL團(tuán)隊(duì)分列非定向?qū)构?Non-targeted attack)賽的前三名;ysharma1126、TSAIL、wilson8561團(tuán)隊(duì)分列定向?qū)构?Targeted attack)賽的前三名;FAIR & JHU、TSAIL、ysharma1126團(tuán)隊(duì)分列對(duì)抗防御(Defense)賽的前三名。據(jù)悉，CAAD線(xiàn)上賽的獎(jiǎng)金總計(jì)65萬(wàn)元。

打碼如同心理安慰?GeekPwn利用AI還原馬賽克背后的真相

馬賽克作為修圖軟件中必不可少的工具之一，成為當(dāng)代人獲取“安全感”的重要保障。打碼的背后，究竟是男友出軌的實(shí)錘?或是女神住處臟亂差的反差?還是隱婚族的蛛絲馬跡?馬賽克真的能夠守住你的“小秘密“嗎?GeekPwn2018現(xiàn)場(chǎng)，來(lái)自中國(guó)海洋大學(xué)的選手杜昂昂以“生成對(duì)抗性網(wǎng)絡(luò)-GAN”的AI技術(shù)還原打碼圖片的真實(shí)原貌，撕碎馬賽克的“偽裝“，宣告僅僅依賴(lài)打碼就萬(wàn)事皆平安的年代已經(jīng)成為過(guò)去式。

　　“GAN掉馬賽克”項(xiàng)目選手杜昂昂

根據(jù)“GAN掉馬賽克”的比賽規(guī)則，主辦方提前已告知參賽選手3類(lèi)(菠蘿、漢堡、比基尼)圖片進(jìn)行訓(xùn)練;比賽現(xiàn)場(chǎng)主辦方提供3類(lèi)中的多張圖片，循環(huán)播放(選手不得觀看)，并由觀眾任選其中3張打上馬賽克，交由選手嘗試還原。選手最終幾乎以“1:1完美復(fù)刻”的優(yōu)秀表現(xiàn)成功完成項(xiàng)目破解挑戰(zhàn)。

此次“CAAD對(duì)抗樣本限時(shí)挑戰(zhàn)賽”和“GAN掉馬賽克挑戰(zhàn)賽“兩個(gè)項(xiàng)目的破解挑戰(zhàn)，無(wú)疑為大眾敲響了AI安全的警鐘，如果犯罪分子利用對(duì)抗樣本偽裝成普通人，騙過(guò)強(qiáng)大的人臉識(shí)別系統(tǒng);如果犯罪分子利用對(duì)抗網(wǎng)絡(luò)GAN還原受害人的個(gè)人信息，找到其住所……這些隱藏在智能生活里的人工智能安全隱患，未來(lái)很可能真的發(fā)生并成為社會(huì)新聞的頭條。

人工智能安全距離大眾生活并不遙遠(yuǎn)，它與生活息息相關(guān)，從前瞻的技術(shù)趨勢(shì)出發(fā)，智能安全應(yīng)該引起更廣泛的重視。碁震KEEN公司CEO，GeekPwn發(fā)起創(chuàng)辦人王琦表示：自創(chuàng)辦以來(lái)，極棒帶來(lái)了許多腦洞大開(kāi)的破解展示，向廠商提交了上百個(gè)漏洞，也讓更多人關(guān)注到智能生活中安全問(wèn)題的重要性和必要性，人“攻”智能不是目的，極棒希望以科學(xué)的評(píng)判及可視化的展示，讓科學(xué)流行起來(lái)，讓智慧飛揚(yáng)起來(lái)，讓大家的生活更加安全起來(lái)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。