原標(biāo)題：產(chǎn)業(yè)智能化的大江大河，需要AI安全這樣守護(hù)

當(dāng)前，諸如圖像識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言翻譯等AI技術(shù)已經(jīng)在移動(dòng)互聯(lián)網(wǎng)、新型產(chǎn)業(yè)甚至眾多傳統(tǒng)產(chǎn)業(yè)領(lǐng)域得到普遍部署和廣泛應(yīng)用。以機(jī)器學(xué)習(xí)、深度學(xué)習(xí)為核心的第二次人工智能的加速成熟，終于迎來(lái)了人工智能技術(shù)的高光時(shí)刻。

無(wú)論是國(guó)家、科研機(jī)構(gòu)，還是科技企業(yè)和各個(gè)產(chǎn)業(yè)，也都在以滿懷憧憬的熱情來(lái)推動(dòng)著AI從科研學(xué)術(shù)成果走向產(chǎn)業(yè)落地。

AI技術(shù)的普及速度確實(shí)遠(yuǎn)超歷次新技術(shù)革命帶來(lái)的產(chǎn)業(yè)速度，其應(yīng)用的規(guī)模和深度也正在像電力、石油、互聯(lián)網(wǎng)一樣，被看作新的生產(chǎn)生活的基礎(chǔ)設(shè)施。

在備受AI技術(shù)廣闊前景的鼓舞之時(shí)，人們也開(kāi)始意識(shí)到AI技術(shù)本身也是一把雙刃劍。

AI既能推動(dòng)生產(chǎn)效率的提升和產(chǎn)業(yè)的數(shù)字化智能化水平的提升，同時(shí)又能帶來(lái)全新的技術(shù)風(fēng)險(xiǎn)和隱私倫理問(wèn)題，成為新型詐騙犯罪、黑產(chǎn)牟利的趁手工具。

更重要的是，AI技術(shù)本身也存在一大隱憂。當(dāng)前主流的深度神經(jīng)網(wǎng)絡(luò)等技術(shù)具有的“黑箱屬性”，導(dǎo)致AI算法存在不可解釋性。這也就意味著AI技術(shù)在算法安全性上存在著不確定因素，可能會(huì)在產(chǎn)業(yè)應(yīng)用落地中出現(xiàn)各種安全隱患和風(fēng)險(xiǎn)。

正如隨著計(jì)算機(jī)技術(shù)和互聯(lián)網(wǎng)的誕生，計(jì)算機(jī)病毒、網(wǎng)絡(luò)攻擊等危害網(wǎng)絡(luò)安全的技術(shù)便如影隨形，AI技術(shù)的出現(xiàn)和發(fā)展也將始終伴隨著AI安全的種種問(wèn)題相伴而行。

AI技術(shù)帶給產(chǎn)業(yè)的革命性變革的規(guī)模、價(jià)值越大，那么，其安全問(wèn)題所導(dǎo)致的嚴(yán)重后果的影響也就越大。

當(dāng)身處數(shù)字化轉(zhuǎn)型升級(jí)的各個(gè)產(chǎn)業(yè)正在享受這一波新的智能化技術(shù)紅利的時(shí)候，AI安全問(wèn)題，就如同網(wǎng)絡(luò)安全、信息安全一樣，被提上產(chǎn)業(yè)數(shù)字化建設(shè)的日程表了。

“看不到”的AI安全風(fēng)險(xiǎn)

提及AI安全問(wèn)題，很多人第一反應(yīng)可能是，通過(guò)AI技術(shù)進(jìn)行人臉造假、AI仿聲、AI仿寫(xiě)假新聞、圖像及視頻造假等帶來(lái)的欺詐、隱私安全問(wèn)題。

確實(shí)，當(dāng)人們驚嘆于AI技術(shù)幾乎快要無(wú)所不能的時(shí)候，也能很直觀地意識(shí)到AI造假帶來(lái)的這類安全問(wèn)題。畢竟AI造假既有輿論話題，又與大眾息息相關(guān)。

但是對(duì)于AI技術(shù)本身所蘊(yùn)藏的算法安全風(fēng)險(xiǎn)，大眾則可能沒(méi)有非常直觀的理解。

而這一AI安全風(fēng)險(xiǎn)，則是因?yàn)檫@些算法被當(dāng)做“成熟”技術(shù)，廣泛應(yīng)用在產(chǎn)業(yè)的各個(gè)生產(chǎn)場(chǎng)景當(dāng)中，因而造成更為隱蔽但同樣后果非常嚴(yán)重的次生安全問(wèn)題。

首先，AI算法本身存在安全漏洞。因?yàn)楦黝悪C(jī)器學(xué)習(xí)的高度復(fù)雜，帶來(lái)的“黑箱問(wèn)題”使得算法不可解釋。這就如同我們乘坐在一架不知道由什么原理制造的發(fā)動(dòng)機(jī)驅(qū)動(dòng)的飛船上，看似效果還不錯(cuò)，但是一旦出現(xiàn)問(wèn)題，發(fā)明者也只能從“發(fā)動(dòng)機(jī)”外部進(jìn)行各種“嘗試性”修正。

其次，算法的“黑箱問(wèn)題”會(huì)引發(fā)各類AI系統(tǒng)安全風(fēng)險(xiǎn)，比如惡意機(jī)器學(xué)習(xí)的產(chǎn)生。攻擊者可以利用AI技術(shù)漏洞進(jìn)行“對(duì)抗樣本攻擊”和“數(shù)據(jù)污染攻擊”等種種手段，使得AI系統(tǒng)出現(xiàn)判斷失準(zhǔn)等問(wèn)題。

最后，當(dāng)這些AI系統(tǒng)應(yīng)用于某些安全性要求極高的領(lǐng)域，比如安防監(jiān)控、工業(yè)質(zhì)檢、自動(dòng)駕駛、金融風(fēng)控以及醫(yī)療診斷上面，一旦AI出現(xiàn)判斷偏差，將會(huì)帶來(lái)直接的經(jīng)濟(jì)財(cái)產(chǎn)損失，甚至是人身安全與健康風(fēng)險(xiǎn)等嚴(yán)重后果。

原本要應(yīng)用于提升生產(chǎn)效率和安全性的AI技術(shù)，卻有可能走向自身的反面。AI算法安全問(wèn)題必須引起這些積極投入智能化的產(chǎn)業(yè)決策者的重視，同樣這一問(wèn)題也需要得到來(lái)自AI技術(shù)研究者的積極回應(yīng)。

建造AI算法安全的長(zhǎng)城

在2018年，信通院發(fā)布的《人工智能安全白皮書(shū)》就將“算法安全風(fēng)險(xiǎn)”列為AI領(lǐng)域的六大安全風(fēng)險(xiǎn)之一，指出AI算法當(dāng)中存在的五種風(fēng)險(xiǎn)：算法黑箱、算法設(shè)計(jì)缺陷、數(shù)據(jù)依賴、對(duì)抗樣本攻擊、算法歧視。

針對(duì)這些算法安全風(fēng)險(xiǎn)，提供AI算法的安全評(píng)估檢測(cè)成為未來(lái)的AI安全的重要發(fā)展方向。

當(dāng)前，AI算法模型，由于算法黑箱和算法漏洞的存在，面對(duì)攻擊者惡意攻擊難以被檢測(cè)。因此，建立可解釋、可溯源、魯棒性強(qiáng)的AI模型成為AI應(yīng)用落地的根本任務(wù)。

而對(duì)抗樣本攻擊又是造成當(dāng)前AI安全風(fēng)險(xiǎn)中的主要手段 。攻擊者可以在判斷階段對(duì)樣本加入少量噪音，誘導(dǎo)算法識(shí)別出現(xiàn)誤判，影響判斷結(jié)果。提升對(duì)抗樣本攻擊的防御手段，提供算法漏洞檢測(cè)技術(shù)，也成為AI安全的當(dāng)務(wù)之急。

隨著產(chǎn)業(yè)智能化落地的加速，AI算法安全已經(jīng)成為一個(gè)產(chǎn)業(yè)現(xiàn)實(shí)的需求。當(dāng)前，像谷歌、IBM以及國(guó)內(nèi)的一些AI開(kāi)發(fā)的公司和團(tuán)隊(duì)，也早已展開(kāi)了相關(guān)AI安全的研究和應(yīng)用。

據(jù)我們了解，在AI安全檢測(cè)領(lǐng)域，一家背景源自清華大學(xué)人工智能研究院的RealAI，則成為國(guó)內(nèi)第一家專門進(jìn)行AI安全產(chǎn)品商業(yè)化的公司。

為解決AI模型安全檢測(cè)問(wèn)題，RealAI在去年5月與清華大學(xué)人工智能研究院聯(lián)合推出一款名為“RealSafe”的對(duì)抗攻防工具箱，并于近日就攻防能力和使用方式進(jìn)行了全面升級(jí)。

升級(jí)后的RealSafe平臺(tái)是目前首個(gè)針對(duì)算法模型本身安全的檢測(cè)平臺(tái)，提供從安全測(cè)評(píng)到防御加固升級(jí)整體解決方案。非技術(shù)人員僅需幾步即可快速應(yīng)對(duì)對(duì)抗樣本攻擊帶來(lái)的安全威脅

目前來(lái)說(shuō)，RealSafe安全平臺(tái)主要可以實(shí)現(xiàn)以下三大功能：

1、AI算法模型的安全檢測(cè)。主要包括提供AI算法漏洞檢測(cè)，以及全面、細(xì)致的攻擊效果評(píng)測(cè)與比較，給出模型安全評(píng)分及詳細(xì)的測(cè)評(píng)報(bào)告。其方法主要是利用多種主流和自研的算法生成對(duì)抗樣本進(jìn)行模擬攻擊，通過(guò)黑盒查詢攻擊方法與黑盒遷移攻擊方法，來(lái)實(shí)現(xiàn)AI算法模型的檢測(cè)評(píng)估。

2、對(duì)抗樣本體驗(yàn)。這一功能并不難理解。想要成為AI安全技術(shù)的領(lǐng)先者，也必然了解和精通最豐富的對(duì)抗樣本攻擊手段。在去年10月舉辦的GeekPwn2019國(guó)際安全極客大賽上，RealAI與清華大學(xué)共同組成的TSAIL戰(zhàn)隊(duì)獲得“CAAD CTF 圖像對(duì)抗樣本挑戰(zhàn)賽”以及“CAAD 隱身挑戰(zhàn)賽”兩項(xiàng)比賽的冠軍。其中，RealAI團(tuán)隊(duì)所使用的圖像對(duì)抗樣本，可以輕易攻破目前主流的人臉識(shí)別系統(tǒng)，或者直接騙過(guò)目標(biāo)檢測(cè)系統(tǒng)而實(shí)現(xiàn)“隱身”。

通過(guò)對(duì)抗樣本和樣本噪聲清洗后的對(duì)比體驗(yàn)，RealSafe可以將AI對(duì)抗樣本攻防體驗(yàn)在線直觀地呈現(xiàn)給客戶和大眾，從而提高人們的AI安全風(fēng)險(xiǎn)意識(shí)。

3、通用防御解決方案。目前RealSafe已經(jīng)能夠提供五種去除對(duì)抗噪聲的通用防御方法，可實(shí)現(xiàn)對(duì)輸入數(shù)據(jù)的自動(dòng)去噪，破壞攻擊者惡意添加的對(duì)抗噪聲。用戶可以根據(jù)自身的AI模型的評(píng)測(cè)類型，選擇相應(yīng)的防御解決方案。據(jù)了解，部分第三方的人臉比對(duì)API通過(guò)使用RealSafe平臺(tái)的防御方案加固后，安全性可提高40%以上。

對(duì)于AI算法安全評(píng)測(cè)以及防御應(yīng)用，RealSafe平臺(tái)并不是給出一套復(fù)雜的算法模型和開(kāi)發(fā)工具，讓企業(yè)客戶再去部署開(kāi)發(fā)，而是采用了流程化、模塊化、零編碼的功能設(shè)置，用戶只需提供相應(yīng)的數(shù)據(jù)即可在線完成評(píng)估，極大降低了算法評(píng)測(cè)的技術(shù)難度。

同時(shí)，為了降低用戶理解難度，RealSafe還提供了可視化和量化的評(píng)測(cè)結(jié)果，可以實(shí)現(xiàn)對(duì)抗樣本攻擊下的表現(xiàn)評(píng)分和防御處理后的評(píng)分變化以及模型效果的變化展示。

在RealSafe已經(jīng)完成的這一安全檢測(cè)平臺(tái)之上，可以實(shí)現(xiàn)哪些產(chǎn)業(yè)領(lǐng)域的AI安全保障呢？

為AI產(chǎn)業(yè)落地保駕護(hù)航

正如技術(shù)發(fā)展呈現(xiàn)的“矛與盾”的復(fù)雜關(guān)系，AI安全也同樣呈現(xiàn)出一種持續(xù)攻防的過(guò)程。新的攻擊手段出來(lái)，也必然要求有新的防御方法去應(yīng)對(duì)。

隨著AI技術(shù)不斷地成熟，以及在工業(yè)、金融、安防、交通、醫(yī)療教育等領(lǐng)域的實(shí)際應(yīng)用，這場(chǎng)AI安全的攻防賽就會(huì)以一種更加復(fù)雜和多變的競(jìng)對(duì)狀態(tài)呈現(xiàn)出來(lái)。

目前，大量的AI安全風(fēng)險(xiǎn)已經(jīng)出現(xiàn)，而且很多以常人難以直觀理解的方式出現(xiàn)在AI的應(yīng)用場(chǎng)景當(dāng)中。

比如，在人臉檢測(cè)和識(shí)別場(chǎng)景，攻擊者只要對(duì)面部的某些部位做出一點(diǎn)修改（比如佩帶帶有對(duì)抗樣本圖案的眼鏡），就可以成功逃脫AI系統(tǒng)的識(shí)別，從而實(shí)現(xiàn)“偽裝”和“隱身”。而目前人臉比對(duì)識(shí)別被廣泛應(yīng)用在于身份認(rèn)證、手機(jī)解鎖、金融遠(yuǎn)程開(kāi)戶、酒店入住登記等等場(chǎng)景，一旦人臉比對(duì)識(shí)別被惡意攻破，將會(huì)對(duì)個(gè)人信息安全、財(cái)產(chǎn)造成難以估計(jì)的損失；

在自動(dòng)駕駛領(lǐng)域，如果在交通指示牌或其他車輛上貼上或涂上一些小標(biāo)記，也可能導(dǎo)致自動(dòng)駕駛車輛產(chǎn)生錯(cuò)誤判斷，可能會(huì)導(dǎo)致嚴(yán)重的交通事故。

而對(duì)于安防領(lǐng)域，攻擊者對(duì)于人臉識(shí)別系統(tǒng)的對(duì)抗攻擊，也會(huì)產(chǎn)生相應(yīng)的監(jiān)控漏洞和失誤，從而帶來(lái)相應(yīng)的安全風(fēng)險(xiǎn)。

目前，RealSafe已經(jīng)應(yīng)用在工業(yè)、安防等多場(chǎng)景的安全檢測(cè)當(dāng)中。其中最新落地的一個(gè)案例，可以很好地說(shuō)明AI安全風(fēng)險(xiǎn)檢測(cè)的重要作用。

某電網(wǎng)的輸電塔的監(jiān)控系統(tǒng)，由于輸電塔的高安全性防護(hù)要求，防止吊車、塔吊、煙火破壞輸電線路，需要對(duì)輸電塔內(nèi)外進(jìn)行全天候的實(shí)時(shí)監(jiān)控。而這一實(shí)時(shí)監(jiān)控系統(tǒng)已經(jīng)交由某一目標(biāo)檢測(cè)的AI算法來(lái)提供保障。

RealSafe發(fā)現(xiàn)只要對(duì)其AI算法進(jìn)行一定的對(duì)抗樣本攻擊，就會(huì)造成監(jiān)控算法的失效，從而無(wú)法識(shí)別非常明顯的煙火情形。為此，RealSafe提供了完整的AI算法檢測(cè)和AI安全防火墻的搭建，從而最大限度地保證了監(jiān)控系統(tǒng)的有效性。

像這些隱蔽的AI安全風(fēng)險(xiǎn)，普通人可能難以理解，但正是這些風(fēng)險(xiǎn)漏洞，成為那些技術(shù)黑客、黑產(chǎn)們每天都在潛心研究的薄弱環(huán)節(jié)。更不要說(shuō)，直接利用AI技術(shù)的強(qiáng)大造假能力和低成本復(fù)制能力，展開(kāi)諸如人臉造假、語(yǔ)音克隆、筆跡\郵件偽造等引發(fā)的詐騙活動(dòng)。

而這些AI算法漏洞產(chǎn)生的安全風(fēng)險(xiǎn)和AI算法濫用帶來(lái)的欺詐風(fēng)險(xiǎn)，成為RealAI及其RealSafe平臺(tái)持續(xù)努力要攻克的安全難題。

作為國(guó)內(nèi)外最早關(guān)注AI安全領(lǐng)域的團(tuán)隊(duì)，借助對(duì)于AI算法攻防技術(shù)的多年研究，RealAI提前占據(jù)了在AI安全領(lǐng)域的先發(fā)優(yōu)勢(shì)。目前，RealAI在攻擊方面的多項(xiàng)相關(guān)技術(shù)成果已經(jīng)發(fā)表在國(guó)際頂級(jí)的學(xué)術(shù)刊物上，形成了業(yè)內(nèi)較高的競(jìng)爭(zhēng)壁壘。未來(lái)，RealAI也表示，會(huì)通過(guò)舉辦一些AI安全的攻防比賽，吸引更多AI人才參與到AI安全領(lǐng)域，基于RealSafe的平臺(tái)發(fā)現(xiàn)更多的安全隱患和防御手段，形成更為完善的AI安全生態(tài)。

RealAI團(tuán)隊(duì)也意識(shí)到，保持RealSafe平臺(tái)的技術(shù)優(yōu)勢(shì)，也必須同產(chǎn)業(yè)場(chǎng)景真實(shí)的AI安全需求聯(lián)系起來(lái)。目前，RealAI已經(jīng)在工業(yè)設(shè)備質(zhì)檢、金融精準(zhǔn)營(yíng)銷、信貸風(fēng)控、反欺詐等業(yè)務(wù)場(chǎng)景開(kāi)展了多項(xiàng)業(yè)務(wù)。通過(guò)AI模型應(yīng)用對(duì)這些產(chǎn)業(yè)業(yè)務(wù)本身帶來(lái)效益提升外，同時(shí)也將能夠更好地來(lái)發(fā)現(xiàn)業(yè)務(wù)本身可能存在的安全風(fēng)險(xiǎn)漏洞，反過(guò)來(lái)可以更好地支持算法模型優(yōu)化。

如果將產(chǎn)業(yè)智能化升級(jí)看作一條蓄勢(shì)向前的河流，那么，AI算法的豐富拓展了產(chǎn)業(yè)智能化場(chǎng)景的廣度，其成熟和升級(jí)決定了產(chǎn)業(yè)智能化的深度，而AI算法的安全可靠，則決定了產(chǎn)業(yè)智能化的長(zhǎng)度。

如果在AI的產(chǎn)業(yè)場(chǎng)景應(yīng)用中，一旦存在著致命的安全風(fēng)險(xiǎn)或者其他法律、道德風(fēng)險(xiǎn)，那么將直接造成某一項(xiàng)AI技術(shù)停滯或者AI在產(chǎn)業(yè)規(guī)?；瘧?yīng)用的延遲。

AI安全的重要性再無(wú)須贅述了，而加強(qiáng)AI算法安全意識(shí)，提升產(chǎn)業(yè)應(yīng)用場(chǎng)景下的AI算法安全防護(hù)能力，則已經(jīng)是當(dāng)下非常重要而緊迫的要求了。

幸而，以RealAI為代表的這些頂尖AI團(tuán)隊(duì)早已開(kāi)始了這一AI安全領(lǐng)域的征程，RealSafe平臺(tái)也正在以標(biāo)準(zhǔn)化的、低學(xué)習(xí)門檻、低成本應(yīng)用的方式來(lái)實(shí)現(xiàn)AI算法檢測(cè)的產(chǎn)品化服務(wù)。

這些僅僅是AI安全市場(chǎng)先行者走出的一小步。而這場(chǎng)無(wú)止境的AI安全較量中，也必將在未來(lái)各個(gè)產(chǎn)業(yè)智能化的大江大河中，成長(zhǎng)為一塊豐沃之地。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。