原標(biāo)題：防止被AI欺騙，是如何成為一門產(chǎn)業(yè)的？

文丨智能相對(duì)論

作者丨陳選濱

科學(xué)技術(shù)是把雙刃劍，在為我們生活帶來(lái)便利的同時(shí)，也在引發(fā)一系列的社會(huì)問題，比如當(dāng)前比較熱門的AI人臉識(shí)別詐騙、聲紋識(shí)別欺騙等。

在今年的凈網(wǎng)2021專項(xiàng)行動(dòng)中，南通警方就破獲了一起AI人臉識(shí)別詐騙案件。據(jù)官方介紹，該犯罪團(tuán)伙主要利用AI軟件偽造人臉識(shí)別認(rèn)證來(lái)解綁用戶賬號(hào)，再以低廉的價(jià)格將賬號(hào)賣給下游的詐騙份子，從而非法牟利。

除了“人臉”之外，“聲音”也同樣可以借助AI技術(shù)進(jìn)行克隆模仿。國(guó)外就有一個(gè)犯罪團(tuán)伙利用人工智能語(yǔ)音生成軟件，成功模仿并冒充一家英國(guó)能源公司的德國(guó)母公司CEO，來(lái)欺騙其多位同事和合作伙伴，非法牟利約173萬(wàn)人民幣，令人咋舌。

因此，在當(dāng)前，反AI欺詐基本已經(jīng)成為一個(gè)社會(huì)性的問題，如何以“魔法打敗魔法”，用技術(shù)手段來(lái)解決技術(shù)問題，是市場(chǎng)和行業(yè)共同努力的方向。特別是在AI應(yīng)用越來(lái)越普遍的國(guó)內(nèi)市場(chǎng)，更多的企業(yè)投身于專業(yè)技術(shù)領(lǐng)域，正在用更領(lǐng)先的技術(shù)能力來(lái)壘砌反AI欺詐的圍墻。

比如，前不久，中關(guān)村科金就在FaceForensics++Benchmark（國(guó)際知名深度偽造學(xué)術(shù)榜單）通過基于自有億級(jí)海量圖片訓(xùn)練的人臉識(shí)別算法和獨(dú)有的AI技術(shù)將綜合準(zhǔn)確率提升至94.1%，成功登頂榜首，將我國(guó)的深度偽造防偽能力再提升一個(gè)段位，處于國(guó)際領(lǐng)先水平。

所謂深度偽造技術(shù)是指通過人工智能技術(shù)將一個(gè)人（比如目標(biāo)公司的CEO）視頻中的頭像幾乎完美嫁接到另一個(gè)視頻中的人（比如假的演員）身上。這樣的技術(shù)如果往壞的方向應(yīng)用就很容易構(gòu)成文章開篇所說的欺詐案件，但是如果往好的方向應(yīng)用，那將是反AI欺詐工程的重要技術(shù)支持。

反AI欺詐，便是目前中關(guān)村科金致力于產(chǎn)業(yè)賦能的一個(gè)技術(shù)應(yīng)用方向。技術(shù)本身就帶有天然的辯證性，當(dāng)AI欺詐越來(lái)越普遍，反AI欺詐實(shí)際也正在逐漸形成一個(gè)產(chǎn)業(yè)，只是外界關(guān)注得并不多，而正在與非法份子角力的也多是一些專精企業(yè)，而非巨頭。

AI欺詐與反欺詐角力， 引領(lǐng)產(chǎn)業(yè)機(jī)遇的卻不是“傳統(tǒng)”AI巨頭？

目前，AI欺詐案件很普遍，方式也是多種多樣，偽造郵件、克隆聲音、電話詐騙、人臉偽造等等層出不窮。

聚焦來(lái)看，這些AI詐騙的核心就是利用先進(jìn)的人工智能技術(shù)來(lái)偽造聲音、筆跡、人臉等特征，來(lái)獲取受害者的信任從而實(shí)現(xiàn)牟利。

這樣的方式相比以往的詐騙，就存在非常明顯的技術(shù)優(yōu)勢(shì)——在AI技術(shù)的加持下，偽造的“真實(shí)性”更強(qiáng)，不僅是人，甚至連某些終端設(shè)備的攝像頭、傳感器都能騙過，可謂防不勝防。

因此，面對(duì)這種情況，簡(jiǎn)單的呼吁和提高反詐騙意識(shí)是不夠，必須得利用技術(shù)手段來(lái)預(yù)防、解決。比如，國(guó)外的信息安全服務(wù)商Symantec就計(jì)劃用區(qū)塊鏈和IP語(yǔ)音（VoIP）呼叫的方法來(lái)辨別來(lái)電者的真實(shí)性，減少AI偽造詐騙電話。

在國(guó)內(nèi)，類似的技術(shù)應(yīng)用與推廣也在開展，中國(guó)信通院就在牽頭組織“護(hù)臉計(jì)劃”成員加速相關(guān)技術(shù)的進(jìn)步和應(yīng)用落地。其中，成員之一的中關(guān)村科金依托強(qiáng)大的AI算法能力和人臉防偽技術(shù)正在助力銀行、保險(xiǎn)、證券、信托、教育等行業(yè)實(shí)現(xiàn)智能化安全升級(jí)，規(guī)避AI欺詐風(fēng)險(xiǎn)。

在這個(gè)過程中，反AI欺詐依托較高的技術(shù)門檻以及規(guī)?；膽?yīng)用，正逐步發(fā)展成為一個(gè)典型的“專精特新”產(chǎn)業(yè)。

值得一提的是，在這個(gè)新產(chǎn)業(yè)，引領(lǐng)發(fā)展的往往并非是傳統(tǒng)意義上AI巨頭，而是一些深耕單一技術(shù)領(lǐng)域的專精企業(yè)。這不難理解，AI欺詐與反AI欺詐之間的拉鋸大多是對(duì)應(yīng)某一單一技術(shù)領(lǐng)域的角力，“正義”的一方必然需要更專業(yè)、強(qiáng)大的技術(shù)能力。

因此，進(jìn)入這一領(lǐng)域的服務(wù)商必須要有過硬的技術(shù)能力，比如中關(guān)村科金，除了人臉識(shí)別技術(shù)之外，其聲紋識(shí)別能力同樣榮獲了國(guó)際權(quán)威聲紋識(shí)別賽事VoxSRC2021的Trick1和Trick2兩個(gè)賽道雙榜第二名，達(dá)到國(guó)際領(lǐng)先水平。

憑借人工智能技術(shù)展現(xiàn)出來(lái)的技術(shù)實(shí)力以及市場(chǎng)潛力，中關(guān)村科金同時(shí)也榮獲了2021北京市專精特新“小巨人”企業(yè)稱號(hào)。而在反AI欺詐這個(gè)賽道內(nèi)，往往就是這樣的小巨人企業(yè)憑借著技術(shù)的專注性做出了優(yōu)勢(shì)，引領(lǐng)著產(chǎn)業(yè)的方向。

三個(gè)動(dòng)作， 反AI欺詐走向產(chǎn)業(yè)突圍

在中國(guó)信通院牽頭組織的“可信AI：人臉識(shí)別評(píng)估”活動(dòng)中，順利通過本次評(píng)估且系統(tǒng)安全防護(hù)能力達(dá)到優(yōu)秀級(jí)的企業(yè)就有中關(guān)村科金、云從科技等這樣專注AI領(lǐng)域的玩家。

如今，信息安全早已成為一個(gè)較為成熟的產(chǎn)業(yè)，反AI欺詐只是其中的一種表現(xiàn)，市場(chǎng)和行業(yè)正在從各個(gè)層面來(lái)增強(qiáng)整體的防護(hù)能力。聚焦中關(guān)村科金這樣的小巨人企業(yè)以及“可信AI：人臉識(shí)別評(píng)估”類似的權(quán)威測(cè)評(píng)，我們可以看到較為清晰的三大行動(dòng)趨勢(shì)。

設(shè)置比AI欺詐進(jìn)攻路線更全面的“防御工事”。

首先，面對(duì)AI欺詐等技術(shù)風(fēng)險(xiǎn)攻擊，只有做好從技術(shù)到產(chǎn)業(yè)的全面部署才能真正的有效做好防御。

因此，在本次“可信AI：人臉識(shí)別評(píng)估”活動(dòng)中，中國(guó)信通院就設(shè)置了各種主流的攻擊方式測(cè)評(píng)，如人臉識(shí)別系統(tǒng)抵御電子屏攻擊、打印照片攻擊、挖孔照片攻擊、三維頭模攻擊、手機(jī)定制ROM注入攻擊等，全面、客觀地考驗(yàn)企業(yè)的技術(shù)能力。

這種通過“技術(shù)來(lái)評(píng)估技術(shù)”的方法對(duì)應(yīng)的正是“用技術(shù)手段來(lái)解決技術(shù)問題”的產(chǎn)業(yè)思路，一切的核心都在技術(shù)之上。通過這樣的活動(dòng)將持續(xù)倒逼企業(yè)專注于技術(shù)進(jìn)步，同時(shí)讓市場(chǎng)看到更多像中關(guān)村科金這樣的專精企業(yè)，促成產(chǎn)業(yè)合作將信息安全的“防御工事”推動(dòng)起來(lái)。

從擬真中快速獲取更豐富的防御技巧。

其次，對(duì)于企業(yè)而言，做好信息安全更要有先“敵人”一步，先市場(chǎng)一截的意識(shí)。那么，參與國(guó)內(nèi)外的頂尖賽事和評(píng)估活動(dòng)，很大程度上不僅能得到權(quán)威的背書，還能為技術(shù)應(yīng)用創(chuàng)造一個(gè)擬真的場(chǎng)景，以獲取更豐富的防御技巧。

本次FaceForensics++Benchmark榜單就為參賽團(tuán)隊(duì)提出了極為困難的評(píng)估活動(dòng)，其中換表情（NerualTexture、Face2Face）的深度偽造算法由于其微笑的編輯區(qū)域以及逼真的渲染技術(shù)，辨別真?zhèn)坞y度極大。

同樣的，在其他評(píng)估活動(dòng)中也設(shè)置了基于行業(yè)頂級(jí)標(biāo)準(zhǔn)的門檻。正是在這種極為嚴(yán)苛的測(cè)試條件下，越能看到一家企業(yè)應(yīng)對(duì)信息安全攻擊以及AI欺詐的技術(shù)能力。

經(jīng)受現(xiàn)實(shí)場(chǎng)景的嚴(yán)苛考驗(yàn)，明確技術(shù)應(yīng)用方向。

最后，現(xiàn)實(shí)場(chǎng)景的應(yīng)用也是必不可少的。比起擬真訓(xùn)練，現(xiàn)實(shí)應(yīng)用更能看到“敵人”的攻擊方式、攻擊意圖以及攻擊思維，從而明確技術(shù)的迭代方向。

目前，社會(huì)上就存在一種新的高科技犯罪思路：犯罪分子先是摸清行方的大額轉(zhuǎn)賬業(yè)務(wù)全部流程中可能涉及的填報(bào)信息，然后搭建紅包釣魚網(wǎng)站，引誘客戶填報(bào)相關(guān)個(gè)人敏感信息。緊接著再使用專用的ROM劫持設(shè)備對(duì)行方系統(tǒng)進(jìn)行攝像頭麥克風(fēng)劫持，與客戶進(jìn)行視頻電話通信，引導(dǎo)客戶進(jìn)行相關(guān)點(diǎn)點(diǎn)頭、眨眨眼、張張嘴的操作，以此順利通過了行方的知識(shí)型個(gè)人信息校驗(yàn)、生物型活體識(shí)別與人臉識(shí)別，實(shí)現(xiàn)非法牟利。

在這種情況下，市場(chǎng)上常規(guī)的動(dòng)作活體技術(shù)的密碼空間相對(duì)狹小，兩輪動(dòng)作也僅有幾十種可能性，非常容易被窮舉和傳遞誘導(dǎo)，因此很難做好防御。因此，中關(guān)村科金正采用多模態(tài)生物防偽與安全平臺(tái)中的數(shù)字活體技術(shù)進(jìn)行加固，可以將密碼空間上升到幾十萬(wàn)種，不僅要求在有限的時(shí)間內(nèi)將動(dòng)態(tài)密碼轉(zhuǎn)述給客戶，還要求突破唇語(yǔ)校驗(yàn)、語(yǔ)音校驗(yàn)、音畫同步校驗(yàn)。這樣就大大提高了犯罪分子的攻擊成本，從而保護(hù)客戶的財(cái)產(chǎn)安全。

因此，從實(shí)際應(yīng)用來(lái)看，現(xiàn)實(shí)場(chǎng)景的嚴(yán)苛考驗(yàn)是非常關(guān)鍵的，只有越深入現(xiàn)實(shí)之中，才越能看清目前產(chǎn)業(yè)最需要解決的問題是什么，技術(shù)應(yīng)該怎么賦能。

“魔”“道”較量， AI時(shí)代網(wǎng)絡(luò)安全藍(lán)海才剛剛開始

回過頭來(lái)說，欺詐與反欺詐本身就是一個(gè)相互拉鋸的事情，加持了AI技術(shù)也同樣如此。對(duì)于這樣一個(gè)“魔高一尺道高一丈”的過程，一般很難出現(xiàn)終局，現(xiàn)在也只是開場(chǎng)。

或許，很快又會(huì)有新的攻擊方式和技術(shù)手段出現(xiàn)，需要服務(wù)商不斷的應(yīng)對(duì)，迭代自家技術(shù)，釋放產(chǎn)業(yè)價(jià)值。

我們可以看到的是，技術(shù)的進(jìn)步必然會(huì)帶來(lái)更多的價(jià)值，一方面是防范安全的價(jià)值，另一方面則是應(yīng)用優(yōu)化的價(jià)值。

比如，中關(guān)村科金攜手某全國(guó)性股份制商業(yè)銀行打造的互聯(lián)網(wǎng)銷售可回溯系統(tǒng)，在保障互聯(lián)網(wǎng)產(chǎn)品銷售安全的同時(shí)，實(shí)際上也為銀行、客戶等多方帶來(lái)了顯而易見的新價(jià)值——對(duì)于銀行，系統(tǒng)可對(duì)有效訂單信息回溯數(shù)據(jù)并進(jìn)行算法壓縮+多重算法加密處理，保證回溯資料無(wú)損且安全，存儲(chǔ)效率高，成本低；對(duì)于客戶，系統(tǒng)采用輕感知采集，無(wú)需進(jìn)行過重操作，只需簡(jiǎn)單操作便能看到整個(gè)互聯(lián)網(wǎng)產(chǎn)品的銷售過程，保障權(quán)益。據(jù)悉，該系統(tǒng)已合作銀行及保險(xiǎn)機(jī)構(gòu)近15家，其中超過3家通過了銀保監(jiān)會(huì)駐點(diǎn)檢查。

由此可見，技術(shù)確實(shí)是一把雙刃劍，但是如果“好”的一面能夠用得好的話，不僅能給我們帶來(lái)安全可靠的保障，還能提供更為便捷高效的服務(wù)。

那么，在這場(chǎng)“魔”與“道”的較量中，反AI欺詐也好，信息安全也罷，都不止于“防護(hù)”二字，而是更為遠(yuǎn)大的目標(biāo)，即更好地服務(wù)于生活、生產(chǎn)。

*本文圖片均來(lái)源于網(wǎng)絡(luò)

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。