科技云報到原創(chuàng)。

“9張瑪麗蓮夢露的照片里，有2張是AIGC偽造的，你能看出來哪張是假的嗎？”

這是出現(xiàn)在外灘大會AI創(chuàng)新賽·全球Deepfake攻防挑戰(zhàn)賽的表演賽上激動人心的一刻。9月6日下午，賽事拉開帷幕，生成式AI技術(shù)與Deepfake（深度偽造）檢測技術(shù)在這里正面交鋒，讓現(xiàn)場觀眾直呼過癮。

比賽可以用AI技術(shù)去對抗，但實際生活中肉眼難辨AI真假，我又要如何去證明‘我’不是我？

就在不久前，Deepfake又以惡性事件造成大面積恐慌出現(xiàn)在公眾視野。連日來，有多位韓國女性在中文社交平臺發(fā)帖求助，稱韓國正再次上演“N號房”事件，包括未成年在內(nèi)的眾多受害女性，都是在毫不知情的情況下照片被盜用，不法分子利用Deepfake技術(shù)換臉至淫穢色情圖像或視頻之中，在韓遭大面積傳播。

Deepfake即利用深度學習算法，實現(xiàn)音視頻內(nèi)容的模擬和偽造，可用于電影制作、視頻編輯、虛擬現(xiàn)實等領(lǐng)域。韓國N號房事件的同一時間，馬斯克在社交媒體上被AI換臉致老人大額退休金被騙，引發(fā)廣泛討論。

從制造虛假信息到偽造名人影像，Deepfake再次觸碰道德與法律邊界，AI發(fā)展催生深偽技術(shù)濫用，讓社會深刻意識到對抗Deepfake迫在眉睫。除了手握技術(shù)利器之外，更應(yīng)利用行業(yè)資源與人才優(yōu)勢，共同應(yīng)對，方能事半功倍。

近日，風起云涌的黃浦江畔，2024外灘大會如約而至。隨大會一同亮相的，還有一場全球矚目的Deepfake攻防挑戰(zhàn)賽，全世界的“最強大腦”齊聚于此，上演一場對抗深偽技術(shù)的頭腦風暴。

值得一提的是，大賽倡導優(yōu)秀參與者開源比賽模型，降低技術(shù)門檻、加強技術(shù)交流，進而幫助更多人檢測偽造內(nèi)容，助力AI向善。倡議一經(jīng)發(fā)出，就得到中國科學院自動化研究所VisionRush隊伍和澳門大學JT Group的積極相應(yīng)。截至目前，已有近百名選手及所在隊伍表示愿意參與代碼接力，希望通過技術(shù)手段，為每一個可能受到傷害的人提供保護。

Deepfake技術(shù)猖狂   恐慌情緒仍在蔓延

Deepfake的邪惡之處在于，不僅偷走了臉，更是竊取了人們的身份、名譽、隱私和尊重...

韓國采用深偽技術(shù)的性犯罪案件數(shù)量每年都在增加，犯罪嫌疑人中包括不少青少年。此次參與N號房事件，在韓軟件Telegram群聊中進行傳播的人多達22萬。韓媒稱，受害者包括大學生、教師和服役人員。即便如此，韓國警方并未給出很好的解決方案，致恐慌情緒無限蔓延。

不僅是韓國，當下放眼全球，各國都時有發(fā)。就連美國著名歌手泰勒·斯威夫特、企業(yè)家埃隆·馬斯克這樣的名人也難逃被AI戲弄的時刻。

全球Deepfake攻防挑戰(zhàn)賽后，“VisionRush”決定在網(wǎng)上開源其參賽作品，模型可幫助Deepfake受害者降低技術(shù)使用的門檻，為無數(shù)孤立無援的韓國女性受害者帶去希望，能夠證明“我”不是我。

攻防賽上，針對Deepfake技術(shù)，全球眾多優(yōu)秀的選手展現(xiàn)了高水平的思考以及高技術(shù)的正面較量。大賽分主流的圖片和音視頻賽道，數(shù)據(jù)集含公開及偽造數(shù)據(jù)，偽造圖片有超50種生成方式，音視頻納入超100種組合攻擊方式，訓練數(shù)據(jù)總量超百萬。

螞蟻數(shù)科出題團隊ZOLOZ和天璣實驗室考慮多重因素打造高度模擬真實場景的攻擊環(huán)境，為選手提供極具挑戰(zhàn)的競賽平臺，推動AI向善技術(shù)人才的培養(yǎng)和發(fā)展。

現(xiàn)如今生成式AI爆火，數(shù)據(jù)量龐大，圖片和視頻有時候真假難辨，專業(yè)的防御也很難。VisionRush隊長王博表示，除了監(jiān)管難度大之外，資源投入不平衡也是防偽的一大難點，希望以后學術(shù)界和產(chǎn)業(yè)界可以共同合作，推動網(wǎng)絡(luò)安全的研究工作。

參賽選手唐永威本科就讀于商科專業(yè)，卻在AI領(lǐng)域找到了自己的天賦。他以獨特的思維方式，從業(yè)務(wù)角度出發(fā)理解賽題，進行建模和優(yōu)化迭代，并最終獲得視頻賽道的一等獎。

兩個半月激烈比拼，優(yōu)秀技術(shù)與AI模型涌現(xiàn)，為全球抵抗Deepfake注入信心。

這場由螞蟻集團主辦、螞蟻數(shù)科承辦的比賽，針對“AI換臉”的欺詐風險進行攻防實戰(zhàn)演練，設(shè)立百萬獎金池，賽事吸引來自全球21個國家和地區(qū)的2200多名參賽者，共1500多支團隊。

“報名人數(shù)超出想象，大賽審核人員也從最初的一名增加至五名。”作為此次大賽背后出題團隊的負責人，ZOLOZ技術(shù)總監(jiān)姚偉斌表示，“大賽希望引起大家對Deepfake危害的重視，通過賽題強大的數(shù)據(jù)庫去推動行業(yè)檢測能力提升，將訓練集、驗證集和公開測試集開源，為各公司訓練檢測能力提供直接幫助。從長遠考慮，希望推動人臉檢測標準的發(fā)布，以及國家法律法規(guī)層面對AIGC內(nèi)容進行規(guī)范。

螞蟻數(shù)科CEO趙聞飆表示，“此次大賽螞蟻數(shù)科將以往商業(yè)實戰(zhàn)中積累的攻防經(jīng)驗融入賽事設(shè)計與賽題數(shù)據(jù)集，希望與同行結(jié)成戰(zhàn)友關(guān)系，共同提升全行業(yè)的安全防御水位，引起全球?qū)eepfake的重視，這也是承辦比賽的初心所在”。

多國掀起防偽風暴

AI換臉不僅會出現(xiàn)在極端惡性犯罪中，還會出現(xiàn)在日常的刷臉認證、金融支付、電信詐騙等生活場景之中，給人們的生活和財產(chǎn)安全帶來嚴重威脅。

姚偉斌坦言：“AIGC的生成偽造攻擊量今年比去年增加了10倍，去年的攻擊濃度為1%，今年升至10%，相當于100個人中有10個人的身份信息是AIGC偽造的，風險呈指數(shù)級上升，這一現(xiàn)象在韓國、菲律賓、印尼等多個國家都普遍存在，不得不高度警惕?！?/p>

為此，ZOLOZ早在2017年就推出了可信身份認證服務(wù)，基于證件識別與防偽、金融級人臉識別、身份風險網(wǎng)絡(luò)等先進技術(shù)及全套風險策略，早已成為多國金融APP的重要安全防線。

ZOLOZ在螞蟻集團多年的風控經(jīng)驗基礎(chǔ)上，搭建了一套端云一體的全鏈路技術(shù)體系，前端通過精密傳感器校驗與多維特征動態(tài)風控，嚴格審查軟硬件環(huán)境，確保生物特征數(shù)據(jù)真實無篡改。同時，利用深度學習模型分析面部動態(tài)，在面對國外不同膚色、不同人種、不同語言時都能夠精準判斷真人實時互動。

技術(shù)升級的同時，挑戰(zhàn)也在不斷上演。

以印尼“待就業(yè)卡”計劃為例，可信身份認證技術(shù)發(fā)揮了關(guān)鍵作用。面對印尼政府對隱私數(shù)據(jù)不能出境的嚴格要求，ZOLOZ投入資源在印尼機房部署本地系統(tǒng)。此外，為適應(yīng)中低收入階層學員采用的H5登錄方式但安全性較低的情況，ZOLOZ更是有針對性地加強HTML5頁面的安全性。截至目前，技術(shù)已幫助1700萬人實現(xiàn)在線職業(yè)培訓，保障 21.3 億美元獎學金精準發(fā)放到學員電子賬戶。

在菲律賓，身份認證服務(wù)挑戰(zhàn)更為巨大。由于沒有統(tǒng)一的身份證件，各類證件質(zhì)量參差不齊，ZOLOZ為此設(shè)計了通用開發(fā)框架以適配不同版式證件。上線eKYC功能后，雖然菲律賓本地錢包GCash具備了識別10多種當?shù)刈C件的能力，申請流程和成本大幅降低，但在信息存儲不能出境的限制下，ZOLOZ通過獲得多項安全認證（如ISO27001、27701、SOC2、PCIDSS等），并在其SaaS云端不保留任何個人數(shù)據(jù)的方式，與菲律賓的安全團隊緊密合作，確保了用戶信息的安全與合規(guī)。

盡管挑戰(zhàn)重重，但可信身份認證服務(wù)出海至今，已顯著助力多國數(shù)字化進程。驗證時間從幾天縮短至3分鐘，成功率從65%提升到90%以上，實人認證準確率達99.9%，成本大幅下降。ZOLOZ的技術(shù)在全球范圍內(nèi)展現(xiàn)了強大的適應(yīng)性和實力，其服務(wù)現(xiàn)已覆蓋金融、電信、政務(wù)等領(lǐng)域，惠及數(shù)十個國家和地區(qū)，成為全球數(shù)字化轉(zhuǎn)型的重要支撐。

國內(nèi)誕生首個  “AI換臉”行業(yè)標準

歷史上，從http到https的轉(zhuǎn)變歷經(jīng)近十年才得以廣泛應(yīng)用，Chrome最終強制要求使用https以杜絕假冒網(wǎng)站，為解決AIGC問題提供了思路借鑒。

未來，每一張AIGC生成的圖片和視頻或許都應(yīng)帶有簽名，如https證書一般，以攔截偽造方式、降低防御成本，這需要政府、標準制定方、大模型廠商和安全廠商等多方面共同努力。目前，大模型廠商在生產(chǎn)端已采取添加水印等規(guī)范措施，但消費端的瀏覽器、聊天工具等尚未對AIGC內(nèi)容進行限制觀看操作。

如此看來，Deepfake仍有太多可乘之機，法律法規(guī)的完善便日顯迫切。

8月1日，歐盟出臺的《人工智能法案》正式生效，成為人工智能監(jiān)管的重要轉(zhuǎn)折點，其影響廣泛。9月5日，歐盟輪值主席國匈牙利代表歐盟簽署《人工智能框架公約》。隨著 AI法案在全球不斷出臺，為全行業(yè)更新了標準，但這還遠遠不夠。

在姚偉斌看來，利用Deepfake犯罪之人頗為狡猾。盡管ZOLOZ已幫助不少國家對抗Deepfake，但仍無法阻止犯罪從一個區(qū)域轉(zhuǎn)移至另一個區(qū)域。

企業(yè)也應(yīng)擔當責任。今年5月16日，ZOLOZ加入新加坡人工智能倫理與治理倡議（AI E&G BoK），與行業(yè)機構(gòu)共建健康、穩(wěn)健、合乎道德的人工智能生態(tài)。外灘大會期間，ZOLOZ聯(lián)合十余家機構(gòu)發(fā)布國內(nèi)首個面向金融場景的“AI換臉”檢測標準。該標準的發(fā)布為金融場景下的虛假數(shù)字人臉安全檢測和評估提供了依據(jù)，也填補了這一領(lǐng)域的空白。

未來，在國內(nèi)，ZOLOZ將與信通院合作推動內(nèi)容水印、標識落地；在國外，會與Adobe發(fā)起的C2PA聯(lián)盟共同規(guī)范內(nèi)容標識。

結(jié)語

我是我，但“我”也可能不是我。

AI技術(shù)如同一把雙刃劍，在展現(xiàn)技術(shù)創(chuàng)新的同時，也為社會安全敲響警鐘。

面對挑戰(zhàn)，我們亦見技術(shù)社區(qū)積極構(gòu)建防御體系，開源攻防模型，提升公眾意識。

展望未來，強化法規(guī)與技術(shù)并行，不僅能夠遏制不當使用，更能保障數(shù)字時代的誠信與安全，讓AI持續(xù)向善發(fā)展，服務(wù)于人類社會的長足進步。

生成海報

免責聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個人觀點，與極客網(wǎng)無關(guān)。文章僅供讀者參考，并請自行核實相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。