常言道，眼見為實。然而，隨著人工智能的迅猛發(fā)展，一些使用Deepfake深度偽造技術制作的換臉視頻也在網(wǎng)絡上屢見不鮮。這項技術甚至被別有用心的人利用，成為詐騙、誣陷等罪惡勾當?shù)墓ぞ撸o社會和個人帶來嚴重威脅。

魔高一尺，如何破解？

在2021WAIC世界人工智能大會上，依托清華大學人工智能研究院成立的產(chǎn)業(yè)化公司——北京瑞萊智慧科技有限公司（RealAI），發(fā)布了一款能夠一秒識別真?zhèn)蔚蔫b別神器——DeepReal深度偽造內(nèi)容檢測平臺，讓“假臉”無處遁形。

一、律之以法

幾十萬年以來，人臉都是識別人類身份信息最為顯著的特征。然而，隨時AI技術的飛速發(fā)展，這一切正在被深度偽造技術所瓦解。

近幾年來，非法利用AI技術偽造他人肖像吸引流量牟利，甚至從事侮辱、誹謗、網(wǎng)絡詐騙、色情宣傳等違法犯罪活動的案例已屢見不鮮。據(jù)一家國外機構監(jiān)測到的結果顯示：自2019年以來，深度偽造視頻的數(shù)量呈指數(shù)級增長。

深度偽造技術給國家、社會和個人帶來的風險，引起了世界各國的高度重視，我國也重拳出擊。2020年5月28日，十三屆全國人大三次會議表決通過了《中華人民共和國民法典》，其中第1,019條規(guī)定“任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。未經(jīng)肖像權人同意，不得制作、使用、公開肖像權人的肖像，但是法律另有規(guī)定的除外”，總體要求了禁止利用信息技術手段偽造的方式侵犯他人的肖像權和聲音。

在法律層面，AI作惡要有“緊箍咒”來約束；在技術層面，“魔高一尺”還要有“道高一丈”來抗衡。

二、束之有“術”

“深度偽造技術正在不斷演進迭代，亟需采用主動技術防范及預警檢測手段。”在2021世界人工智能大會上，清華大學人工智能研究院的核心孵化企業(yè)北京瑞萊智慧科技有限公司副總裁唐家渝向記者介紹，該司已研發(fā)出了“AI換臉術”的克星——一款破解深度偽造內(nèi)容的檢測產(chǎn)品DeepReal深度偽造內(nèi)容檢測平臺。

“門檻低、影響大、變化快”是深度偽造技術的顯著特征，且肉眼難以識別，更無法大量檢測。

針對如上痛點，RealAI基于第三代人工智能技術研發(fā)出的DeepReal，能夠通過研究深度偽造內(nèi)容和真實內(nèi)容的表征差異性辨識、不同生成途徑的深度偽造內(nèi)容一致性特征挖掘等問題，快速、精準地對多種格式與質量的圖像進行真?zhèn)舞b別。

圖 ｜ DeepReal檢測結果展示：紅色框代表判斷為虛假人臉，綠色框代表判斷為真實人臉

三、檢測性能工業(yè)級

檢測準確率無疑是衡量該平臺價值最為重要的指標。

據(jù)唐家渝介紹，檢測效果主要受到兩個因素的影響：數(shù)據(jù)集多元化程度和算法可靠程度。DeepReal深度偽造檢測平臺算法基于大數(shù)據(jù)量進行訓練和測試，截至目前，數(shù)據(jù)量已達到千萬級，數(shù)據(jù)集已覆蓋三大類，包括：學術深偽數(shù)據(jù)集、網(wǎng)絡深偽數(shù)據(jù)集和自研深偽數(shù)據(jù)集。同時，通過結合貝葉斯學習框架和深度神經(jīng)網(wǎng)絡，來估計模型在預測新樣本時的不確定性。以上，有效保障了DeepReal深偽檢測算法的泛化能力。

在測試結果方面，DeepReal在學術數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡數(shù)據(jù)集中，已達到99%以上的準確率。而在實際應用中，DeepReal的檢測準確率也已達到業(yè)界頂尖水平，遠超 Facebook此前舉辦的Deepfake檢測挑戰(zhàn)賽所公布的最好成績。

此前，RealAI團隊在國際安全極客大賽 GeekPwn 2020 首屆 CAAD 虛假人臉 AI 識別大賽上，以絕對比分優(yōu)勢奪得冠軍；在網(wǎng)信辦與公安部共同指導的第二屆“中國人工智能·多媒體信息識別技術大賽”中，斬獲“創(chuàng)新之星”獎以及深偽檢測競賽A類獎。此外，DeepReal在深偽相關領域也已發(fā)表頂級會議和期刊論文十余篇。

天下武功，唯快不破。超高的準確度，還需要速度來支撐。

DeepReal深度偽造內(nèi)容檢測平臺，可實現(xiàn)每幀畫面的檢測時間僅用時30毫秒。同時，還支持橫向拓展與集群部署。檢測完畢，平臺還支持生成檢測報告。

圖 ｜ DeepReal深度偽造內(nèi)容檢測平臺檢測報告示意圖

四、AI界的安全之盾

深度偽造技術的濫用，給個人生活、國家安全和社會穩(wěn)定帶來諸多問題和挑戰(zhàn)，而且隨著仿真精度的提升，這種問題有愈演愈烈的趨勢。

自成立以來，RealAI就致力于提供安全可控的第三代人工智能技術，從根本上增強人工智能的安全性、可靠性及可信性。據(jù)唐家渝透露，針對深度偽造技術的防范，RealAI目前已與工信部、公安部、國家互聯(lián)網(wǎng)應急中心、工信安全中心、中國信通院、公安三所等多家機構展開深入的項目合作。

一流企業(yè)做標準。此前，RealAI與國家工信安全中心聯(lián)合制定了我國人臉模型算法自身安全相關的第一個標準《信息安全技術人臉比對模型安全技術規(guī)范 》，作為第二編寫單位與信通院在工信部網(wǎng)安局指導下聯(lián)合編制了《人工智能安全框架（2020年）》藍皮書。此外，RealAI目前也參與包括機器學習算法安全相關的國家標準，以及人工智能合成音視頻、人工智能生物特征識別相關的行業(yè)標準等多項標準的制定工作中。

唐家渝表示，未來這款產(chǎn)品將在網(wǎng)絡虛假內(nèi)容甄別、人臉資料審核以及影像物證真實性檢驗等實際應用場景中發(fā)揮強大作用，RealAI也將持續(xù)迭代技術、打磨產(chǎn)品，和相關單位一起，全力以赴，確保在這場深度偽造的“攻防戰(zhàn)”中保持始終立于不敗之地。

補充資料：

關于瑞萊智慧RealAI

北京瑞萊智慧科技有限公司（簡稱“RealAI”）是依托清華大學人工智能研究院設立的人工智能企業(yè)，致力于提供安全可控的第三代人工智能技術，加速安全、可靠、可信的產(chǎn)業(yè)智能化升級。

公司由清華大學人工智能研究院院長張鈸院士、清華大學人工智能研究院基礎理論研究中心主任朱軍教授共同擔任首席科學家。團隊堅持底層創(chuàng)新，敢為人先，基于第三代人工智能技術，從根本上增強人工智能的安全性、可靠性、及可信性?；谧灾骺煽氐讓涌蚣埽峁┮幌盗蠥I基礎設施平臺，為高價值場景智能化升級提供可靠的一站式基礎保障。

RealAI致力于建設安全可控人工智能應用生態(tài)，推動人工智能落地全新的關鍵應用場景。目前RealAI已經(jīng)落地于金融、能源、制造、互聯(lián)網(wǎng)等領域，提供金融智慧風控、智慧理財、工業(yè)設備預測性維護、人臉識別系統(tǒng)安全檢測與增強等產(chǎn)品和解決方案。

關于深度偽造

“深度偽造”，也被譯作“深度造假”，譯自英語中新出現(xiàn)的一個組合詞Deepfake，是計算機的“深度學習”（Deeplearning）和“偽造”（fake）的組合，出現(xiàn)于人工智能和機器學習技術時代。它被稱作一種合成媒體（synthetic media），是通過自動化的手段、特別是使用人工智能的算法技術，進行智能生產(chǎn)，操縱、修改數(shù)據(jù)，最終實現(xiàn)媒體傳播行為的一種結果。

通俗理解，“深度偽造”指的是把圖片和聲音輸入機器學習的算法，從而可以輕易地進行“面部操作”（face manipulation）——把一個人的臉部輪廓和表情放置在其他任何一個人的臉上，同時利用對聲音的逼真處理，制造出實為合成卻看似極真的視頻——用以躲避識別、混淆視聽、娛樂用戶，以及實現(xiàn)其他虛假宣傳的目的。

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。