僅在2024年上半年,IEEEXplore數(shù)字圖書(shū)館就發(fā)表了300多篇專(zhuān)注于為深度偽造創(chuàng)建檢測(cè)工具的文章。

IEEE高級(jí)會(huì)員Aiyappan Pillai表示:“在人工智能使深度造假算法能夠制造出更難檢測(cè)的贗品的同時(shí),人工智能檢測(cè)技術(shù)也在通過(guò)采用不同的技術(shù)和算法來(lái)識(shí)別偽造品。”

什么是深度偽造?

深度偽造一詞是兩個(gè)術(shù)語(yǔ)的混合: 深度學(xué)習(xí)和偽造。深度偽造是人工智能生成的逼真視頻、音頻片段或靜止圖像,描繪了真實(shí)的人做或說(shuō)他們沒(méi)有做過(guò)提過(guò)的事情。近年來(lái),這種深度偽造出現(xiàn)在了政治領(lǐng)域,同時(shí)也影響了娛樂(lè)界。深度偽造可能會(huì)通過(guò)模仿流行音樂(lè)行為的歌曲來(lái)擾亂娛樂(lè)經(jīng)濟(jì),而這些歌曲通常未經(jīng)表演者授權(quán)。

新興檢測(cè)方法

目前存在兩大類(lèi)技術(shù)用于識(shí)別深度偽造,并且已經(jīng)進(jìn)行了大量研究來(lái)確定它們的工作效果。

·機(jī)器學(xué)習(xí): 識(shí)別深度偽造的一種方法是向機(jī)器學(xué)習(xí)模型提供大量深度偽造和真實(shí)內(nèi)容,以便它能夠?qū)W習(xí)發(fā)現(xiàn)它們之間的差異。這些技術(shù)可能根本不涉及機(jī)器視覺(jué)。相反,它們將圖像轉(zhuǎn)換為數(shù)據(jù),并從其模式中學(xué)習(xí)。如果一個(gè)新的深度偽造與訓(xùn)練的數(shù)據(jù)有顯著差異,那么這種方法的一個(gè)挑戰(zhàn)可能是難以識(shí)別它。

·語(yǔ)義分析: 與依賴(lài)原始數(shù)據(jù)的機(jī)器學(xué)習(xí)方法相比,語(yǔ)義分析使用與幫助人工智能系統(tǒng)識(shí)別圖片中的蘋(píng)果或書(shū)籍相同的機(jī)器視覺(jué)技術(shù)來(lái)查看圖像的內(nèi)容和上下文。這些方法可以分析說(shuō)話(huà)者面部的血流模式、頭部的形狀,或者他們的外表是否隨著時(shí)間的推移而保持一致。語(yǔ)義分析還涵蓋了沒(méi)有意義的對(duì)象之間的關(guān)系。例如,想象一個(gè)浴室的建筑渲染。人工智能生成的圖像可能會(huì)將淋浴頭放置在無(wú)法正常使用的位置。

數(shù)字水印

識(shí)別深度偽造的需要導(dǎo)致一些生成性人工智能公司為此目的創(chuàng)建標(biāo)記。在某些情況下,用戶(hù)可以看到這些標(biāo)記;在其他情況下則相反。

IEEE高級(jí)會(huì)員Rahul Vishwakarma說(shuō):“檢測(cè)深度偽造最有效的技術(shù)之一是使用生成式AI平臺(tái)對(duì)生成的圖像進(jìn)行數(shù)字水印。”

偏見(jiàn)問(wèn)題

大約有五六個(gè)常用的數(shù)據(jù)集——人的視頻和圖像——被用來(lái)訓(xùn)練深度學(xué)習(xí)模型來(lái)檢測(cè)深度偽造。一個(gè)數(shù)據(jù)集完全由名人組成。研究人員面臨的一個(gè)挑戰(zhàn)是,這些數(shù)據(jù)集中的人更有可能是白人和男性。這引發(fā)了人們對(duì)深度偽造檢測(cè)工具在面對(duì)來(lái)自不同背景的人的數(shù)據(jù)時(shí)是否會(huì)遇到困難的質(zhì)疑。

人類(lèi)或許表現(xiàn)更好嗎?

雖然深度偽造是真實(shí)的,但人類(lèi)可以發(fā)現(xiàn)它們。最近發(fā)表在IEEE Privacy & Security上的一項(xiàng)研究將人類(lèi)與機(jī)器對(duì)立起來(lái)。研究人員發(fā)現(xiàn),平均而言,人類(lèi)能夠識(shí)別大約71%的深度偽造,而尖端的檢測(cè)方法能夠識(shí)別93%。

然而,一些深度偽造圖像欺騙了檢測(cè)算法,但人類(lèi)能夠發(fā)現(xiàn)騙局。

有些人比其他人更善于發(fā)現(xiàn)深度偽造,但研究人員才剛剛開(kāi)始研究原因。在另一項(xiàng)研究中,研究人員考察了警察和“超級(jí)識(shí)別者(super-recognizers)”檢測(cè)深度假貨的能力。超級(jí)識(shí)別者的能力得到了實(shí)驗(yàn)室的認(rèn)證,他們是真正擅長(zhǎng)識(shí)別和辨認(rèn)人臉的人。研究表明,超級(jí)識(shí)別者在識(shí)別深度偽造方面并不比普通人好。這表明,能夠判斷某物是否是深度偽造與善于識(shí)別人臉不同。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）