Deepfake(深度偽造)技術(shù)野蠻生長，引發(fā)了一系列負(fù)面后果。在韓國通訊軟件Telegram上，某私密聊天室成員利用女性照片非法合成色情照片和視頻，影響極為惡劣。除了普通的受害者，知名人士也難以逃脫圖像偽造的“魔爪”，某視頻網(wǎng)站上，由AI合成的馬斯克等名人為虛假投資做背書的視頻泛濫成災(zāi)。

不法分子利用人工智能技術(shù)興風(fēng)作浪，讓人防不勝防，文檔圖像領(lǐng)域更是詐騙的重災(zāi)區(qū)。近日，由中國圖象圖形學(xué)學(xué)會、中國信息通信研究院、上海合合信息科技股份有限公司、中國科學(xué)技術(shù)大學(xué)、深圳大學(xué)、上海交通大學(xué)、華南理工大學(xué)、南開大學(xué)等高校、公司聯(lián)合編制、中國互聯(lián)網(wǎng)協(xié)會發(fā)布的《文本圖像篡改檢測系統(tǒng)技術(shù)要求》團(tuán)體標(biāo)準(zhǔn)(簡稱“《要求》”)正式發(fā)布，將助力文檔圖像處理技術(shù)安全、有序發(fā)展。

《要求》為行業(yè)發(fā)展撐起保護(hù)傘

科技的發(fā)展使得數(shù)字化圖像逐漸成為重要的信息傳遞手段，在提供便利的同時(shí)也帶來了極大的安全隱患。區(qū)別于自然圖像，文本圖像篡改痕跡更加難以察覺，用戶只需使用一鍵式圖像編輯工具即可低成本篡改文檔、聊天記錄、資質(zhì)證書等圖像，人眼或者傳統(tǒng)檢測系統(tǒng)難以辨認(rèn)。

作為中國首批文本圖像篡改檢測領(lǐng)域的團(tuán)體標(biāo)準(zhǔn)之一，《文本圖像篡改檢測系統(tǒng)技術(shù)要求》圍繞“細(xì)粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護(hù)等行業(yè)焦點(diǎn)議題，建立了統(tǒng)一的評估框架。《要求》覆蓋了市面上常見的圖像篡改類型，適用于拍照證照、掃描證照、拍照文檔、掃描文檔、截圖等五大類文本圖像篡改檢測系統(tǒng)，為企業(yè)在開發(fā)篡改檢測技術(shù)時(shí)提供了明確指導(dǎo)，提升產(chǎn)品的可靠性和有效性。

隨著人工智能、機(jī)器學(xué)習(xí)和大數(shù)據(jù)技術(shù)的發(fā)展，文本圖像反篡改技術(shù)也在不斷突破邊界，據(jù)信通院移動互聯(lián)網(wǎng)反欺詐研究中心顯示，反篡改技術(shù)正在朝著智能化和自動化、多模態(tài)融合、注重魯棒性和適應(yīng)性、增強(qiáng)用戶體驗(yàn)、高效處理大規(guī)模數(shù)據(jù)等方向進(jìn)化，探索復(fù)雜環(huán)境下如何提高檢測的效率和準(zhǔn)確性。《要求》一方面推動了前沿技術(shù)的規(guī)模化應(yīng)用;另一方面，前瞻性標(biāo)準(zhǔn)一定程度上引領(lǐng)行業(yè)技術(shù)發(fā)展方向，為企業(yè)應(yīng)對未來挑戰(zhàn)提供了堅(jiān)實(shí)基礎(chǔ)。

AI“照妖鏡”識破圖像篡改真面目

近年來，證件造假案件屢見不鮮。2024年6月，內(nèi)蒙古某地破獲了一起偽造機(jī)動車證件抵押詐騙案件，嫌疑人在汽車租賃公司租車后偽造車輛行駛證，轉(zhuǎn)手抵押獲得借款，涉案金額超300余萬元，辨別證件真?zhèn)呜叫?ldquo;火眼金睛”。

面對篡改圖像以假亂真的難題，合合信息基于深度學(xué)習(xí)的圖像篡改檢測方法，推出了“PS篡改檢測”技術(shù)，可檢測出多種篡改形式，智能捕捉圖像在篡改過程中留下的細(xì)微痕跡，并以熱力圖的形式展示圖像區(qū)域篡改位置。

除了能檢測上述案例中的行駛證頁面是否被篡改，PS篡改檢測技術(shù)還支持多種應(yīng)用場景，包括身份證、護(hù)照在內(nèi)的多種卡證，營業(yè)執(zhí)照，商場小票等各類票據(jù)。目前，合合信息卡證篡改檢測技術(shù)可集成至企業(yè)現(xiàn)有業(yè)務(wù)中，具備高響應(yīng)、低誤檢率等優(yōu)勢。

圖說合合信息圖像篡改檢測技術(shù)對身份證圖片篡改痕跡進(jìn)行定位

圖像篡改手段層出不窮，合合信息也在不斷優(yōu)化升級檢測技術(shù)，據(jù)悉，合合信息技術(shù)團(tuán)隊(duì)通過大規(guī)模樣本預(yù)訓(xùn)練模型，實(shí)現(xiàn)了對截圖場景的有效篡改檢測。這一技術(shù)還能夠通用推廣到PDF掃描文檔的場景中，例如，檢測房屋租賃合同PDF文件中字段(姓名、房屋地址等)、二維碼、背景等內(nèi)容是否有篡改痕跡，降低房屋租賃風(fēng)險(xiǎn)。

縱觀科技發(fā)展進(jìn)程，AI時(shí)代已經(jīng)到來，生成式技術(shù)的發(fā)展增加了篡改檢測的難度，文檔圖像反篡改領(lǐng)域需要建立起聯(lián)合防范機(jī)制，及時(shí)應(yīng)對各類挑戰(zhàn)。后續(xù)，合合信息也將積極參與文本圖像篡改檢測標(biāo)準(zhǔn)首批貫標(biāo)測評工作，為行業(yè)豎立標(biāo)桿，助力打造中國“可信AI”在機(jī)器視覺、圖像處理領(lǐng)域的體系建設(shè)，以技術(shù)之道反制技術(shù)之險(xiǎn)。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）