Deepfake(深度偽造)技術(shù)野蠻生長,引發(fā)了一系列負面后果。比如,在韓國通訊軟件Telegram上,某私密聊天室成員利用女性照片非法合成色情照片和視頻,影響極為惡劣。除了普通的受害者,知名人士也難以逃脫圖像偽造的“魔爪”,某視頻網(wǎng)站上,由AI合成的馬斯克等名人為虛假投資做背書的視頻泛濫成災。
不法分子利用人工智能技術(shù)興風作浪,讓人防不勝防,文檔圖像領(lǐng)域更是詐騙的重災區(qū)。近日,由中國圖象圖形學學會、中國信息通信研究院、上海合合信息科技股份有限公司、中國科學技術(shù)大學、深圳大學、上海交通大學、華南理工大學、南開大學等高校、公司聯(lián)合編制、中國互聯(lián)網(wǎng)協(xié)會發(fā)布的《文本圖像篡改檢測系統(tǒng)技術(shù)要求》團體標準(簡稱“《要求》”)正式發(fā)布,將助力文檔圖像處理技術(shù)安全、有序發(fā)展。
《要求》為行業(yè)發(fā)展撐起保護傘
科技的發(fā)展使得數(shù)字化圖像逐漸成為重要的信息傳遞手段,在提供便利的同時也帶來了極大的安全隱患。區(qū)別于自然圖像,文本圖像篡改痕跡更加難以察覺,用戶只需使用一鍵式圖像編輯工具即可低成本篡改文檔、聊天記錄、資質(zhì)證書等圖像,人眼或者傳統(tǒng)檢測系統(tǒng)難以辨認。
作為中國首批文本圖像篡改檢測領(lǐng)域的團體標準之一,《文本圖像篡改檢測系統(tǒng)技術(shù)要求》圍繞“細粒度”視覺差異偽造圖像鑒別、生成式圖像判別、文檔圖像完整性保護等行業(yè)焦點議題,建立了統(tǒng)一的評估框架?!兑蟆犯采w了市面上常見的圖像篡改類型,適用于拍照證照、掃描證照、拍照文檔、掃描文檔、截圖等五大類文本圖像篡改檢測系統(tǒng),為企業(yè)在開發(fā)篡改檢測技術(shù)時提供了明確指導,提升產(chǎn)品的可靠性和有效性。
隨著人工智能、機器學習和大數(shù)據(jù)技術(shù)的發(fā)展,文本圖像反篡改技術(shù)也在不斷突破邊界,據(jù)信通院移動互聯(lián)網(wǎng)反欺詐研究中心顯示,反篡改技術(shù)正在朝著智能化和自動化、多模態(tài)融合、注重魯棒性和適應性、增強用戶體驗、高效處理大規(guī)模數(shù)據(jù)等方向進化,探索復雜環(huán)境下如何提高檢測的效率和準確性。《要求》一方面推動了前沿技術(shù)的規(guī)?;瘧?;另一方面,前瞻性標準一定程度上引領(lǐng)行業(yè)技術(shù)發(fā)展方向,為企業(yè)應對未來挑戰(zhàn)提供了堅實基礎(chǔ)。
AI“照妖鏡”識破圖像篡改真面目
近年來,證件造假案件屢見不鮮。2024年6月,內(nèi)蒙古某地破獲了一起偽造機動車證件抵押詐騙案件,嫌疑人在汽車租賃公司租車后偽造車輛行駛證,轉(zhuǎn)手抵押獲得借款,涉案金額超300余萬元,辨別證件真?zhèn)呜叫琛盎鹧劢鹁Α薄?/p>
面對篡改圖像以假亂真的難題,合合信息基于深度學習的圖像篡改檢測方法,推出了“PS篡改檢測”技術(shù),可檢測出多種篡改形式,智能捕捉圖像在篡改過程中留下的細微痕跡,并以熱力圖的形式展示圖像區(qū)域篡改位置。
除了能檢測上述案例中的行駛證頁面是否被篡改,PS篡改檢測技術(shù)還支持多種應用場景,包括身份證、護照在內(nèi)的多種卡證,營業(yè)執(zhí)照,商場小票等各類票據(jù)。目前,合合信息卡證篡改檢測技術(shù)可集成至企業(yè)現(xiàn)有業(yè)務中,具備高響應、低誤檢率等優(yōu)勢。
合合信息圖像篡改檢測技術(shù)對身份證圖片篡改痕跡進行定位
圖像篡改手段層出不窮,合合信息也在不斷優(yōu)化升級檢測技術(shù),據(jù)悉,合合信息技術(shù)團隊通過大規(guī)模樣本預訓練模型,實現(xiàn)了對截圖場景的有效篡改檢測。這一技術(shù)還能夠通用推廣到PDF掃描文檔的場景中,例如,檢測房屋租賃合同PDF文件中字段(姓名、房屋地址等)、二維碼、背景等內(nèi)容是否有篡改痕跡,降低房屋租賃風險。
縱觀科技發(fā)展進程,AI時代已經(jīng)到來,生成式技術(shù)的發(fā)展增加了篡改檢測的難度,文檔圖像反篡改領(lǐng)域需要建立起聯(lián)合防范機制,及時應對各類挑戰(zhàn)。后續(xù),合合信息也將積極參與文本圖像篡改檢測標準首批貫標測評工作,為行業(yè)豎立標桿,助力打造中國“可信AI”在機器視覺、圖像處理領(lǐng)域的體系建設(shè),以技術(shù)之道反制技術(shù)之險。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關(guān)資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明,并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關(guān)文章源頭核實,溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 )