7月5日消息，螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布大模型安全一體化解決方案“蟻天鑒”2.0版。

據(jù)了解，蟻天鑒去年7月首次對(duì)外發(fā)布，歷時(shí)1年升級(jí)到2.0版。2024年，蟻天鑒商業(yè)化邁出重要一步，通過(guò)螞蟻數(shù)科開(kāi)始服務(wù)廣泛的外部客戶(hù)。

作為螞蟻集團(tuán)科技商業(yè)化的重要板塊，螞蟻數(shù)科自今年3月份獨(dú)立化運(yùn)營(yíng)以來(lái)，悄然推進(jìn)AItoB戰(zhàn)略，SOFAStack、蟻盾等多個(gè)代表性產(chǎn)品均發(fā)布了大模型相關(guān)服務(wù)。

從WAIC現(xiàn)場(chǎng)了解，蟻天鑒2.0形成了包括大模型基礎(chǔ)設(shè)施測(cè)評(píng)、大模型X光測(cè)評(píng)、應(yīng)用安全測(cè)評(píng)、AIGC濫用檢測(cè)、證件偽造檢測(cè)、圍欄防御等在內(nèi)的完整技術(shù)鏈條，面向行業(yè)提供全方位智能化的大模型安全測(cè)評(píng)和防御解決方案。

在測(cè)評(píng)端，蟻天鑒2.0研發(fā)了業(yè)內(nèi)首個(gè)“測(cè)評(píng)智能體”。該測(cè)評(píng)智能體提供全流程自動(dòng)化的安全測(cè)評(píng)工具，支持各種形式模型和深度學(xué)習(xí)框架，可擴(kuò)展測(cè)評(píng)垂類(lèi)大模型、多模態(tài)大模型及Agent智能體，并能根據(jù)被測(cè)大模型的安全水位動(dòng)態(tài)調(diào)整攻擊策略和出具測(cè)試用例，保障測(cè)評(píng)效果和效率。

現(xiàn)場(chǎng)工作人員表示，目前，蟻天鑒2.0有超300萬(wàn)高質(zhì)量測(cè)評(píng)題庫(kù)，支持最高50萬(wàn)/日的飽和式攻擊和逐級(jí)誘導(dǎo)深度攻擊，并實(shí)現(xiàn)了1工作日內(nèi)完成測(cè)評(píng)，全流程自動(dòng)化率＞99%。

此外，該智能體增加了兩項(xiàng)新功能。一是大模型X-ray，即大模型X光，可針對(duì)大模型的內(nèi)在神經(jīng)元進(jìn)行X光掃描來(lái)做探查和判斷，讓研究人員了解大模型內(nèi)部在發(fā)生什么、定位可能引發(fā)風(fēng)險(xiǎn)的神經(jīng)元、并進(jìn)行編輯修正，從而在模型內(nèi)部治理幻覺(jué)，實(shí)現(xiàn)從源頭識(shí)別和抑制風(fēng)險(xiǎn)。二是大模型基礎(chǔ)設(shè)施測(cè)評(píng)。此前蟻天鑒的測(cè)評(píng)能力主要集中于大模型生成的內(nèi)容安全、合規(guī)風(fēng)險(xiǎn)等檢測(cè)。蟻天鑒2.0從攻擊者全鏈路視角出發(fā)，深入掃描模型算法組件及軟件系統(tǒng)，可及時(shí)準(zhǔn)確發(fā)現(xiàn)大模型供應(yīng)鏈及運(yùn)行環(huán)境安全問(wèn)題，保障云到端的應(yīng)用安全可控。

同時(shí)，蟻天鑒2.0防御端新增“AI鑒真”功能。支持多模態(tài)內(nèi)容真實(shí)性及深度偽造檢測(cè)，可快速精準(zhǔn)鑒別圖像、視頻、音頻、文本內(nèi)容的真?zhèn)?，圖像識(shí)別準(zhǔn)確率99.9%達(dá)到行業(yè)最高優(yōu)秀級(jí)（信通院測(cè)評(píng)）。目前，蟻天鑒2.0依托生成模型自建百萬(wàn)量級(jí)音視圖多模態(tài)合成數(shù)據(jù)集，覆蓋主流生成方案，有效應(yīng)對(duì)AI換臉、聲音模擬、證件偽造等各類(lèi)深度偽造風(fēng)險(xiǎn)場(chǎng)景。（周小白）

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。