11月23日消息，在前不久剛剛結(jié)束的2021年國際信息與通信安全會議（ICICS2021）中，螞蟻集團機器智能部總經(jīng)理、螞蟻安全實驗室學(xué)術(shù)帶頭人顧鳴對外宣布，“螞蟻集團基于可信AI技術(shù)自研的、IMAGE智能風(fēng)控體系中的“E”—“端云協(xié)同風(fēng)控”能力已經(jīng)覆蓋了99%的業(yè)務(wù)場景。”

顧鳴在報告中指出， “互聯(lián)網(wǎng)金融風(fēng)控場景是天然的對抗博弈場，支付寶從未停止過與黑產(chǎn)及黑產(chǎn)背后的AI做斗爭”。在內(nèi)容安全、反洗錢、反欺詐等領(lǐng)域中，螞蟻集團對AI模型決策過程及結(jié)果的可解釋性要求、對抵御黑產(chǎn)攻擊的魯棒性（Robustness）要求，已經(jīng)達到了空前的高度。與此同時，隨著隱私保護和公平性訴求越來越成為社會發(fā)展中的主流思潮，相關(guān)領(lǐng)域的技術(shù)研發(fā)已經(jīng)不僅僅停留在企業(yè)社會責(zé)任層面，而成為了企業(yè)發(fā)展的生命線。

為促進人工智能技術(shù)的有序、良性發(fā)展，一方面，學(xué)術(shù)界和工業(yè)界積極研發(fā)了包括“多方安全計算”在內(nèi)的、多種隱私計算相關(guān)技術(shù)，以幫助人工智能實現(xiàn)數(shù)據(jù)的“可用而不可見”，從而實現(xiàn)對數(shù)據(jù)的合理、合法、合規(guī)使用。另一方面，研究者們從未放棄對人工智能“如何減少數(shù)據(jù)依賴”的研究。

顧鳴在分享中指出，“IMAGE”智能風(fēng)控系統(tǒng)中的“E”——“端云協(xié)同風(fēng)控”（Edge to Cloud），則是隱私保護中的第三視角。“端云協(xié)同風(fēng)控”將需求隱私數(shù)據(jù)計算在用戶智能終端（如手機）中進行計算，將不含隱私信息的決策結(jié)果輸送到云端，以實現(xiàn)“端云協(xié)同”的風(fēng)控保障。

“可信AI中的隱私保護是一個比隱私計算更大的概念，持續(xù)創(chuàng)新視角和解決方案，是踐行隱私保護的重點。將數(shù)據(jù)放在“端”上計算，卻不影響“云”提供的安全保障服務(wù)，這是對用戶隱私最有效的保護。”顧鳴強調(diào)。

據(jù)悉，早在2015年，螞蟻集團內(nèi)部就已經(jīng)啟動了首個“端特征”的研究項目，邁出了端云協(xié)同風(fēng)控研究的第一步，但研發(fā)過程面臨著諸多挑戰(zhàn)。

例如，最初在智能終端（如手機）上，機器學(xué)習(xí)技術(shù)的研發(fā)及應(yīng)用并不成熟，需要技術(shù)團隊打破傳統(tǒng)的建模方式，來解決諸如“端數(shù)據(jù)表征”等技術(shù)問題。同時，由于智能終端之間的巨大差異，能在蘋果手機上跑的模型，低端機卻未必跑得了。螞蟻安全實驗室的技術(shù)團隊就此提出了“動態(tài)千機千模”的方案，通過對模型的有效簡化和適配，選擇匹配用戶智能終端的風(fēng)控模型下載計算；2021年創(chuàng)新了“AI算力網(wǎng)絡(luò)”，以實現(xiàn)“端”和“云”之間算力的全局化調(diào)配。

解決了計算能力的問題，還需要應(yīng)對安全挑戰(zhàn)。畢竟，風(fēng)控的核心是保護用戶的數(shù)據(jù)及資金安全。在端云協(xié)同的過程中，模型和信息的加密在智能終端上、決策也在智能終端上，一旦“端”被攻破，如果“云”不能及時獲知，風(fēng)險控制將無從談起。

自2018端云協(xié)同風(fēng)控上線以來，不僅為用戶提供了基于隱私保護的安全防御能力；也幫助支付寶在大促等流量高并發(fā)期，極大地緩解了風(fēng)控計算壓力——計算壓力分流至“端”；更為“云”上風(fēng)控模型提供了更大的響應(yīng)和計算空間，為進一步降低資損率，提供了可能，可謂“三贏”。

顧鳴強調(diào)，“作為制約AI技術(shù)發(fā)展的瓶頸，安全和可信性研究無疑將成為未來三十年人工智能技術(shù)的關(guān)鍵環(huán)節(jié)。”伴隨著人工智能的廣泛應(yīng)用而興起的“可信”問題，將是人工智能發(fā)展中突破瓶頸的“應(yīng)用型命題”，只有堅持應(yīng)用探索、充分實踐，才能將技術(shù)理念真正變成科技發(fā)展的護城河。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。