數(shù)據(jù)安全共享需要自律與他律，更需要?jiǎng)?chuàng)新技術(shù)

《通用數(shù)據(jù)保護(hù)條例》(GDPR)下的歐洲再現(xiàn)數(shù)據(jù)泄露大事件。11月3日，瑞典最大的保險(xiǎn)公司Folksam證實(shí)，近100萬客戶的個(gè)人信息已泄露給Facebook和Google等社交媒體，泄露信息包括敏感個(gè)人數(shù)據(jù)如個(gè)人社會(huì)保險(xiǎn)賬號(hào)等。

大數(shù)據(jù)與人工智能時(shí)代背景下，數(shù)據(jù)在各行各業(yè)應(yīng)用越廣泛，數(shù)據(jù)價(jià)值就愈加凸顯，數(shù)據(jù)泄露和濫用造成的影響和損失也越大。

新加坡國立大學(xué)副教授何丙勝表示，數(shù)據(jù)泄露已非孤立事件，各行業(yè)都有相關(guān)事件。在教育、醫(yī)藥、能源、健康等領(lǐng)域，每一起數(shù)據(jù)泄露事件造成的平均損失至少在500萬美元以上。

矛盾之處在于，數(shù)據(jù)唯有流動(dòng)和共享才能發(fā)揮價(jià)值，但反復(fù)出現(xiàn)的數(shù)據(jù)泄露事件不僅造成了巨大的經(jīng)濟(jì)損失，更消耗了整個(gè)社會(huì)對(duì)數(shù)據(jù)共享的意愿和信心。數(shù)據(jù)的安全流動(dòng)與共享似乎成為一個(gè)偽命題。

傳統(tǒng)觀點(diǎn)認(rèn)為，數(shù)據(jù)保護(hù)與共享需要依靠“自律” 及“他律”，即自身防護(hù)和制度保障，可謂“被動(dòng)防守”。而近年來，隨著隱私計(jì)算技術(shù)的出現(xiàn)，數(shù)據(jù)共享即將告別瞻前顧后的窘境，引領(lǐng)“主動(dòng)出擊”新趨勢(shì)。

簡單來說，隱私計(jì)算就是通過技術(shù)實(shí)現(xiàn)數(shù)據(jù)“可用不可見”，讓不同來源的數(shù)據(jù)安全共享，產(chǎn)生更大價(jià)值，具體包括了如TEE(基于芯片的可信計(jì)算環(huán)境)、基于密碼學(xué)的安全多方計(jì)算(MPC)、源自人工智能的聯(lián)邦學(xué)習(xí)等在內(nèi)的各類技術(shù)的單項(xiàng)或綜合使用。

從產(chǎn)業(yè)視角來看，隱私計(jì)算已成為當(dāng)下創(chuàng)投圈的熱點(diǎn)話題，國內(nèi)外眾多互聯(lián)網(wǎng)及科技巨頭紛紛投身該賽道，一批創(chuàng)業(yè)企業(yè)也各有所長，顯示出了強(qiáng)勁實(shí)力。

盡管隱私計(jì)算行業(yè)尚處早期，相關(guān)技術(shù)尚未成熟，但并不意味著隱私計(jì)算只是“飄在空中”的美好理想?？v觀全球，隱私計(jì)算已經(jīng)在人工智能、金融、醫(yī)療等許多場(chǎng)景中應(yīng)用落地。

谷歌Password Checkup ——世界巨頭旗下小而美的科普案例

2019 年2 月，谷歌推出密碼檢查器Password Checkup，一個(gè)Chrome擴(kuò)展程序，幫助用戶檢測(cè)他們?cè)诰W(wǎng)站上輸入的用戶名和密碼是否已被盜用。

Password Checkup依賴于隱私集合交集(PSI)的加密協(xié)議，收集了超過40 個(gè)億的已知不安全或已外泄的賬號(hào)和密碼，在Chrome 用戶安裝這功能后，一旦用戶登錄某個(gè)網(wǎng)站時(shí)，Google 便會(huì)主動(dòng)偵測(cè)帳戶密碼是否在外泄名單中。

該功能支持全美“大多數(shù)”站點(diǎn)，如果被撞到，會(huì)及時(shí)向用戶發(fā)出警告。值得注意的是，Password Checkup 會(huì)自動(dòng)讀取保存在谷歌瀏覽器中的表單的帳號(hào)和密碼，然后采用哈希加密數(shù)據(jù)后發(fā)送到谷歌服務(wù)器再對(duì)比。

谷歌鑒于密碼檢查依賴于機(jī)密的信息，強(qiáng)調(diào)所有的加密都是在本地完成的，確保無人能查詢用戶密碼，數(shù)據(jù)庫中的密碼以散列和加密的形式存儲(chǔ)，且生成的有關(guān)的任何警告，所以用戶也不需要擔(dān)心在密碼傳輸過程中出現(xiàn)意外泄露引起問題等。

谷歌Password Checkup的原理

圖片來源：谷歌官網(wǎng)

Password Checkup程序體積小巧，功能簡單，但背后卻對(duì)大量數(shù)據(jù)進(jìn)行高安全等級(jí)處理。本地加密、密文數(shù)據(jù)對(duì)比等可以說是隱私計(jì)算基本概念的教科書式展現(xiàn)，也令其成為數(shù)據(jù)安全共享的典型科普案例。

iOS基于差分隱私技術(shù)"把隱私鎖在本地"——在手中的隱私計(jì)算

移動(dòng)互聯(lián)網(wǎng)時(shí)代，手機(jī)里幾乎承載了一個(gè)人收集所有的秘密。舉例來說，如果一個(gè)被移除ID類信息的數(shù)據(jù)集發(fā)布，從法律和倫理來說這個(gè)數(shù)據(jù)集因?yàn)闆]有涉及個(gè)人隱私，因此是合法合規(guī)的。但是如果通過一些技術(shù)手段，利用不同數(shù)據(jù)集、公開信息之間的關(guān)聯(lián)性，可以推測(cè)出某個(gè)具體個(gè)人信息的時(shí)候，問題就出現(xiàn)了。早在2013年一位當(dāng)時(shí)就讀于美國西北大學(xué)的研究生，結(jié)合搜索引擎與紐約城市出租車和豪華轎車委員會(huì)對(duì)外公布的一份2013年全市的出租車行程數(shù)據(jù)，便鎖定了幾位明星的行蹤，證實(shí)了這一風(fēng)險(xiǎn)。

由此可得，僅僅移除數(shù)據(jù)中的ID這類信息是不足以保護(hù)隱私的。但要如何抵御上述情況中對(duì)于個(gè)體用戶隱私數(shù)據(jù)的“精確計(jì)算”問題，而又能提高數(shù)據(jù)共享和使用的效率?

比如始終堅(jiān)持選擇成為用戶數(shù)據(jù)守衛(wèi)者的蘋果公司，當(dāng)其他公司都在通過各類方式采集用戶數(shù)據(jù)的時(shí)候，蘋果對(duì)此說了“NO”。但事實(shí)是，在一番努力后，iOS中仍有幾個(gè)矛盾未解。比如蘋果需要通過用戶行為數(shù)據(jù)來對(duì)特定功能進(jìn)行精準(zhǔn)調(diào)整，以滿足其智能服務(wù)。差分隱私技術(shù)便是破解這一問題的答案。跟隨iOS 10的推出，蘋果就已經(jīng)開始使用差分隱私來收集并分析來自鍵盤、Spotlight和Notes的用戶數(shù)據(jù)。

差分隱私的原理是用算法加擾個(gè)人用戶數(shù)據(jù)，使上述的技術(shù)回溯過程無法實(shí)現(xiàn)。隨后在無法獲得原始數(shù)據(jù)的情況下對(duì)數(shù)據(jù)批量計(jì)算，輸出計(jì)算結(jié)果。在獲得機(jī)器學(xué)習(xí)所需的數(shù)據(jù)資源的同時(shí)，實(shí)現(xiàn)用戶隱私數(shù)據(jù)的保護(hù)。

而iOS 10采取的是本地化差分隱私算法對(duì)用戶數(shù)據(jù)進(jìn)行計(jì)算。即對(duì)單個(gè)用戶數(shù)據(jù)進(jìn)行隨機(jī)化處理，再將設(shè)備數(shù)據(jù)集體發(fā)送給蘋果公司。蘋果公司也不會(huì)收集用戶鍵入的每一個(gè)單詞或搜索關(guān)鍵字。這樣一來能夠有效消除蘋果公司泄露數(shù)據(jù)的安全隱患，也減少了數(shù)據(jù)在傳輸過程中如因發(fā)生泄露而導(dǎo)致的不可逆轉(zhuǎn)后果。

在2016年開始使用差分隱私技術(shù)的不止蘋果公司，還有谷歌(RAPPOR系統(tǒng))。而當(dāng)時(shí)差分隱私領(lǐng)域的權(quán)威人士，著有《差分隱私的算法基礎(chǔ)》一書的賓夕法尼亞大學(xué)教授Aaron Roth當(dāng)收到蘋果遞交給他評(píng)審的差分隱私執(zhí)行文件后，這位教授使用“開創(chuàng)性”一詞評(píng)價(jià)了蘋果在差分隱私方面的工作。

微眾銀行FATE平臺(tái) —— 人工智能時(shí)代聯(lián)邦學(xué)習(xí)助力數(shù)據(jù)安全共享

人工智能的發(fā)展構(gòu)筑于數(shù)據(jù)之上，卻也受限于數(shù)據(jù)利用的瓶頸。一方面許多場(chǎng)景并沒有足夠數(shù)量的大數(shù)據(jù)，另一方面即使有大數(shù)據(jù)，這些數(shù)據(jù)也可能相互孤立，無法交流共享。尤其在相關(guān)法規(guī)(如GDPR)不斷趨嚴(yán)，各行業(yè)數(shù)據(jù)安全意識(shí)不斷提升的背景下，數(shù)據(jù)的安全流動(dòng)與共享對(duì)機(jī)器學(xué)習(xí)乃至人工智能的發(fā)展帶來了挑戰(zhàn)。

于是，聯(lián)邦學(xué)習(xí)應(yīng)運(yùn)而生，成為人工智能“量身定制”的隱私計(jì)算解決方案。聯(lián)邦學(xué)習(xí)是一種加密的分布式機(jī)器學(xué)習(xí)技術(shù)，參與各方可以在不披露底層數(shù)據(jù)的前提，按照底層數(shù)據(jù)加密(混淆)形態(tài)下共建模型。

聯(lián)邦學(xué)習(xí)具有四大顯著優(yōu)勢(shì)：一是數(shù)據(jù)隔離，二是保證模型質(zhì)量無損，三是參與者地位對(duì)等，最后則是能夠保證參與各方在保持獨(dú)立性的情況下，進(jìn)行信息與模型參數(shù)的加密交換，并同時(shí)獲得成長。

在國內(nèi)，微眾銀行可以說是聯(lián)邦學(xué)習(xí)領(lǐng)域的領(lǐng)頭羊。早在2018年末，電氣和電子工程師協(xié)會(huì)標(biāo)準(zhǔn)委員會(huì)(IEEE Standard Association)就批準(zhǔn)了由微眾銀行發(fā)起的關(guān)于聯(lián)邦學(xué)習(xí)架構(gòu)和應(yīng)用規(guī)范的標(biāo)準(zhǔn)P3652.1立項(xiàng)。微眾銀行成為工作組召集單位，工作組主席則是微眾銀行首席人工智能官，國際人工智能學(xué)會(huì)理事長楊強(qiáng)教授。

在2019年初舉行的AAAI(Association for the Advancement of Artificial Intelligence)年會(huì)上，微眾銀行AI團(tuán)隊(duì)正式發(fā)布了聯(lián)盟AI生態(tài)系統(tǒng)(Federated AI Ecosystem)和開源聯(lián)盟AI解決方案FATE(Federated AI Technology Enabler)。

FATE提供了一個(gè)安全的計(jì)算框架來支持聯(lián)邦學(xué)習(xí)需求。它實(shí)現(xiàn)了基于同態(tài)加密和多方計(jì)算(MPC)的安全計(jì)算協(xié)議，同時(shí)支持聯(lián)合學(xué)習(xí)體系結(jié)構(gòu)和各種機(jī)器學(xué)習(xí)算法(包括邏輯回歸，基于樹型算法，深度學(xué)習(xí)和遷移學(xué)習(xí))的安全計(jì)算。

作為聯(lián)邦學(xué)習(xí)領(lǐng)域第一個(gè)商用級(jí)開源項(xiàng)目，F(xiàn)ATE為開發(fā)者提供所必須的多方協(xié)同建模工作流管理、加密機(jī)器學(xué)習(xí)工具庫和并行計(jì)算基礎(chǔ)設(shè)施抽象三層能力，同時(shí)提供了很多開箱即用的聯(lián)邦學(xué)習(xí)算法和聯(lián)邦遷移學(xué)習(xí)算法供開發(fā)者參考，極大簡化了聯(lián)盟AI開發(fā)的流程并降低了部署難度。

幾乎同時(shí)，全國連鎖租車品牌一嗨租車與微眾銀行共同宣布達(dá)成深度戰(zhàn)略合作關(guān)系，宣布雙方將在汽車出行、會(huì)員服務(wù)、金融保險(xiǎn)、區(qū)塊鏈技術(shù)等方面展開多場(chǎng)景多維度創(chuàng)新合作。一嗨租車使用聯(lián)邦遷移學(xué)習(xí)、AI人臉認(rèn)證技術(shù)、支付技術(shù)等金融科技，以優(yōu)化提升用戶體驗(yàn)為目的深度融入租車服務(wù)流程，并將租車場(chǎng)景與銀行大數(shù)據(jù)風(fēng)險(xiǎn)控制體系相結(jié)合，從而為年輕一族及長租客戶提供新的出行生活方式。

華控清交助力首都金融數(shù)據(jù)應(yīng)用運(yùn)行新模式——創(chuàng)新團(tuán)隊(duì)的創(chuàng)新案例

防范系統(tǒng)性金融風(fēng)險(xiǎn)首先要做到的就是能夠及時(shí)發(fā)現(xiàn)和準(zhǔn)確甄別金融體系中的系統(tǒng)性風(fēng)險(xiǎn)。有效的監(jiān)管不光需要依賴金融監(jiān)管部門本身的數(shù)據(jù)，還需要有效地利用各金融市場(chǎng)參與方的大量和實(shí)時(shí)的數(shù)據(jù)，使監(jiān)管部門對(duì)金融行為和金融風(fēng)險(xiǎn)的畫像更完整、分析更準(zhǔn)確、判斷更及時(shí)。但這些數(shù)據(jù)往往會(huì)涉及這些市場(chǎng)參與方的重要商業(yè)機(jī)密或客戶隱私。

華控清交基于多方安全計(jì)算并融合其他隱私計(jì)算技術(shù)提出的安全數(shù)據(jù)融合解決方案，能夠在不解密加密數(shù)據(jù)的情況下，直接以密文數(shù)據(jù)進(jìn)行計(jì)算，從技術(shù)層面解決了數(shù)據(jù)隱私保護(hù)與數(shù)據(jù)高效流通對(duì)立的問題，使多個(gè)非互信金融數(shù)據(jù)源之間可以在數(shù)據(jù)全程加密的前提下進(jìn)行高效的大數(shù)據(jù)融合和計(jì)算。

該方案獲評(píng)“首都金融創(chuàng)新激勵(lì)項(xiàng)目”，解決了“確保首都金融科技高速發(fā)展與提升監(jiān)管水平、保障金融安全”之間的矛盾，開啟了首都金融數(shù)據(jù)應(yīng)用的新運(yùn)行模式。

華控清交PrivPy平臺(tái)架構(gòu)

圖片來源：華控清交官網(wǎng)

華控清交主打多方安全計(jì)算，其PrivPy平臺(tái)是一個(gè)實(shí)現(xiàn)了高性能通用的安全計(jì)算框架、集群化和可擴(kuò)展的解決方案，是各類技術(shù)路徑融合的創(chuàng)新典型，在市場(chǎng)層面也代表了國內(nèi)創(chuàng)業(yè)企業(yè)的不俗實(shí)力。

翼方健數(shù)廈門“健康醫(yī)療數(shù)據(jù)應(yīng)用開放平臺(tái)”—— 首個(gè)城市級(jí)應(yīng)用案例

翼方健數(shù)基于城市級(jí)醫(yī)療數(shù)據(jù)底座，為國家醫(yī)療健康大數(shù)據(jù)首批試點(diǎn)城市廈門構(gòu)建了基于隱私安全計(jì)算技術(shù)的 “健康醫(yī)療數(shù)據(jù)應(yīng)用開放平臺(tái)”，在保證數(shù)據(jù)隱私的前提下，通過開放平臺(tái)提高數(shù)據(jù)使用效率，打破數(shù)據(jù)孤島，構(gòu)建了一個(gè)醫(yī)療數(shù)據(jù)應(yīng)用開放的數(shù)據(jù)生態(tài)。翼方健數(shù)協(xié)助廈門實(shí)現(xiàn)醫(yī)療數(shù)據(jù)戰(zhàn)略從頂層設(shè)計(jì)到底層實(shí)現(xiàn)的“落地”，為廈門醫(yī)療大數(shù)據(jù)的科研協(xié)作分析以及精準(zhǔn)醫(yī)學(xué)的發(fā)展提供了有力的基礎(chǔ)設(shè)施保障，是目前所知首個(gè)利用隱私計(jì)算技術(shù)實(shí)現(xiàn)城市級(jí)數(shù)字化應(yīng)用的案例。

翼方健數(shù)所構(gòu)建的XDP翼數(shù)坊是一個(gè)以開放應(yīng)用平臺(tái)形式實(shí)現(xiàn)的數(shù)據(jù)生態(tài)系統(tǒng)。平臺(tái)為用戶提供完善的數(shù)據(jù)安全保護(hù)機(jī)制，為第三方應(yīng)用程序提供友好的計(jì)算和開發(fā)環(huán)境，以及為數(shù)據(jù)生態(tài)中各方設(shè)計(jì)價(jià)值分配機(jī)制，可以完全滿足對(duì)數(shù)據(jù)共享和協(xié)作的要求。

平臺(tái)面向生態(tài)中的不同角色，滿足各方數(shù)據(jù)服務(wù)訴求。例如，數(shù)據(jù)提供方的訴求包括數(shù)據(jù)存儲(chǔ)、數(shù)據(jù)安全、數(shù)據(jù)脫敏、數(shù)權(quán)保護(hù)、數(shù)據(jù)價(jià)值生成等;數(shù)據(jù)服務(wù)方的訴求包括開發(fā)環(huán)境和價(jià)值歸隱等;數(shù)據(jù)需求方的訴求包括高質(zhì)量數(shù)據(jù)服務(wù)，如數(shù)據(jù)清洗、數(shù)據(jù)血緣、數(shù)據(jù)探查，其中包括了平臺(tái)在用戶數(shù)據(jù)探查和訪問控制的設(shè)計(jì)中貫徹?cái)?shù)據(jù)的“最小可用原則”，進(jìn)一步保證數(shù)據(jù)隱私。

目前，基于這套隱私安全計(jì)算平臺(tái)已成功推出智能分級(jí)診療的“廈門模式”，同時(shí)實(shí)現(xiàn)臨床科研協(xié)作以及傳染病防控等多項(xiàng)能力輸出。

翼方健數(shù)通過隱私安全計(jì)算技術(shù)，確保數(shù)據(jù)不離開平臺(tái)，只輸出數(shù)據(jù)價(jià)值，來協(xié)助數(shù)據(jù)所有者“共享”自己的數(shù)據(jù)而又不用擔(dān)心數(shù)據(jù)被他人獲取，破局頑固的“信息孤島”，實(shí)實(shí)在在做到了以數(shù)據(jù)流通造福社會(huì)。

（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）