4月13日，中國科學(xué)院科技戰(zhàn)略咨詢研究院與騰訊研究院在北京聯(lián)合舉辦了“2017人工智能：技術(shù)、倫理與法律研討會”，會議邀請了中國科學(xué)院科技戰(zhàn)略咨詢研究院院長潘教峰、騰訊研究院院長司曉、中國科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究與支撐中心李真真、復(fù)旦大學(xué)計算機學(xué)院肖仰華等數(shù)十位人工智能領(lǐng)域?qū)＜液蛯W(xué)者，共同探討當(dāng)前人工智能技術(shù)發(fā)展中面臨的和帶來的倫理、法律、社會經(jīng)濟影響等問題。

期間，肖仰華教授做了主題為“未來人機區(qū)分——基于語言認(rèn)知的智能驗證碼”的分享，雷鋒網(wǎng)根據(jù)現(xiàn)場錄音、PPT、以及采訪內(nèi)容整理成文。

雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))按：肖仰華，復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院，副教授，博士生導(dǎo)師，上海市互聯(lián)網(wǎng)大數(shù)據(jù)工程技術(shù)中心副主任。主要從事大數(shù)據(jù)管理與挖掘、知識庫等方向的研究工作。

為什么需要驗證碼？

首先，非常高興有機會跟大家來分享我在人機區(qū)分方面一些思考和工作。我主要從事計算機研究，近幾年關(guān)注的比較多的是人工智能領(lǐng)域的相關(guān)研究。在研究不斷開展的過程中我們越來越強烈地意識到一個問題，那就是我們現(xiàn)在已經(jīng)很難區(qū)分計算機背后到底是人還是機器，這就很容易造成一個非常尷尬的局面，我們到底是在跟人交互還是在跟機器交互？我最近聽到一個笑話，有一個人在婚戀網(wǎng)站上談朋友，最后發(fā)現(xiàn)是一個機器人在跟他聊天。所以人機區(qū)已經(jīng)成了非常重要的一個議題。

到底怎樣才能有效地區(qū)分互聯(lián)網(wǎng)的另一端是機器還是人呢？我們計算機領(lǐng)域給出的方案就是驗證碼。這個小小的驗證碼是所有人最熟悉卻又最為陌生的事物，幾乎所有人都使用過驗證碼，但是驗證碼背后的機制與原理卻并不為人所熟知。為什么在登錄系統(tǒng)的時候系統(tǒng)會讓人輸入驗證碼？事實上就是為了做人機區(qū)分，系統(tǒng)需要知道是真實的人還是機器在獲取我們的數(shù)據(jù)，是真實的人在購買還是機器在刷單，是真實的人在購票還是機器在搶票。所以驗證不單單是一件事關(guān)乎整個人類身份和尊嚴(yán)的事情，同時也是具有重大安全意義的問題，而且已經(jīng)在保證網(wǎng)站安全、數(shù)據(jù)安全、運營安全和交易安全等方面發(fā)揮了巨大的作用。

網(wǎng)站安全：垃圾注冊、惡意登錄、賬號盜用

數(shù)據(jù)安全：數(shù)據(jù)爬取、數(shù)據(jù)破壞

運營安全：惡意刷單、虛假秒殺、虛假評論

交易安全：虛假交易、惡意套現(xiàn)、盜卡支付

為什么傳統(tǒng)的驗證碼已經(jīng)不安全了？

但是最近幾年人工智能技術(shù)的發(fā)展，特別是大數(shù)據(jù)推動下的人工智能技術(shù)的發(fā)展，已經(jīng)使得機器的感知能力達(dá)到甚至超越了人類的水平，這個技術(shù)趨勢的直接結(jié)果是什么呢？就是基于感知能力的人機驗證的方式已然失效。

先簡單回顧一下近幾年人工智能發(fā)展的趨勢。如果想尋求一個簡單原因來解釋為什么最近幾年人工智能風(fēng)風(fēng)火火，或者人工智能為何這么興旺，那么這個原因應(yīng)該是大數(shù)據(jù)時代的到來，沒有大數(shù)據(jù)不可能有人工智能如今的發(fā)展。我們現(xiàn)在有著越來越龐大的數(shù)據(jù)規(guī)模，越來越完整的數(shù)據(jù)生態(tài)，這是人工智能跨越式發(fā)展的前提和基礎(chǔ)。此外，大數(shù)據(jù)時代我們的硬件水平呈現(xiàn)出指數(shù)級增長的趨勢。現(xiàn)在我們擁有前所未有的計算能力，而這個計算能力仍然在飛速增長。正是計算能力的飛速增長以及大數(shù)據(jù)的迅速積累為人工智能的跨越式發(fā)展奠定了基礎(chǔ)。大數(shù)據(jù)時代為人工智能的發(fā)展可以說帶來前所未有的數(shù)據(jù)紅利。

人工智能近期的發(fā)展，尤其體現(xiàn)在以深度學(xué)習(xí)為代表的機器學(xué)習(xí)方面，近幾年我們看到深度學(xué)習(xí)在很多領(lǐng)域取得了前所未有的突破。深度學(xué)習(xí)之所以能夠迅猛發(fā)展，其實就是因為有了海量的標(biāo)注數(shù)據(jù)，所以大家看到最近很多深度學(xué)習(xí)方面突破大都來自像Google、Facebook這樣的大公司，為什么？因為他們有海量的數(shù)據(jù)。

以深度學(xué)習(xí)為代表的人工智能技術(shù)快速發(fā)展的一個直接結(jié)果就是：機器在某些方面的感知能力方面已經(jīng)達(dá)到甚至超越了人類水平。比如微軟在圖像識別方面的準(zhǔn)確率達(dá)到96.43%，人類只有94.9%。也就是說人去看一個圖像都不一定有機器看得準(zhǔn)。百度的DeepSpeech平臺的語音識別錯誤率已經(jīng)降到3.7%-5.7%之間，而人類的錯誤率仍有4%-9.7%，所以在語音識別方面機器已經(jīng)超越人類。以深度學(xué)習(xí)為代表的人工智能技術(shù)已經(jīng)讓機器在視覺、聽覺方面的感知能力大幅進(jìn)步，在視聽這些基本的感知能力層面人類已經(jīng)沒有什么好值得驕傲的?，F(xiàn)在我們身邊的機器，其感知能力事實上比我們強。

這個技術(shù)趨勢的直接結(jié)果是什么呢？就是大家最為熟悉的圖片驗證方式已經(jīng)徹徹底底失效。這些結(jié)果不是來自什么頂尖的實驗室，而是來自某大學(xué)的碩士生課程作業(yè)。對于Complex Image這種相對復(fù)雜的驗證碼，機器識別的準(zhǔn)確率高達(dá)98%-99.8%。在人機對比實驗里，人大概10個里面要錯3個，機器10個里面只錯了1個，基本上是機器完敗人類?；ヂ?lián)網(wǎng)上的很多平臺目前還嚴(yán)重依賴這類驗證碼，以為能夠防止刷單、刷票等等，但是事實上并不安全。

傳統(tǒng)驗證碼可以說已經(jīng)十分不安全。比如上圖中拖拽驗證碼，已經(jīng)可以通過自動化程序來破解。而且這樣的破解程序也不需要什么高手才能做出來的，這里演示的是我實驗室同學(xué)用來練手的破解項目。先通過圖像處理算法找出方塊的目標(biāo)位置，由于方塊區(qū)位特征明顯，很容易找到。之后設(shè)計一個帶參數(shù)剛體運動的軌跡模擬模型，參數(shù)隨機化之后模擬真人的軌跡拖動，從而實現(xiàn)破解。

12306圖形驗證碼

除了拖拽驗證碼，據(jù)說難倒了很多購票者的12306的驗證碼其實也可以被破解。12306的驗證碼本質(zhì)上在做圖片中的對象識別，因此可以利用已經(jīng)相當(dāng)成熟的ImageNet相關(guān)算法，而ImageNet相關(guān)算法對圖片中的實體識別已經(jīng)到達(dá)很高的準(zhǔn)確率。

谷歌圖形驗證碼

此外，就連谷歌圖片驗證碼也可以通過類似的方法被破解。谷歌圖片驗證碼識別的主要難度在其類型多樣：有時是選擇圖片中招牌部分，有時是框出圖上的汽車。但是對于每一類驗證都是有相應(yīng)的破解方法，特別是對于基于圖片中物體識別的驗證碼，可以用類似ImageNet的相關(guān)算法破解。

如今，幾乎所有的主流的傳統(tǒng)驗證碼都已經(jīng)被破解，傳統(tǒng)的驗證方式早已不安全。

未來屬于基于語言認(rèn)知的智能驗證碼

出路何在？我的觀點很明確，那就是基于語言認(rèn)知的人機區(qū)分，也就是考驗機器語言認(rèn)知能力的智能驗證碼，這將會是未來一段時間內(nèi)的重要選擇。

這類驗證碼的基本思路是，讓機器去讀一段文本，然后回答問題。有點類似語文里面的閱讀理解。比如說讓人或機器讀這么一段文本：“某人從復(fù)旦大學(xué)哲學(xué)系畢業(yè)，現(xiàn)在是鄭州大學(xué)公共學(xué)院的導(dǎo)師”，然后問“這個人的在職單位是什么？”人或機器需要點擊包含答案的文本片段才能通過驗證。這類驗證本質(zhì)上是在考驗人或機器的文本理解能力。對于人而言極為簡單，但是對于機器而言，這是很有難度的。比如剛才的例子，機器有可能回答復(fù)旦大學(xué)，也有可能回答鄭州大學(xué)，但是我們都知道只有鄭州大學(xué)是他的在職單位。機器要回答這個問題必須理解這段話講的是什么，必須能夠區(qū)分鄭州大學(xué)和復(fù)旦大學(xué)一個是學(xué)習(xí)單位，一個是在職單位。換言之，機器必須具備像我們?nèi)艘粯拥恼J(rèn)知能力，才能破解這樣的驗證碼。但是很遺憾，機器畢竟沒有像人一樣受過十幾年的教育，也就無從具備這樣的文本理解能力。當(dāng)前機器在認(rèn)知能力方面，尤其在語言認(rèn)知方面，至少在未來一段時間窗口內(nèi)還難以企及人類水平，可能再過二十年、三十年或許能達(dá)到這個水平，但是這是二、三十年之后的事情了。

我們來看看當(dāng)前人工智能到底有什么問題。當(dāng)前人工智能的問題集中表現(xiàn)在理解常識的能力和推理能力非常有限。什么叫常識？幾乎所有人都知道，以至于大家都不說的知識，叫常識。比如說太陽是從東邊升起的，人是會走但是不會飛的，魚是會游但是不會走的，雞是有兩條腿，兔子是有四條腿的，類似于這樣的知識，就叫常識。機器普遍缺乏這種常識，因為機器現(xiàn)在所學(xué)到的知識都是從文本里面學(xué)習(xí)來的，但是常識是人人都知道的，所以文本里不會被提及，那就意味著數(shù)據(jù)里不會存在，因此機器就無從學(xué)習(xí)。所以機器現(xiàn)在是普遍缺乏常識的。

我們再想想人為什么具有這種常識？人的常識是通過自身與世界的交互而產(chǎn)生的，我們從胚胎開始就在積累常識，就在感受時間的流逝，感受空間的存在。當(dāng)你是一個很小的小朋友時你就知道調(diào)皮會挨打，所以你就在體驗有因必有果。時間感、空間感、因果感，都是通過身體經(jīng)年累月的體驗而形成的。人類要想在短短幾十年時間內(nèi)，把這種通過體驗而得到的知識以一種填鴨式地方式灌輸給機器是很困難的。

另外一方面是推理能力有限。我曾經(jīng)問過很多在線機器人：“奧巴馬是白人嗎？”，很多機器的回答都不準(zhǔn)確。事實上，這些機器背后的知乎庫中都存有“奧巴馬是黑人”這樣的事實，但是從“奧巴馬是黑人”推理出“奧巴馬不是白人”，對機器來說就非常困難。另一方面人類的推理是能夠容忍很多異常的。比如說“有翅膀的鳥會飛”，大部分情況下是這樣的，但是你也會發(fā)現(xiàn)一些特例，比如企鵝有翅膀不會飛，鴕鳥有翅膀也不會飛。機器只能勝任非黑即白的推理，異常容忍的推理對于機器而言仍很困難，但對于人而言確極為簡單。這里提及的難題目前有一個不成熟的說法，被統(tǒng)稱為AI-Complete問題，也就是說這些問題要等到機器智能達(dá)到人類水平的時候才能解決。這明顯是個悖論，但從這一說法可以看出這類問題有多難。

基于這些認(rèn)識，我們提出并實現(xiàn)了一種基于知識圖譜的驗證碼。我們有一個目前世界上最大的中文百科知識庫CN-DBpedia。利用自有的知識庫，自動生成自然語言問題，自動判定答案。所有的問題全是自動生成的，理論上可以生成數(shù)以億計的問題。同時我們平臺可以自動判定答案，但是機器是不知道答案的，機器必須通過理解才能知道答案。我們的驗證碼還具有交互友好的特性，只要輕輕一點就能通過驗證。

那么我們的系統(tǒng)是如何知道答案的呢？其實在CN-DBpedia里存儲的是2億多的結(jié)構(gòu)化事實，比如(復(fù)旦大學(xué)，所在地，上海)，基于這些結(jié)構(gòu)化事實，我們通過深度學(xué)習(xí)模型自動生成自然語言問題，也就是說我們的系統(tǒng)在提問時是已經(jīng)知道答案的。

如果要破解我們的驗證碼需要以下幾個技術(shù)儲備：

識別圖片里面的文字以獲取問題

理解文本以及問題，進(jìn)而生成答案

使用一個成熟的涵蓋數(shù)億關(guān)系知識庫的QA系統(tǒng)

因此，破解這個驗證碼至少比破解目前流行的圖片驗證碼要難（上述第1步）。文本理解以及知識庫上的QA(雷鋒網(wǎng)注：特別是能回答數(shù)以億計知識的QA)，是目前正在研究和探索的問題，還沒有成熟的解決方案。因此，至少目前，在機器語言認(rèn)知能力尚未達(dá)到人類水平之前，我們的驗證碼是難以破解的。

我們的核心技術(shù)是從知識庫里面結(jié)構(gòu)化知識自動生成自然語言問題。我們提出了基于生成對抗網(wǎng)絡(luò)（GAN）的從結(jié)構(gòu)化三元組生成自然語言問題的模型，從而實現(xiàn)問題的自動隨機生成。理論上有數(shù)以億計的候選問題空間，一個真實的用戶是不會兩次碰到相同的問題的，從而保證了驗證的安全可靠。

同時，為了進(jìn)一步提高驗證的安全性，降低對于真實用戶的驗證門檻，提高對于機器驗證的門檻，我們也考慮到了分級驗證。如果是首次登錄的普通用戶，就采用簡單的驗證，如果是高頻訪問的賬號就用復(fù)雜驗證，比如說像淘寶的刷單，我們就可以通過組合驗證的方式，將機器拒絕于門外。

組合驗證實際上就是通過組合文本理解、圖片識別、軌跡識別等不同驗證碼方式來增加機器破解的難度，從而實現(xiàn)更強的安全驗證。

我們的驗證碼終極形式是常識驗證。比如說：“上海GDP僅次于日本東京，問GDP第一的城市是誰？”答案應(yīng)該是“東京”，回答這類問題本質(zhì)上是在考驗機器的常識理解能力。常識理解問題可以說是人工智能皇冠上的問題。

基于語言認(rèn)知的智能驗證碼具有非常多的應(yīng)用場景，包括電商平臺防搶單、用戶注冊防僵尸、航旅春運防刷票、發(fā)表評論防水軍、信息檢索防爬取、論壇博客防撞庫等等。不僅如此，這種驗證碼還有很多超越人機區(qū)分的未來商業(yè)應(yīng)用價值：

閾下知覺廣告（subliminal advertising）：閾下知覺是低于閾限的刺激所引起的行為反應(yīng)。雖我們感覺不到，但卻能在潛意識中形成記憶，引導(dǎo)之后決策。

眾包數(shù)據(jù)標(biāo)注： 驗證碼是用戶登陸的必經(jīng)之路，谷歌已經(jīng)對接了圖片分類問題實現(xiàn)圖片樣本的自動標(biāo)注、物體識別等。

訪問權(quán)限控制：類似于門衛(wèi)，在加入某些小眾群體的時候，能起到區(qū)分作用，只有知道特定群體知識的人才能回答驗證進(jìn)入系統(tǒng)。

4月13日，中國科學(xué)院科技戰(zhàn)略咨詢研究院與騰訊研究院在北京聯(lián)合舉辦了“2017人工智能：技術(shù)、倫理與法律研討會”，會議邀請了中國科學(xué)院科技戰(zhàn)略咨詢研究院院長潘教峰、騰訊研究院院長司曉、中國科學(xué)院學(xué)部科學(xué)規(guī)范與倫理研究與支撐中心李真真、復(fù)旦大學(xué)計算機學(xué)院肖仰華等數(shù)十位人工智能領(lǐng)域?qū)＜液蛯W(xué)者，共同探討當(dāng)前人工智能技術(shù)發(fā)展中面臨的和帶來的倫理、法律、社會經(jīng)濟影響等問題。

期間，肖仰華教授做了主題為“未來人機區(qū)分——基于語言認(rèn)知的智能驗證碼”的分享，雷鋒網(wǎng)根據(jù)現(xiàn)場錄音、PPT、以及采訪內(nèi)容整理成文。

雷鋒網(wǎng)(公眾號：雷鋒網(wǎng))按：肖仰華，復(fù)旦大學(xué)計算機科學(xué)技術(shù)學(xué)院，副教授，博士生導(dǎo)師，上海市互聯(lián)網(wǎng)大數(shù)據(jù)工程技術(shù)中心副主任。主要從事大數(shù)據(jù)管理與挖掘、知識庫等方向的研究工作。

為什么需要驗證碼？

首先，非常高興有機會跟大家來分享我在人機區(qū)分方面一些思考和工作。我主要從事計算機研究，近幾年關(guān)注的比較多的是人工智能領(lǐng)域的相關(guān)研究。在研究不斷開展的過程中我們越來越強烈地意識到一個問題，那就是我們現(xiàn)在已經(jīng)很難區(qū)分計算機背后到底是人還是機器，這就很容易造成一個非常尷尬的局面，我們到底是在跟人交互還是在跟機器交互？我最近聽到一個笑話，有一個人在婚戀網(wǎng)站上談朋友，最后發(fā)現(xiàn)是一個機器人在跟他聊天。所以人機區(qū)已經(jīng)成了非常重要的一個議題。

到底怎樣才能有效地區(qū)分互聯(lián)網(wǎng)的另一端是機器還是人呢？我們計算機領(lǐng)域給出的方案就是驗證碼。這個小小的驗證碼是所有人最熟悉卻又最為陌生的事物，幾乎所有人都使用過驗證碼，但是驗證碼背后的機制與原理卻并不為人所熟知。為什么在登錄系統(tǒng)的時候系統(tǒng)會讓人輸入驗證碼？事實上就是為了做人機區(qū)分，系統(tǒng)需要知道是真實的人還是機器在獲取我們的數(shù)據(jù)，是真實的人在購買還是機器在刷單，是真實的人在購票還是機器在搶票。所以驗證不單單是一件事關(guān)乎整個人類身份和尊嚴(yán)的事情，同時也是具有重大安全意義的問題，而且已經(jīng)在保證網(wǎng)站安全、數(shù)據(jù)安全、運營安全和交易安全等方面發(fā)揮了巨大的作用。

網(wǎng)站安全：垃圾注冊、惡意登錄、賬號盜用

數(shù)據(jù)安全：數(shù)據(jù)爬取、數(shù)據(jù)破壞

運營安全：惡意刷單、虛假秒殺、虛假評論

交易安全：虛假交易、惡意套現(xiàn)、盜卡支付

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。