原標(biāo)題：真不是愚人節(jié)新聞：使用下意識(shí)時(shí)的你，與AI無(wú)異

在今天這個(gè)人人都有可能被愚弄的日子，不如我們來(lái)?yè)Q換戲耍的對(duì)象，看看機(jī)器有沒(méi)有可能被愚弄欺騙呢？

在人工智能五十年的研發(fā)過(guò)程中，我們一直在不斷嘗試著讓機(jī)器理解人對(duì)于世界的認(rèn)知方式。不管是一直沒(méi)有實(shí)現(xiàn)較大突破的類(lèi)腦計(jì)算，還是模仿人類(lèi)感知外界機(jī)制的人工神經(jīng)網(wǎng)絡(luò)，本質(zhì)上都是對(duì)人類(lèi)行為方式的多種模仿。

當(dāng)然我們也知道，這些模仿雖然在應(yīng)用上取得突破，但本質(zhì)上來(lái)看與人類(lèi)的認(rèn)知方式還是大相徑庭的。

就拿視覺(jué)來(lái)說(shuō)，人類(lèi)對(duì)于萬(wàn)事萬(wàn)物的認(rèn)知來(lái)自于綜合的感知。以前一陣社交媒體上瘋傳的《神奇寶貝》大電影來(lái)說(shuō)，人們見(jiàn)到3D版皮卡丘非常驚訝——皮卡丘竟然是有毛的？

其實(shí)這就體現(xiàn)了人類(lèi)非常有趣的一點(diǎn)，建立在綜合知識(shí)基礎(chǔ)之上，人類(lèi)的五感是相通的，因此可以從有限的信息里進(jìn)行關(guān)聯(lián)挖掘，對(duì)陌生的事物建立起認(rèn)知。

當(dāng)我們簡(jiǎn)單皮卡丘身上茸毛時(shí)，我們立刻聯(lián)想起了那種毛茸茸的手感，認(rèn)為它像一只大老鼠毫不可愛(ài)。

被隨意愚弄的機(jī)器思維

相比之下機(jī)器視覺(jué)的認(rèn)知方式就相對(duì)孤立，建立分類(lèi)器后組織層層的神經(jīng)網(wǎng)絡(luò)，對(duì)圖片進(jìn)行分層處理，分別去辨認(rèn)圖片中是不是一架橋，是不是一只猴子，是不是一棵大樹(shù)。最后得出的結(jié)論是，這張圖片97%的幾率是一架橋，2%的幾率是一只猴子，1%的幾率是一棵大樹(shù)。

對(duì)于人類(lèi)來(lái)說(shuō)，我們可能把猴子看成猩猩，原因是我們自己腦海中的底層知識(shí)不足，在認(rèn)知中分不清猩猩和猴子的概念。但絕不會(huì)把橋、猴子、大樹(shù)這些風(fēng)馬牛不相及的東西混淆一談。

但對(duì)于機(jī)器視覺(jué)就不一樣了，在機(jī)器的“眼中”，一切圖像都是像素點(diǎn)的排列組合。對(duì)于我們來(lái)說(shuō)，猴子和大樹(shù)的區(qū)別是哺乳動(dòng)物和區(qū)別?？蓪?duì)于機(jī)器來(lái)說(shuō)，猴子和大樹(shù)之間只有一個(gè)數(shù)字分割線而已。

這就導(dǎo)致了機(jī)器視覺(jué)可以被“針對(duì)性”的愚弄，讓圖像識(shí)別輸出完全錯(cuò)誤的結(jié)果，這就是我們常說(shuō)的對(duì)抗生成樣本。

例如將一張圖片的像素點(diǎn)進(jìn)行輕微的移動(dòng)，在人眼中兩張圖片沒(méi)有任何區(qū)別，可在機(jī)器識(shí)別邏輯下，卻可能讓機(jī)器把猴子認(rèn)成大樹(shù)。

又比如我們?cè)?jīng)介紹過(guò)的“迷幻貼紙”——將某一種物體的分類(lèi)特征高度濃縮成一個(gè)很小圖案，“粘貼”在其他圖片上。圖像識(shí)別對(duì)于結(jié)果的輸出，是基于幾項(xiàng)結(jié)果比率的高低。在貼上貼紙之前，圖像識(shí)別可能明確的分析出圖片有98%幾率的是一只猴子。但粘貼上高度濃縮特征的貼紙之后，就能立刻改變圖像識(shí)別的結(jié)果。

讓人類(lèi)理解機(jī)器思維，或許比想象中更容易

如此看來(lái)，雖然機(jī)器一直在嘗試模仿人類(lèi)的思維方式，但最終結(jié)果還是我們與機(jī)器之間彼此無(wú)法理解。

那么如果換個(gè)角度，讓人類(lèi)去學(xué)習(xí)機(jī)器的思維方式呢？

近期約翰霍普金斯大學(xué)就做了這樣一項(xiàng)實(shí)驗(yàn)。

為了弄明白為什么機(jī)器能看到人類(lèi)“看不到”的變化，約翰霍普金斯大學(xué)推出了一系列實(shí)驗(yàn)，讓人類(lèi)志愿者在圖片中找到“機(jī)器犯的錯(cuò)誤”。

例如給志愿者一張?jiān)朦c(diǎn)圖或看似無(wú)意義的花紋，讓人類(lèi)志愿者從中識(shí)別辨認(rèn)圖片更像哪一種物體，并將AI給出的結(jié)果混淆其中。又比如給人類(lèi)幾個(gè)斑駁的數(shù)字圖案，讓人類(lèi)志愿者選擇AI可能將圖案誤認(rèn)成了什么錯(cuò)誤的數(shù)字。

令人震驚的是，在大部分實(shí)驗(yàn)中，人類(lèi)志愿者都憑借著直覺(jué)很快辨認(rèn)出了AI的思維模式。以上圖為例，有81%的人類(lèi)志愿者都準(zhǔn)確的發(fā)覺(jué)了機(jī)器會(huì)犯下的錯(cuò)誤。在一共48個(gè)實(shí)驗(yàn)1700位志愿者中，有人們?cè)?5%的時(shí)間里都選擇和機(jī)器一樣的答案，而只有2%的人從來(lái)沒(méi)有選擇過(guò)和機(jī)器一樣的答案。

這個(gè)驚人的實(shí)驗(yàn)結(jié)果告訴我們，即使拋開(kāi)人類(lèi)基礎(chǔ)的認(rèn)知邏輯，應(yīng)用下意識(shí)的第一反應(yīng)，也能夠和機(jī)器得出相同的結(jié)果?？磥?lái)神經(jīng)網(wǎng)絡(luò)黑箱中對(duì)于人類(lèi)經(jīng)驗(yàn)提煉的深度，或許遠(yuǎn)超我們想象。

對(duì)抗對(duì)抗性圖像：當(dāng)人類(lèi)開(kāi)始理解機(jī)器

這個(gè)實(shí)驗(yàn)的意義，當(dāng)然不是為了告訴大家其實(shí)我們都是機(jī)器人，而是教會(huì)了我們?nèi)绾螒?yīng)對(duì)機(jī)器視覺(jué)可能犯下的錯(cuò)誤。

在機(jī)器視覺(jué)認(rèn)知模式的固有弊端下，很可能會(huì)形成很多可供鉆空子的漏洞。例如當(dāng)自動(dòng)駕駛識(shí)別公路上的交通標(biāo)志時(shí)，一個(gè)小小貼紙就可能讓視覺(jué)系統(tǒng)產(chǎn)生錯(cuò)覺(jué)，把交通標(biāo)識(shí)識(shí)別成突然出現(xiàn)的行人來(lái)個(gè)急剎車(chē)。

為了解決這種可能出現(xiàn)的情況，通過(guò)理解機(jī)器思維并進(jìn)行逆向拆解或許是個(gè)不錯(cuò)的方法。

從實(shí)驗(yàn)中我們可以看出，即使是毫無(wú)邏輯的圖案和紋理，人類(lèi)也可以通過(guò)聯(lián)想能力對(duì)這些圖片進(jìn)行更高級(jí)的認(rèn)知和處理。實(shí)驗(yàn)中人類(lèi)和機(jī)器進(jìn)入了同樣的情景，面對(duì)幾個(gè)分類(lèi)選項(xiàng)做選擇題。而這種分類(lèi)選擇或許就是讓機(jī)器陷入錯(cuò)誤的關(guān)鍵。

另外一點(diǎn)則是，人類(lèi)可以很清楚的識(shí)別出對(duì)抗性圖像。例如故意斑駁讓人難以辨認(rèn)數(shù)字圖案，以及特征十分明顯的花哨貼紙。那么說(shuō)明這些對(duì)抗性的圖案也擁有自己的“對(duì)抗性特征”。

雖然面對(duì)這種情況，最理想的方式是放棄卷積神經(jīng)網(wǎng)絡(luò)，應(yīng)用認(rèn)知計(jì)算真正讓人工智能建立在一個(gè)更完整的世界觀上進(jìn)行識(shí)別。但在認(rèn)知計(jì)算獲得突破之前，我們或許可以尋找一些替代性的解決方案。

例如我們可以在一些安防、自動(dòng)駕駛等等關(guān)鍵場(chǎng)合之中，特意生成對(duì)抗性樣本讓人類(lèi)進(jìn)行標(biāo)注，在汽車(chē)、行人這些常規(guī)分類(lèi)中多出一個(gè)“對(duì)抗樣本”分類(lèi)，讓卷積神經(jīng)網(wǎng)絡(luò)可以識(shí)別出來(lái)這些搗亂的圖案。

對(duì)于那種動(dòng)幾個(gè)像素點(diǎn)就可以改變機(jī)器認(rèn)知的情況，很有可能出現(xiàn)在數(shù)據(jù)流通途中的壓縮產(chǎn)生的失誤，我們可以尋找使得機(jī)器認(rèn)知結(jié)果改變的壓縮規(guī)律，反向從源頭組織失誤的發(fā)生。

在愚人節(jié)這個(gè)日子里，發(fā)現(xiàn)“人類(lèi)與機(jī)器有著十分相近的思維模式”這一新聞，聽(tīng)起來(lái)似乎像個(gè)笑話。但或許我們引以為傲的“人類(lèi)意識(shí)”，根本并沒(méi)有那么復(fù)雜，最終會(huì)與機(jī)器思維以一種出乎意料的方式相遇。

但在相遇之前，我們還是應(yīng)該用人類(lèi)思維與機(jī)器人思維之間的相似性，來(lái)解決現(xiàn)實(shí)生活中的問(wèn)題。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。