深度神經(jīng)網(wǎng)絡(luò)的自主學(xué)習(xí)能力是人工智能應(yīng)用于自動駕駛汽車開發(fā)的重要優(yōu)勢。這意味著機器能夠像人類一樣，逐步從經(jīng)驗中提升駕駛水平。不過這么做的缺點在于，一旦出現(xiàn)任何問題，工程師妄圖通過勘察代碼造出漏洞，完全不可能。這么來看的話，深度神經(jīng)網(wǎng)絡(luò)完全就是個深不見底‘黑匣子’。

這也是為什么AlphaGo的開發(fā)人員無法解釋這款圍棋人工智能程序是如何進行游戲操作的，他們只是眼睜睜地看著這個小家伙從一名初學(xué)者，逐漸成長為能夠擊敗圍棋世界冠軍、職業(yè)九段選手李世石的超級大腦所在。

當然，AlphaGo只不過是一款游戲程序而已，即使你無法參透它復(fù)雜的思維過程倒也并不礙事。但對自動駕駛汽車而言，這種“不透明性”可能造成的后果是非常嚴重的。試想，一輛無人車犯錯了，按正常的邏輯來說，肯定是得讓工程師找到病根，進而對漏洞進行修復(fù)，確保它不會再犯同樣的錯誤。目前有一種方法是借助模擬的形式，先展示給機器大腦一個特征，之后再提供另一個特征，以此類推，以便找出影響其決策的關(guān)鍵因素。 

大家都是明眼人，這種方法不僅費時費力，而且不保證能夠得到你想要的結(jié)果。

那怎么辦呢？最近，車用AI芯片供應(yīng)商英偉達聯(lián)合卡內(nèi)基·梅隆大學(xué)的研究人員，找到了一種能夠讓人工智能系統(tǒng)決策過程變得更透明的簡單方法。英偉達汽車部門高級主管Danny Shapiro介紹稱，“深度神經(jīng)網(wǎng)絡(luò)能夠通過自主學(xué)習(xí)逐步提升駕駛經(jīng)驗，但這樣的經(jīng)驗是無法通過手動編程提供的。即便如此，我們?nèi)匀挥心芰ο虼蠹医忉尀槭裁聪到y(tǒng)會做出這樣或那樣的決策”。

Shapiro表示，這個方法的關(guān)鍵在于它能夠利用可視化地圖將神經(jīng)網(wǎng)絡(luò)在看到圖片后標記的重要特征進行定位。下面這幾張圖片是在汽車前置攝像頭采集數(shù)據(jù)的基礎(chǔ)上進行可視化加工而成的，而開發(fā)人員還只是在進行‘利用深度神經(jīng)網(wǎng)絡(luò)控制車輛轉(zhuǎn)向以保證其在車道線內(nèi)行駛’領(lǐng)域的研究。

由于整個深度神經(jīng)網(wǎng)絡(luò)是由不同的層構(gòu)成的，先將分析結(jié)果進行提取（已經(jīng)獲得了輸入圖像的重要特征），隨后將結(jié)果附加至下層網(wǎng)絡(luò)，作平均處理后再繼續(xù)向下，直到將最終結(jié)果附加至原始輸入的圖片上。上面這幾幅可視化地圖中，綠色的部分表示深度神經(jīng)網(wǎng)絡(luò)高度優(yōu)先關(guān)注的環(huán)境特征。而且你會發(fā)現(xiàn)，如果讓人類來識別的話，這些特征（車道線、道路邊緣，停著的其它車輛，沿線的綠籬等）同樣是一個老司機不會忽視的重要區(qū)域。

當然，為了確保這些圖像特征是機器進行決策的關(guān)鍵，研究人員還將所有的像素塊分成了兩類：I。 包含有明顯對駕駛決策有影響的顯著特征的圖像；II。 一般是背景圖，有一些和駕駛決策不太相關(guān)的非明顯特征。通過對這兩類圖像進行人為數(shù)字操作，研究人員發(fā)現(xiàn)，改變“明顯特征”這個變量會導(dǎo)致轉(zhuǎn)向角度發(fā)生線性變化，這跟換掉整個圖像的結(jié)果幾乎是一致的；而如果只是將背景畫面進更改，汽車的轉(zhuǎn)向角度基本不會發(fā)生什么變化。

不過話又說回來了，目前工程師其實對人工智能系統(tǒng)出現(xiàn)的bug仍然束手無策，而回到本源，深度神經(jīng)網(wǎng)絡(luò)并不是由人工代碼架構(gòu)而成的，所以其實這里可能用“bug”都不是很合適，整個系統(tǒng)中對最終決策最關(guān)鍵的其實是一系列的識別特征。盡管‘黑匣子’的透明性依然難破，但起碼現(xiàn)在我們可以將這些重要特征進行可視化，這是搞明白機器是如何進行思考的重要一步。

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責(zé)任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。