原標(biāo)題：人工智能、核戰(zhàn)爭與白宮陷落

核武器，始終是高懸在人類頭頂?shù)倪_(dá)摩克利斯之劍。

有關(guān)它的任何風(fēng)吹草動(dòng)，都會(huì)時(shí)刻牽動(dòng)著所有人的神經(jīng)。二戰(zhàn)末期，美軍在廣島、長崎投放的原子彈，現(xiàn)在仍是縈繞在世人心間的噩夢。冷戰(zhàn)期間，美蘇爭霸制造的核武庫，已然將地球捆綁在了巨大的炸藥桶上。朝鮮在大國之間“如魚得水”地周旋，依靠的正是潛在的核武器制造實(shí)力；而最近美國單方面退出“伊核協(xié)議”的行為，注定進(jìn)一步擾亂本就脆弱的中東秩序和地區(qū)核平衡。不難預(yù)見，在未來很長一段時(shí)間內(nèi)，核戰(zhàn)爭的陰云還將繼續(xù)籠罩在這個(gè)星球之上。

當(dāng)前，人工智能已經(jīng)成為了一股不可阻遏的科技潮流，它正在與生活的方方面面以及各個(gè)學(xué)科領(lǐng)域生發(fā)著奇妙的化學(xué)反應(yīng)，“AI+”注定將是接下來幾年中被提及的最頻繁的詞組之一。在人工智能的時(shí)代，它的觸角將不可避免地最終伸向軍事領(lǐng)域的最敏感地帶——核武器。這兩者的結(jié)合可能會(huì)給人類帶來什么樣的后果呢？

最近，美國著名智庫蘭德公司（RAND Corporation）發(fā)布了一篇題為“人工智能將如何影響核戰(zhàn)爭”的研究報(bào)告，就專門論述了“AI+核武器”的問題。在這一報(bào)告中，作者摒棄了常見的那種“AI使用核武器毀滅人類和世界”的好萊塢式的聳人聽聞的預(yù)測，而是先詳細(xì)介紹了自冷戰(zhàn)延續(xù)至今的有關(guān)核武器的共同毀滅機(jī)制（ Mutual Assured Destruction，指對立雙方中如果有一方率先使用核武器，則另一方則會(huì)立即發(fā)送核反擊，最終導(dǎo)致沖突升級(jí)，兩方都會(huì)被毀滅）的緣起和發(fā)展情況，并進(jìn)而將目光投向了更為務(wù)實(shí)的AI應(yīng)用場景：追蹤/定位導(dǎo)彈；輔助決策是否使用核武器。關(guān)于這兩個(gè)場景，該報(bào)告都從正反兩面論證了AI可能在核戰(zhàn)爭中起到的作用：倘若將AI應(yīng)用至追蹤/定位導(dǎo)彈上，將會(huì)大大提高所在國對假想敵攻擊的監(jiān)測精度，信息的愈加透明化，可能會(huì)增進(jìn)雙方的戰(zhàn)略互信，從而降低爆發(fā)核戰(zhàn)爭的可能性；然而，一旦AI的導(dǎo)彈追蹤/定位功能出現(xiàn)了紕漏，核戰(zhàn)爭被引發(fā)的概率將會(huì)大大提升。同理，AI決策輔助對核戰(zhàn)爭也有著雙向的影響。換言之，建立在 M.A.D.機(jī)制上的脆弱的核平衡，將會(huì)因?yàn)锳I 的介入和使用而大概率地增加了許多不穩(wěn)定的因素。他們接著在分析的基礎(chǔ)上指出，“日益多極化的戰(zhàn)略環(huán)境中，人工智能在2040年之前極有可能導(dǎo)致核武器平衡局面的打破以及當(dāng)前核威懾手段的失效”。最終，作者亮明宗旨，即試圖弄清楚AI與核戰(zhàn)爭之間的關(guān)聯(lián)，并確保規(guī)避AI的負(fù)面影響，最大限度發(fā)揮其積極作用。

其實(shí)，蘭德公司在這里分析、預(yù)測的事情并不新鮮。在計(jì)算機(jī)的發(fā)展史上，由技術(shù)引發(fā)的安全隱患一直都存在——特別是當(dāng)它與危險(xiǎn)的核武器聯(lián)系在一起時(shí)。最近幾十年，人類因計(jì)算機(jī)技術(shù)而最接近毀滅的時(shí)刻莫過于1983年9月的一個(gè)晚上：時(shí)任蘇聯(lián)國土防空軍中校的斯坦尼斯拉夫·彼得羅夫（Stanislav Petrov, 1939-2017）正在值夜班，突然導(dǎo)彈預(yù)警系統(tǒng)發(fā)出急促的警報(bào)，電腦讀數(shù)顯示有數(shù)顆美國導(dǎo)彈正在向蘇聯(lián)本土襲來，按照流程，彼得羅夫應(yīng)該立即向最高軍事長官報(bào)告此事，并對美國發(fā)動(dòng)報(bào)復(fù)性的核打擊，一場改變?nèi)祟惷\(yùn)的核戰(zhàn)爭似乎近在眼前；然而，在彼得羅夫與其他地面監(jiān)測部隊(duì)聯(lián)系后，他冷靜地確認(rèn)這是一例系統(tǒng)誤報(bào)事件，而非美國真的向蘇聯(lián)發(fā)射了導(dǎo)彈；幾分鐘過后，事實(shí)證明彼得羅夫的判斷是正確的。倘若沒有彼得羅夫的人工復(fù)核，計(jì)算機(jī)差點(diǎn)就引發(fā)了一場毀天滅地的人間浩劫。

然而，人類的存亡安危不能總依靠著一時(shí)的僥幸。隨著AI越來越多地接管、替代人類的工作，我們必須要時(shí)時(shí)刻刻對這一技術(shù)的負(fù)面影響保持警惕；在將AI應(yīng)用至軍事領(lǐng)域時(shí)，我們尤其需要嚴(yán)謹(jǐn)與慎重，因?yàn)闃O有可能一不小心，人類搬起的石頭就會(huì)砸向自己的腳，帶來難以預(yù)估的重大損失。

愛因斯坦曾不無幽默地表示：“第三次世界大戰(zhàn)將要使用的武器我并不知道，但是第四次世界大戰(zhàn)將會(huì)用木棍和石頭開戰(zhàn)?！睕]有人真的愿意看到這一幕的發(fā)生，但是一旦發(fā)生核戰(zhàn)爭，AI又能起到什么積極的、正面的作用呢？

我們先設(shè)想一個(gè)情景：某個(gè)5月的一個(gè)周一上午11:15，一輛看似普通的貨車駛進(jìn)了美國華盛頓市中心的第16街和K街交匯處，就在白宮北邊的幾個(gè)街區(qū)。在車?yán)?，自殺式炸彈襲擊者悄然按下了開關(guān)。核彈轟然爆炸，整個(gè)城市街區(qū)瞬間化為烏有，方圓一英里內(nèi)的建筑物全被摧毀，數(shù)十萬人在廢墟中死亡或垂死掙扎。電磁脈沖使周圍5公里內(nèi)的手機(jī)失效，整個(gè)城市的供電網(wǎng)絡(luò)全部中斷。風(fēng)把炸彈產(chǎn)生的蘑菇云變成了放射性塵埃，并向東蔓延到馬里蘭州的郊區(qū)。各條公路上很快就擠滿了人，有些人試圖逃離，但更多的人在尋找失蹤的家庭成員或?qū)で筢t(yī)療幫助。簡言之，白宮陷落了。

這些雖然都是虛構(gòu)的，但卻有著嚴(yán)肅的目的。假想因核攻擊而導(dǎo)致白宮陷落的故事線被稱為“國家計(jì)劃情景1”（NPS1），圍繞著它的研究起源于20世紀(jì)50年代，美國國家安全和應(yīng)急管理部門希望在假想一旦成真之前，找到一套能在核爆后最大程度上止損的災(zāi)難應(yīng)急處理方案。而一套穩(wěn)妥的應(yīng)急方案的提出，僅依靠靜態(tài)的統(tǒng)計(jì)數(shù)據(jù)是遠(yuǎn)遠(yuǎn)不夠的；倘能建立起動(dòng)態(tài)模型來摹擬真實(shí)的爆炸場景，控制事件發(fā)生場景當(dāng)中的變量與不變量的話，對癥下藥的應(yīng)急方案相對來說就更為可靠。

最近，一個(gè)來自弗吉尼亞理工大學(xué)的科研團(tuán)隊(duì)就針對這點(diǎn)開始了研究實(shí)踐。首先，他們建立起了在電腦上建立了一個(gè)巨大的華盛頓特區(qū)的電子模型，這個(gè)模型盡可能詳盡地包括了該地區(qū)建筑物（學(xué)校、醫(yī)院、防空設(shè)施等）的設(shè)計(jì)參數(shù)，管道線路的鋪設(shè)與走向，氣候的歷史數(shù)據(jù)，地形河流的自然因素等內(nèi)容，除此之外，他們還在這一虛擬城市中，放置了大約73萬個(gè)代理（agent）——從統(tǒng)計(jì)上看，在年齡、性別和職業(yè)等因素上，與華盛頓特區(qū)的真實(shí)人口情況相差無幾，每一個(gè)代理都是獨(dú)立的子程序，能通過切換多種行為模式，以合理的方式響應(yīng)其他個(gè)體的行為以及可能到來的災(zāi)難性事件。其次，在這個(gè)模型的任一點(diǎn)制造出一場虛擬的核爆炸。通過控制核武器的當(dāng)量、爆炸發(fā)生的時(shí)間及地點(diǎn)等因素，觀察虛擬代理們的行為方式，以及由此帶來的種種問題，如交通擁堵、醫(yī)療緊缺、電力崩潰、水源污染等。最后，根據(jù)核爆模擬情況，有針對性地制訂應(yīng)急處理措施，反過來指導(dǎo)現(xiàn)實(shí)世界的基礎(chǔ)設(shè)施、規(guī)章制度的建設(shè)。受益于日益提高的計(jì)算機(jī)算力和AI技術(shù)的不斷成熟，這樣的模擬在細(xì)節(jié)上會(huì)越來越真實(shí)，越來越貼近現(xiàn)實(shí)世界——這同時(shí)意味著其現(xiàn)實(shí)指導(dǎo)意義越來越大。除了核爆炸，這樣的模型還適用于傳染性疾病的預(yù)防和治療、大流量交通設(shè)施的設(shè)計(jì)與規(guī)劃以及極端自然災(zāi)害（干旱、颶風(fēng)、海嘯等）下的管理與調(diào)控等問題上。

如此看來，未來AI無疑將會(huì)在公共安全領(lǐng)域的政策制定與應(yīng)急管理上發(fā)揮重要的咨詢作用。但是，正如上文所說，沒有人愿意看到包括核戰(zhàn)爭在內(nèi)的災(zāi)難的發(fā)生，事后的止損，遠(yuǎn)不如防患于未然。

當(dāng)年深度學(xué)習(xí)之父Geoffrey Hinton從美國北遷至加拿大，正是出于對人工智能軍事化的本能厭惡；近幾個(gè)月來，谷歌3000余名員工聯(lián)名反對美國國防部的Maven計(jì)劃（Project Maven），以及包括Hinton在內(nèi)的多位人工智能專家對韓國科學(xué)技術(shù)院大學(xué)（KAIST University）開發(fā)“殺手機(jī)器人”的抵制等行為，一方面顯示了廣大科研人員的良心與警惕性仍在，但在另一方面卻恰恰揭示了AI軍事化正在迅速到來的這一殘酷現(xiàn)實(shí)。在這樣的大背景下，我們必須要意識(shí)到：任何技術(shù)或工具都有可能是潘多拉的盒子，核武器如此，AI如此，AI+核武器更是如此。帶著荀子式的“性惡論”的眼光或者新盧德主義（Neo-Luddism）的觀點(diǎn)，去審視人工智能在軍事領(lǐng)域發(fā)展及應(yīng)用，從而建立起一系列的原則與制度，來減少人為主動(dòng)作惡或技術(shù)被動(dòng)作惡的可能，要比傻乎乎地?zé)o條件擁抱技術(shù)進(jìn)步要明智得多。

從這點(diǎn)來講，蘭德公司提出此份報(bào)告不可不謂及時(shí)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實(shí)，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。