許多汽車商都在開發(fā)無人駕駛汽車，在不久的未來，無人駕駛汽車必將進入我們的生活。在一些人興奮地期待之時，另一些人卻表示擔憂。難道我們真的愿意將自己的生命交給幾行代碼嗎？這些代碼到底由誰來控制？英國《衛(wèi)報》最近刊文對此問題進行探討，下面是文章節(jié)選：

繞不開的有軌電子難題

1967年時，哲學家菲利帕。福特（Philippa Foot）曾提出一個關于有軌電子的倫理學難題：

一個瘋子將5個無辜的人綁在軌道上。一輛失控的電車迎面開來，即將碾過這5個人，幸好可以拉下火車的控制桿，將它轉(zhuǎn)向另一個方向。問題在于，在另一條軌道上也有1個無辜的人。拉下控制桿的確可以救下5個人，但會犧牲另外那1個人。你應該怎么做才符合倫理？

這個難題后來還演化出許多版本，比如讓你選擇撞死5無辜的人，或者將一個胖子推下去阻止電車前進；又比如這個胖子剛好就是將5個無辜者綁在電軌上的人，等等。

同樣的，我們可以將類似的爭論引入到無人駕駛汽車的討論中來。討論的問題可以這樣概括：你的無人駕駛汽車即將與一輛巴士相撞，車上全是學生，車子意識到要么犧牲你去挽救一車的學生，要么救你而放棄那些學生，在設計程序時我們應該怎么選擇呢？

借鑒iPhone模式能保證無人駕駛汽車安全嗎？

我們可以換一個方式來看待這個問題：如果你想設計一輛汽車，讓它在特定環(huán)境下故意謀殺司機，你如何保證司機不會修改程序讓他的汽車無法故意謀殺人？

其實我們已經(jīng)有了一個明顯的答案，那就是借鑒iPhone模式。我們可以設計一輛汽車，只允許它安裝運輸部（或者制造商）提供的軟件，然后制定嚴格的法規(guī)，誰修改軟件就處以重罪。這就是目前iPhone王國推行的法規(guī)，游戲主機和許多其它設備也都這樣做，它們紛紛配上數(shù)字鎖，即內(nèi)部人說的“DRM”（數(shù)字版權管理）。《數(shù)字千年版權法案》（Digital Millennium Copyright Act）等法律禁止人們移除數(shù)字鎖，防止受版權保護的著作被盜版，如果誰膽敢發(fā)布信息幫助他人解除數(shù)字鎖，同樣也逃不過法律的制裁。

自動駕駛汽車程序必須對公路上高速移動的目標負責，尤其是那些脆弱的人類，這似乎是理所當然的，但它會帶來一個很大的問題：在現(xiàn)實中根本行不通。

每個被鎖定的設備都可以輕易“越獄”.早期的數(shù)字鎖法規(guī)之所以制定，最主要目的并不是為了阻止人們重新配置設備，而是確保沒有企業(yè)和設備幫助他們破解。給手機解鎖并不是什么難事，你可以從網(wǎng)上輕易下載軟件解鎖手機，也可以讓非法破解手機的企業(yè)幫你代勞。

沒有制造商的允許無人可以重置自動駕駛汽車，如果說這就是確保無人駕駛汽車安全的前提條件，那么無人駕駛汽車將永遠不會安全，因為總會有人能破解軟件的。

不要忘了是軟件就有漏洞！

即使我們可以鎖定汽車的設置，它也同樣不安全。數(shù)字鎖會在電腦程序中占據(jù)一個特定區(qū)域，就連電腦所有者也無法進入。要讓數(shù)字鎖管用，它的相關文件必須連所有者都看不到。當我們命令操作系統(tǒng)列出數(shù)字鎖所在目錄的文件時，系統(tǒng)要掩蓋或者忽略數(shù)字鎖文件，以防止用戶刪除或者替換它。當我們命令操作系統(tǒng)列出所有運程程序的列表時，數(shù)字鎖程序也應該被忽略，以防止用戶終止程序。

不要忘了，所有的電腦都有漏洞。就算是那些使用多年的軟件，它的源代碼已經(jīng)被無數(shù)程序員檢查過，也存在微小的漏洞。汽車體格龐大，行駛速度快，它的破壞力很大，可以殺死司機及周圍的人。如果軟件不夠安全，攻擊者就可以劫持剎車、加速器或轉(zhuǎn)向裝置，最終導致悲劇發(fā)生。相反，如果我們設計出用戶無法修改的無人駕駛汽車，將汽車使用者修改程序視為自私（比如在碰到有軌電車難題時只求自保）的行為，情況會更糟糕。

無論無人駕駛汽車有什么問題，當它將自己的乘客當成敵人時，問題會變得更嚴重。

執(zhí)法者留下的漏洞被恐怖分子利用

在連網(wǎng)設備的世界里已經(jīng)出現(xiàn)“合法攔截”,設備常常留下一些后門供警察監(jiān)管，這些后門又往往成為安全威脅的根源。盡管如此，執(zhí)法者仍然希望留下更多的后門。以后的自駕汽車也會留下后門，警察可以向你的車發(fā)信號，強迫它停在路邊。漏洞會帶來更多問題，騙子和殺人犯可以在車中內(nèi)置相似功能，乘客將成為他們的“禮物”,恐怖分子也可以利用這種功能進行攻擊。

問題還不只這些。城市規(guī)劃者之所以關注自動駕駛汽車，主要是因為它有可能降低路上的汽車數(shù)量，將私家車轉(zhuǎn)為公用分享的車，被Uber等企業(yè)控制。我們可以乘車，但車不是我們自己的，我們無法修改，上面談的問題會變得更復雜。Uber等企業(yè)會指定第三方來修改。它們也可能會允許用戶作出一些修改，比如增加用戶控制的緊急剎車功能，它可能會委托給保險商管理，不用想也知道，保險商肯定不希望這樣的功能出現(xiàn)。

讓我們忘了電車吧，最終無人駕駛汽車會改變勞工關系，增加監(jiān)聽能力，重新分配財富！

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。