近日，美國(guó)國(guó)家運(yùn)輸安全委員會(huì)(NTSB)正式公布去年三月Uber自動(dòng)駕駛車(chē)禍?zhǔn)录脑?，這是全球首例也是目前唯一一例自動(dòng)駕駛車(chē)禍原因正式確認(rèn)。NTSB認(rèn)為，車(chē)禍主要原因在人，而非技術(shù)。

因?yàn)閁ber淡薄的安全意識(shí)，導(dǎo)致車(chē)輛沒(méi)有開(kāi)啟緊急制動(dòng)系統(tǒng)，沒(méi)有及時(shí)對(duì)安全員進(jìn)行監(jiān)督，事故發(fā)生時(shí)，車(chē)上安全員仍在看視頻而非及時(shí)采取措施。

因?qū)ψ詣?dòng)駕駛的安全問(wèn)題處理不當(dāng)，Uber受到NTSB主席羅伯特·薩姆沃特批評(píng)，同時(shí)自動(dòng)駕駛系統(tǒng)的失控和安全員的不當(dāng)行為指向一個(gè)更深層次問(wèn)題——Uber的無(wú)效安全文化。

這堪稱(chēng)是自動(dòng)駕駛短暫發(fā)展史上的一個(gè)里程碑式事件，這一事件將為此后如何避免類(lèi)似事故提供了前車(chē)之鑒。

自動(dòng)駕駛車(chē)禍

敲響Uber安全文化的警鐘

2018年3月，在美國(guó)亞利桑那州坦佩市，搭載了Uber自動(dòng)駕駛系統(tǒng)的測(cè)試車(chē)正在以70km/h的速度行駛，行駛中不幸與過(guò)馬路的49歲女子伊萊恩·赫茲伯格相撞，導(dǎo)致該女子身亡。

該事件后，NTSB公布了Uber去年自動(dòng)駕駛車(chē)禍?zhǔn)录械囊恍┘?xì)節(jié)，以及Uber自動(dòng)駕駛以往的一些碰撞事故。文件顯示，Uber的自動(dòng)駕駛汽車(chē)在發(fā)生撞擊前5.6秒鐘就檢測(cè)到了行人，但將其錯(cuò)誤識(shí)別為汽車(chē)，撞擊前5.6秒時(shí)又將其歸類(lèi)為其他物體。

此后系統(tǒng)對(duì)物體的分類(lèi)發(fā)生了混亂，在“汽車(chē)”和“其他”之間搖擺不定，浪費(fèi)了大量寶貴時(shí)間，車(chē)輛也因此沒(méi)有及時(shí)剎車(chē)。加之當(dāng)時(shí)車(chē)上的安全員正在觀看電視節(jié)目，并未采取措施，最終導(dǎo)致事故發(fā)生。

NTSB報(bào)告還指出，造成事故的關(guān)鍵問(wèn)題是，軟件無(wú)法正確預(yù)測(cè)受害者的類(lèi)別和運(yùn)動(dòng)軌跡。如果系統(tǒng)可以及早正確地識(shí)別出前方物體是行人，就可能會(huì)大幅放慢速度，或者設(shè)法繞開(kāi)避讓。

但是Uber汽車(chē)沒(méi)有預(yù)料到這起碰撞，系統(tǒng)在很長(zhǎng)一段時(shí)間里把行人當(dāng)做是某個(gè)未知的物體，認(rèn)為它并不妨礙行駛。

Uber自動(dòng)駕駛汽車(chē)在識(shí)別到行人后1秒才開(kāi)始制動(dòng)，此時(shí)距離碰撞只有0.2秒，事故已經(jīng)無(wú)法避免。自動(dòng)駕駛系統(tǒng)之所以行動(dòng)如此遲緩，是因?yàn)閁ber認(rèn)為緊急制動(dòng)系統(tǒng)會(huì)造成車(chē)輛的不穩(wěn)定，所以關(guān)閉了該系統(tǒng)。

如果Uber從一開(kāi)始就選擇開(kāi)啟緊急制動(dòng)系統(tǒng)，那么類(lèi)似的悲劇則很有可能不會(huì)發(fā)生。此外，NTSB報(bào)告還顯示，在2016年9月至2018年3月之間，Uber的自動(dòng)駕駛汽車(chē)共發(fā)生37起碰撞事故，有兩起事故是車(chē)輛撞到了路邊的物體，其他的事故則都是追尾和車(chē)輛刮蹭。

事故發(fā)生后，Uber踩下自動(dòng)駕駛“剎車(chē)鍵”，重新思考安全問(wèn)題：此事發(fā)生一個(gè)月多后，Uber關(guān)閉亞利桑那州無(wú)人駕駛測(cè)試中心，并裁掉300名員工；

同年7月，其無(wú)人卡車(chē)研發(fā)業(yè)務(wù)也被關(guān)停；沉寂大半年后，這家公司才帶著更新后的軟件，以及新增加的限制與安全保障措施，于年底恢復(fù)路測(cè)。

技術(shù)本無(wú)對(duì)錯(cuò)

避免掉進(jìn)技術(shù)編織的美好陷阱

Uber公司忽視安全的嚴(yán)重性更在于，既停用了該輛沃爾沃汽車(chē)的自動(dòng)緊急制動(dòng)系統(tǒng)，同時(shí)Uber自己的系統(tǒng)也沒(méi)有自動(dòng)剎車(chē)的能力，僅僅依靠一名人類(lèi)安全員來(lái)剎車(chē)。

同時(shí)，Uber也沒(méi)有及時(shí)監(jiān)測(cè)安全員的工作狀況。因?yàn)?，Uber車(chē)內(nèi)裝有攝像頭主要是監(jiān)控司機(jī)，但沒(méi)有監(jiān)控到安全員的行為，以確保他們對(duì)車(chē)輛的行駛狀況保持警惕。這等于多重安全防線的失守。

Uber對(duì)安全文化的淡漠，導(dǎo)致員工也可能無(wú)法得到安全文化的培訓(xùn)，這體現(xiàn)在車(chē)上的安全員并沒(méi)有注意車(chē)輛行駛的情況，而是放心大膽地在車(chē)上看視頻，以為把一切交給智能機(jī)器就能高枕無(wú)憂。

這種情況不只是出現(xiàn)在Uber公司，可以說(shuō)，在世界上研發(fā)、使用機(jī)器的所有工廠、公司和所有地方，都或多或少存在這種情況，把一切放心地交付給機(jī)器，認(rèn)為機(jī)器和AI比人更可靠，既能預(yù)測(cè)事故，又能避免事故。

然而，這是一種非常離譜的思維，尤其在進(jìn)入AI時(shí)代，如果把一切交由AI來(lái)判斷和執(zhí)行，終將釀成大錯(cuò)。

劉易斯·芒福德的《技術(shù)與文明》一書(shū)曾提出，人類(lèi)發(fā)明和依靠機(jī)器，實(shí)際上也深深地改變甚至強(qiáng)制了人類(lèi)自己。

如果說(shuō)，人類(lèi)依靠機(jī)器和技術(shù)擺脫了自然的完全控制，卻反過(guò)來(lái)掉入了機(jī)器和技術(shù)的控制之中，把一切都交由機(jī)器和技術(shù)來(lái)操作和控制。機(jī)器和技術(shù)取決于人對(duì)其利用的好壞，如果利用得好，是造福人類(lèi)，如果利用不好，則會(huì)禍害社會(huì)。

過(guò)去只是認(rèn)為，讓技術(shù)，如武器不分青紅皂白地殺人，是壞的利用。但殊不知，放心地把一切交由技術(shù)來(lái)控制其實(shí)也是技術(shù)壞的利用的一個(gè)方面。

Uber和安全員把操控汽車(chē)的所有權(quán)都交與自動(dòng)駕駛軟件，并由此引發(fā)致人死亡的車(chē)禍就一個(gè)明證。

如今，Uber正逐漸走出全球首例自動(dòng)駕駛致行人死亡事故的“陰霾”。其表示，將在自動(dòng)駕駛方面再投資10億美元。如此龐大的支出，賭的是不確定的未來(lái)。Uber自身也表示，自動(dòng)駕駛技術(shù)的研發(fā)耗資大、難度高，并不能保證這一投資能夠達(dá)到預(yù)期效果。

對(duì)這項(xiàng)技術(shù)未來(lái)的不確定，也使摩根士丹利將自動(dòng)駕駛“領(lǐng)頭羊”Waymo的估值下調(diào)了40%。今年9月，該公司將Waymo的估值從1750億美元下調(diào)至1050億美元。

對(duì)于下調(diào)原因，摩根士丹利分析師稱(chēng)，自動(dòng)駕駛行業(yè)的發(fā)展速度慢于預(yù)期，同時(shí)預(yù)計(jì)Waymo未來(lái)一段時(shí)間內(nèi)對(duì)安全員具有持續(xù)需求，該公司的虧損將繼續(xù)擴(kuò)大。

除科技公司外，車(chē)企也愈發(fā)謹(jǐn)慎。沃爾沃原計(jì)劃在2017年推出100輛自動(dòng)駕駛的SUV ，后延期至2021年；福特CEO吉姆·哈克特也公開(kāi)承認(rèn)公司高估了自動(dòng)駕駛汽車(chē)的到來(lái)，自家“2021年推出全自動(dòng)駕駛汽車(chē)”的計(jì)劃可能有所推遲；

通用旗下自動(dòng)駕駛公司Cruise CEO丹·阿曼甚至專(zhuān)門(mén)為此發(fā)布了一篇長(zhǎng)文博客，暗示公司將推遲今年年底推出無(wú)人駕駛出租車(chē)的計(jì)劃。

雖然車(chē)禍的余波已經(jīng)過(guò)去，但這場(chǎng)車(chē)禍調(diào)查結(jié)果同時(shí)也指出了一個(gè)問(wèn)題，現(xiàn)在的自動(dòng)駕駛技術(shù)并非此前所認(rèn)為的那樣，已趨于成熟和安全。

即便自動(dòng)駕駛技術(shù)能過(guò)關(guān)，也能完全識(shí)別路上的行人，我們同樣要強(qiáng)調(diào)安全文化，把人的安全放在第一位，而且不能把一切全部交給AI來(lái)控制和執(zhí)行。在研發(fā)相關(guān)技術(shù)的同時(shí)，更要注重相關(guān)的安全風(fēng)險(xiǎn)管理，只有從意識(shí)上加以重視，才能真正防患于未然。

微信公眾賬號(hào)：科技云報(bào)道

來(lái)源：科技云報(bào)道

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。