Uber無人車致死案結(jié)果公布 把問題歸咎于Uber的安全文化

美國國家運(yùn)輸安全委員會(huì)（National TransportaTIon Safety Board，NTSB）今天公布了它對一起涉及Uber測試機(jī)器人車和Elaine Herzberg的致命車禍的調(diào)查結(jié)果。不出所料，他們把問題歸咎于Uber的安全文化，安全駕駛員在駕駛途中觀看流媒體視頻節(jié)目，以及在一定程度上歸咎于行人的狀態(tài)受損。

最值得注意的是，之前有報(bào)道稱，Uber系統(tǒng)無法識別人行橫道外的行人，這一報(bào)道需要進(jìn)行更正。事實(shí)并非如此，盡管這個(gè)問題存在缺陷，但它們在這起事故中沒有造成任何不良影響。

NTSB主席Robert Sumwalt表示：“自動(dòng)駕駛系統(tǒng)以及車輛駕駛員的不當(dāng)行為都是更深層次問題的征兆，這些問題表露出來的是Uber ATG時(shí)代存在的無效安全文化。”

外媒在這個(gè)報(bào)告發(fā)表之前也作出了一系列新聞報(bào)道，聽證會(huì)還透露了一些書面報(bào)告中沒有強(qiáng)調(diào)的細(xì)節(jié)。

可能事故原因報(bào)告

國家交通安全委員會(huì)對可能原因的最終裁決將主要責(zé)任歸咎于安全駕駛員的疏忽。

導(dǎo)致Uber缺乏安全文化的原因在于：對安全驅(qū)動(dòng)程序的監(jiān)控不力以及缺乏應(yīng)對自動(dòng)化自滿的對策，此外他們還將第三個(gè)原因歸咎于行人過馬路的障礙，以及亞利桑那州和聯(lián)邦政府在監(jiān)管方面的失責(zé)。

最值得注意的是，他們并沒有將技術(shù)故障歸咎于崩潰的原因。這是一個(gè)正確的原因裁定——盡管所有經(jīng)過測試的車輛通常都比Uber更好，但它們的缺陷會(huì)導(dǎo)致安全駕駛者疏忽大意，而將這些缺陷歸咎于根本就是要以這種方式進(jìn)行的測試。

人為過失

報(bào)告指出，當(dāng)涉及到人為過失時(shí)，Herzberg的血液中有“高濃度的甲基苯丙胺”，超過藥物劑量的10倍，這會(huì)改變她的感知能力。她體內(nèi)還有大麻殘留。直到撞車前一秒，她才向右看向迎面駛來的車輛。

也有證據(jù)表明，安全駕駛員確實(shí)拿出了手機(jī)，并在上面播放電視節(jié)目，在駕駛過程中有34%的時(shí)間低頭看手機(jī)，在碰撞前6秒到1秒有整整5秒鐘的“一瞥”。

雖然Uber錄制了安全駕駛員的視頻，但他們從未審查過該司機(jī)的視頻，以發(fā)現(xiàn)她違反了禁止使用手機(jī)的政策。該駕駛員沒有受到訓(xùn)斥，還在這段路上開了73次車。

雖然每輛車?yán)锒加幸慌_(tái)供操作人員使用的小型平板電腦，但操作非常簡單，就像其他導(dǎo)航電腦一樣，只顯示導(dǎo)航路線，而且輸入源很少。

美國國家運(yùn)輸安全委員會(huì)沒有將這些干擾歸因于這款平板電腦，Uber稱其設(shè)計(jì)的平板電腦用戶體驗(yàn)符合NHTSA的車內(nèi)用戶體驗(yàn)指南。也有一些團(tuán)隊(duì)在報(bào)告異常情況時(shí)使用語音系統(tǒng)而不是觸摸系統(tǒng)以避免分心。

機(jī)器過失

更多關(guān)于Uber系統(tǒng)如何處理行人的細(xì)節(jié)也被披露。早期的報(bào)告（包括我自己的一些報(bào)告）指出，該系統(tǒng)無法將人行橫道外的障礙物歸類為行人。這是不正確的，盡管真相更令人困惑。它從來沒有把她歸類為行人，可能是因?yàn)樗窃隍T自行車。讓作者感到困惑的是，在系統(tǒng)的目標(biāo)分配模塊中提到了潛在的失敗，但實(shí)際上并沒有發(fā)生。

當(dāng)一個(gè)機(jī)器人汽車系統(tǒng)識別出一個(gè)障礙物時(shí)，它會(huì)試圖預(yù)測障礙物可能移動(dòng)的方向，并以此估計(jì)出障礙物的“目標(biāo)”。例如，行人在人行橫道上可能有過馬路的目標(biāo)，車道上的汽車或自行車很可能會(huì)繼續(xù)沿著那條車道行駛，當(dāng)然也有可能會(huì)換車道。

Uber的一個(gè)缺陷是，它的系統(tǒng)不會(huì)將“過馬路”作為目標(biāo)分配給不在人行橫道上的行人。如果他們發(fā)現(xiàn)有一個(gè)行人，那么他們并不會(huì)認(rèn)為她是在過馬路。

相反，她被歸類為車輛、騎自行車的人或未知的障礙物。這些對象的目標(biāo)猜測是不同的，并且在許多情況下基于對象過去的移動(dòng)歷史，這就是為什么在重新分類后忘記過去的歷史是真正的技術(shù)錯(cuò)誤。每次它對她進(jìn)行重新分類時(shí)，都必須在沒有過去記錄的情況下預(yù)測她的動(dòng)作，因此它無法理解，不管她是誰，她正在過馬路，而且準(zhǔn)備進(jìn)入他們的車道。

缺少“對象持久性”仍然是比分類錯(cuò)誤更大的錯(cuò)誤。分類錯(cuò)誤在機(jī)器人汽車系統(tǒng)中經(jīng)常發(fā)生，但是由于系統(tǒng)在不知道它是什么的情況下跟蹤和目標(biāo)移動(dòng)，這應(yīng)該可以減輕分類錯(cuò)誤。Uber沒有做到這一點(diǎn)。

更多的細(xì)節(jié)透露了沃爾沃標(biāo)準(zhǔn)自動(dòng)緊急制動(dòng)系統(tǒng)的禁用與SUV。沃爾沃系統(tǒng)有自己的雷達(dá)，與Uber的雷達(dá)頻率相同，因此不能同時(shí)使用。后來，他們重新調(diào)整了其中一個(gè)雷達(dá)，使兩個(gè)系統(tǒng)都能工作。

自動(dòng)化自滿

人們關(guān)注的焦點(diǎn)是人類在監(jiān)控自動(dòng)化系統(tǒng)方面的表現(xiàn)，以及人們變得自滿和憊懶的趨勢。這是具有一定自動(dòng)化程度的交通方式中的一個(gè)共同因素。

Uber從未審查過安全司機(jī)的視頻，也很少查看其他人的視頻，但現(xiàn)在有第三方對安全駕駛員進(jìn)行抽查，以發(fā)現(xiàn)類似的問題。

現(xiàn)在，Uber和其他公司使用自動(dòng)系統(tǒng)來跟蹤司機(jī)的視線，以確保他們的眼睛一直盯在路上，甚至在他們太過遠(yuǎn)離道路時(shí)保持警惕。Uber也已經(jīng)重新啟用了兩名安全駕駛員設(shè)置。

一個(gè)有趣的數(shù)據(jù)顯示，Uber在Tempe有40輛測試車，254名操作人員。這使得他們想換成一個(gè)安全駕駛員而不是兩個(gè)安全駕駛員的想法令人困惑，他們似乎有足夠多的人手在每輛車?yán)锓艃蓚€(gè)人。

雖然一般來說兩個(gè)安全駕駛員比一個(gè)安全駕駛員好，可以防止這類事故的發(fā)生，但我現(xiàn)在認(rèn)為，對一個(gè)安全駕駛員進(jìn)行計(jì)算機(jī)監(jiān)控實(shí)際上可能已經(jīng)足夠了。

特斯拉自動(dòng)駕駛儀的駕駛員沒有接受過培訓(xùn)，通常是獨(dú)自駕駛，他們的記錄表明，讓一個(gè)人來監(jiān)督一個(gè)像樣的自動(dòng)系統(tǒng)，會(huì)產(chǎn)生足夠的安全記錄。一個(gè)受過訓(xùn)練的安全駕駛員，加上自動(dòng)監(jiān)控，應(yīng)該會(huì)做得更好。

政策問題

正如之前報(bào)道的那樣，Uber ATG糟糕的安全文化——或者在某些情況下，缺乏安全文化——招致了很多批評。根據(jù)Robert Fox的報(bào)告，他們沒有一個(gè)適當(dāng)?shù)目蚣軄斫档惋L(fēng)險(xiǎn)，他們有糟糕的政策和程序，以及對汽車運(yùn)營商的糟糕監(jiān)督。據(jù)報(bào)道，Uber已經(jīng)解決了很多這樣的問題，目前只做了非常有限的測試——僅僅是繞著總部一英里的環(huán)路，時(shí)速限制在25英里。

NTSB的Enzar Becic報(bào)告了目前適用于測試機(jī)器人汽車公司的非?；镜囊?guī)則，特別是在亞利桑那州，它對測試安全駕駛員的團(tuán)隊(duì)沒有要求。國家公路交通安全管理局的規(guī)定要求進(jìn)行選擇性的安全評估，但只有16家公司提交了一份評估報(bào)告，但有超過64家公司在加州注冊。

該公司董事長Sumwalt稱贊了Uber在他們的調(diào)查中提供的合作，并對特斯拉未能提供幫助、被迫退出他們的一項(xiàng)調(diào)查的方式進(jìn)行了一些有力的抨擊。Sumwalt說，他喜歡Uber的首席執(zhí)行官“沒有掛斷我的電話”，這強(qiáng)烈地暗示Elon Musk可能在談話中掛斷了他的電話。

更多關(guān)于技術(shù)故障的說明

在我之前關(guān)于Uber死亡的報(bào)告中，我對兩個(gè)新的技術(shù)細(xì)節(jié)進(jìn)行了大量討論，即Uber系統(tǒng)的配置無法識別人行橫道外道路中間的行人。更重要的是，他們的目標(biāo)跟蹤系統(tǒng)有一個(gè)缺陷，每次重新分類一個(gè)目標(biāo)時(shí)，它都會(huì)忘記過去的經(jīng)驗(yàn)教訓(xùn)。許多其他媒體也對這些問題進(jìn)行了報(bào)道，其中大多數(shù)都把重點(diǎn)放在行人身份識別問題上。

盡管我已經(jīng)非常清楚地表明，這些技術(shù)問題雖然是系統(tǒng)設(shè)計(jì)和編碼糟糕的標(biāo)志，但并不是事故的主要原因，但讀者并不會(huì)這么想。因此，有必要重申的是，據(jù)我所知，所有的機(jī)器人車隊(duì)都存在這樣的問題，即系統(tǒng)不能正確地在其視圖中對事物進(jìn)行分類，這使得安全駕駛員必須不時(shí)地接手以防止事故的發(fā)生。

對于全新的項(xiàng)目，這可能是一個(gè)非常頻繁的事件，只要有一個(gè)訓(xùn)練有素的和細(xì)心的安全駕駛員在那里，這就是沒有問題的。

雖然我們可以也應(yīng)該對Uber軟件的低質(zhì)量提出批評，但我懷疑任何一個(gè)項(xiàng)目都經(jīng)歷過一個(gè)非常早期的階段，在這個(gè)階段，他們的系統(tǒng)不成熟，容易出現(xiàn)這樣的問題，而這些問題是由安全駕駛員正確處理的。

如果這些車隊(duì)中的任何一輛車有一名安全駕駛員坐在那里看視頻，就像這里所說的，這些車可能會(huì)發(fā)生事故，如果情況不對，可能會(huì)致命。

雖然這并不是優(yōu)步的借口，但他們也確實(shí)運(yùn)氣不太好。一般情況下，行人在人行橫道外的高速公路上過馬路時(shí)，會(huì)盡量小心謹(jǐn)慎，我們從小就被教導(dǎo)要“過馬路前向兩邊看”。

從表面上看，車禍發(fā)生在一個(gè)星期天的深夜，發(fā)生在一條幾乎空無一人的道路上，正是這樣一種情況：人們通常會(huì)提前很好地聽到任何駛近的汽車，并定期檢查右側(cè)是否有迎面而來的車輛，這是非常明顯的，因?yàn)樗那盁簟词乖谥苓叺囊曇爸幸埠苊黠@。

Herzberg在撞擊前的一秒鐘左右，斜著穿過飛機(jī)。美國國家運(yùn)輸安全委員會(huì)的調(diào)查人員將此歸因于她體內(nèi)的冰毒。他們不知道她血液中的濃度是上升，由于最近服用了大劑量藥物，改變了感知，還是下降從而引起不尋常的情緒。

據(jù)報(bào)道，這個(gè)地點(diǎn)的行人穿過人行橫道很少見，盡管由于音樂會(huì)的原因，那天晚上行人更多了些。但也沒有在這個(gè)地點(diǎn)發(fā)生的另一起行人事故的記錄。

當(dāng)然，這并不意味著無人駕駛汽車和安全駕駛員不必對人行橫道外的行人視而不見。盡管大多數(shù)行人都比較謹(jǐn)慎，但還是有這種情況存在。事實(shí)上，亞利桑那州71%的行人撞擊事件發(fā)生在十字路口之外。

那攝像頭呢？

關(guān)于計(jì)算機(jī)視覺和攝像頭在Uber致命事件中的作用，人們?nèi)杂幸蓡?。美國國家運(yùn)輸安全委員會(huì)的報(bào)告說，除了注意到在這次事故中不會(huì)起作用的近距離攝像頭沒有使用外，幾乎沒有任何關(guān)于車內(nèi)攝像頭系統(tǒng)的內(nèi)容。

大多數(shù)自動(dòng)駕駛汽車設(shè)計(jì)使用3種不同的系統(tǒng)來檢測前方道路上的行人。激光雷達(dá)是最可靠的，并被所有主要的自動(dòng)駕駛汽車公司所使用，除了特斯拉。雷達(dá)也很好，但對一個(gè)沒有朝你或遠(yuǎn)離你的行人來說，效果不太好。

在這種情況下，Herzberg穿過街道，因此垂直于汽車移動(dòng)。雷達(dá)仍能看到她，但提供的信息少得多。因?yàn)閁ber的軟件不斷對她進(jìn)行重新分類，忘記了之前學(xué)過的東西，雷達(dá)也不擅長提供詳細(xì)的水平位置，所以它對于注意到她正在橫穿馬路并不那么有用。

攝像透應(yīng)該在這里起到有用的作用。雖然計(jì)算機(jī)視覺不具備你從激光雷達(dá)和雷達(dá)獲得的100%確定距離的知識，但它可以很好地識別出某物是什么，所有的團(tuán)隊(duì)都訓(xùn)練他們的系統(tǒng)識別行人，有人認(rèn)為是騎自行車的人。

Uber的系統(tǒng)從來沒有這么做過。但是，雖然激光雷達(dá)很難識別像行人騎自行車這樣的物體，特別是在遠(yuǎn)距離下——在你靠近之前，它只是一個(gè)分散的點(diǎn)團(tuán)——這是攝像頭應(yīng)該更好地拍攝的東西。

然而，美國國家運(yùn)輸安全委員會(huì)的報(bào)告對視覺感知系統(tǒng)所見只字不提。

是它嗎？它只是沒有很好的功能嗎？像所有其他的技術(shù)問題一樣，它們排在安全駕駛問題之后，但是對于我們這些希望了解程序員會(huì)犯什么樣的錯(cuò)誤以及如何避免這些錯(cuò)誤的人來說，它們?nèi)匀缓苡腥ぁ?/p>

視覺系統(tǒng)的一個(gè)問題是如何在夜間工作。普通攝像頭無法同時(shí)獲得明亮物體，如汽車前大燈、路燈和前大燈照明的物體，和陰影中物體的良好圖像。Herzberg在燈光下進(jìn)進(jìn)出出，而常規(guī)的行車記錄儀視頻顯示，普通攝像頭的性能很差。

這就是為什么機(jī)器人汽車團(tuán)隊(duì)一直在積極開發(fā)“高動(dòng)態(tài)范圍”相機(jī)方法，以提高視覺效果。一種方法是使用兩個(gè)或更多的攝像頭，每個(gè)攝像頭設(shè)置在不同的曝光水平，以獲得陰影和良好照明區(qū)域的良好圖像。一種更便宜的方法是讓一臺(tái)攝像頭在每隔一幀的明亮和黑暗曝光之間切換。這些技術(shù)應(yīng)該能讓Uber車上的許多攝像頭拍出道路和Herzberg的良好圖像，即使是在晚上。

董事會(huì)成員Jennifer Homendy對缺乏關(guān)于測試的法規(guī)提出了強(qiáng)烈的批評，她認(rèn)為應(yīng)該有更多的聯(lián)邦和州法規(guī)來對這些車輛進(jìn)行測試。她對國家公路交通安全管理局的規(guī)定表示擔(dān)憂，這些規(guī)定目前相當(dāng)少。

它們是最小的，因?yàn)閲夜方煌ò踩芾砭趾透髦菀呀?jīng)意識到，他們還不具備管理仍在發(fā)展和不斷變化的技術(shù)的技能。盡管如此，NTSB認(rèn)為NHTSA應(yīng)該強(qiáng)制提交安全計(jì)劃報(bào)告。

報(bào)告結(jié)論

以下是最終調(diào)查結(jié)果，來自最終報(bào)告。

1、A.駕駛執(zhí)照、自動(dòng)駕駛系統(tǒng)操作經(jīng)驗(yàn)或知識；B.駕駛執(zhí)照、自動(dòng)駕駛系統(tǒng)操作經(jīng)驗(yàn)或知識；C.車輛的機(jī)械狀況。

2、對車禍?zhǔn)鹿实木o急反應(yīng)是及時(shí)和充分的。

3、該行人在夜間面對駛近的車輛前以及沒有人行橫道的地方過馬路時(shí)的不安全行為違反了亞利桑那州的法規(guī)，這可能是由于吸毒導(dǎo)致的感知和判斷能力下降。

4、Uber Advanced Technologies Group沒有充分管理其自動(dòng)駕駛系統(tǒng)的功能限制所帶來的預(yù)期安全風(fēng)險(xiǎn)，包括該系統(tǒng)在此次撞車事故中無法正確分類和預(yù)測行人過馬路中間街區(qū)的路徑。

5、自動(dòng)駕駛系統(tǒng)的設(shè)計(jì)中，只有在不可避免的碰撞的緊急情況下才會(huì)阻止剎車，這增加了在公共道路上測試自動(dòng)駕駛系統(tǒng)的安全風(fēng)險(xiǎn)。

6、因?yàn)閁ber Advanced Technologies Group的自動(dòng)駕駛系統(tǒng)正在開發(fā)中，存在相關(guān)的限制和故障預(yù)期，這些限制在多大程度上構(gòu)成了安全風(fēng)險(xiǎn)，取決于安全冗余和三種旨在降低與在公共道路上測試自動(dòng)駕駛系統(tǒng)相關(guān)的安全風(fēng)險(xiǎn)的緩解策略。

7、Uber Advanced Technologies Group在不完全更換其功能的情況下停用了沃爾沃前方碰撞警告和自動(dòng)緊急制動(dòng)系統(tǒng)，減少了一層安全冗余，增加了在公共道路上測試自動(dòng)駕駛系統(tǒng)的風(fēng)險(xiǎn)。

8、Uber Advanced Technologies Group在事故后做出了改變，如在自動(dòng)駕駛系統(tǒng)（ADS）運(yùn)行期間提供沃爾沃的前方碰撞警告和自動(dòng)緊急制動(dòng)，增加了一層安全冗余，降低了在公共道路上測試ADS的安全風(fēng)險(xiǎn)。

9、如果車輛安全駕駛員注意到了，她很可能有足夠的時(shí)間發(fā)現(xiàn)并對過路行人做出反應(yīng)，以避免撞車或減輕影響。

10、車輛安全駕駛員長時(shí)間的視覺分散，是典型的自動(dòng)化自滿效應(yīng)，導(dǎo)致她未能及時(shí)發(fā)現(xiàn)行人，避免碰撞。

11、Uber Advanced Technologies Group沒有充分認(rèn)識到自動(dòng)化自滿的風(fēng)險(xiǎn)，也沒有制定有效的對策來控制導(dǎo)致車禍的車輛操作員脫離接觸的風(fēng)險(xiǎn)。

12、雖然在Uber高級技術(shù)組測試車中安裝人機(jī)界面降低了自動(dòng)化監(jiān)控任務(wù)的復(fù)雜性，撤換第二個(gè)車輛安全駕駛員的決定增加了對唯一安全駕駛員的任務(wù)要求，也減少了安全冗余，從而將在公共道路上測試自動(dòng)駕駛系統(tǒng)的風(fēng)險(xiǎn)降至最低。

13、盡管Uber Advanced Technologies Group有辦法追溯監(jiān)控車輛操作員的行為及其遵守操作程序的情況，但它很少這樣做；而在自動(dòng)駕駛系統(tǒng)測試期間，該公司決定撤換第二名車輛安全駕駛員，加劇了公司監(jiān)管不力的不利影響。

14、Uber Advanced Technologies Group在測試自動(dòng)駕駛系統(tǒng)的過程中，在事故發(fā)生后加入了第二個(gè)車輛安全駕駛，并對安全駕駛員的注意力進(jìn)行實(shí)時(shí)監(jiān)控，這表明該公司開始解決導(dǎo)致事故的監(jiān)管缺陷。

15、Uber Advanced Technologies Group的安全文化不健全造成了一些狀況，包括對車輛安全駕駛員的監(jiān)管不到位，這些狀況導(dǎo)致了撞車事故的發(fā)生，特別是車輛安全駕駛員在撞車過程中注意力分散。

16、Uber Advanced Technologies Group實(shí)施安全管理系統(tǒng)的計(jì)劃，以及事故發(fā)生后公司對車輛安全駕駛員監(jiān)管的改變，開始解決導(dǎo)致事故發(fā)生的安全風(fēng)險(xiǎn)管理方面的缺陷。

17、NaTIonal Highway Traffic Safety 4 AdministraTIon將強(qiáng)制提交的安全自我評估報(bào)告（目前是自愿的）及其評估提供了一個(gè)統(tǒng)一的、最低水平的評估，可以幫助各州制定有關(guān)自動(dòng)車輛測試的法律。

18、事故發(fā)生時(shí)，亞利桑那州缺乏一個(gè)以安全為中心的自動(dòng)駕駛系統(tǒng)（ADS）測試應(yīng)用程序?qū)徟鞒?，事故發(fā)生后，該州一直沒有開發(fā)這樣一個(gè)流程，這表明該州在提高ADS測試安全性和保護(hù)公眾方面存在缺陷。

19、考慮到缺乏聯(lián)邦安全標(biāo)準(zhǔn)和評估協(xié)議自動(dòng)駕駛系統(tǒng)，以及美國國家公路交通安全管理局的安全自我評估過程不足，與自動(dòng)車輛測試相關(guān)的要求可以通過在授予測試許可證之前實(shí)施徹底的應(yīng)用和審查過程來提高此類測試的安全性。