人機(jī)共駕問(wèn)題中到底是人復(fù)雜還是機(jī)復(fù)雜

　　「它經(jīng)常會(huì)在不合適的時(shí)機(jī)進(jìn)行變道，但如果你想撥一把方向盤(pán)救個(gè)急，它還會(huì)和你較勁，非常危險(xiǎn)」，「整個(gè)過(guò)程就像看著自己孩子開(kāi)車(chē)一樣，干著急還提心吊膽，搞得壓力很大」……

　　這里的「它」正是特斯拉 Autopilot 。之前美國(guó)《消費(fèi)者報(bào)告》（Consumer Reports）曾報(bào)道稱(chēng)，更新后的 Autopilot 具備了自動(dòng)變道的功能，車(chē)主可以選擇在變道時(shí)不進(jìn)行任何提醒，完全交由機(jī)器來(lái)抉擇。但試駕編輯們?cè)隗w驗(yàn)后卻紛紛吐槽了它。

　　特斯拉 Autopilot 一直以來(lái)都爭(zhēng)議不斷。一邊說(shuō)它是新手們的福音，杜絕事故的好幫手，另一邊卻有人抨擊它是事故的罪魁禍?zhǔn)?。這套系統(tǒng)帶來(lái)用戶(hù)體驗(yàn)升級(jí)的同時(shí)也因?yàn)轭l發(fā)的安全事故而備受關(guān)注。

　　不可否認(rèn)的是，特斯拉 Autopilot 讓大家有機(jī)會(huì)一窺自動(dòng)駕駛的未來(lái)，盡管它離真正意義上的「自動(dòng)駕駛」還很遠(yuǎn)。畢竟軟硬件的局限導(dǎo)致它最多只能實(shí)現(xiàn) L2 級(jí)自動(dòng)駕駛的能力，而這個(gè)階段中「人」依然是主體，需要機(jī)器和人相互配合完成，所以這些關(guān)于 Autopilot 的爭(zhēng)議全部都可以歸屬于典型的「人機(jī)共駕」問(wèn)題。

　　開(kāi)啟了「Navigate on Autopilot」功能的特斯拉車(chē)型能夠?qū)崿F(xiàn)自主變道 | Teslarati

　　在「完全自動(dòng)駕駛」這個(gè)純技術(shù)的難題還未普及實(shí)現(xiàn)之前，「人機(jī)共駕」問(wèn)題是所有汽車(chē)企業(yè)、自動(dòng)駕駛企業(yè)都需要突破解決的另一道難題。

　　這道難題的核心是「人」這個(gè)不確定因素。按照控制權(quán)的劃分，「人機(jī)共駕」又可分為「雙駕單控」和「雙駕雙控」兩種模式。前者關(guān)注的是駕駛權(quán)的交接和人車(chē)在主駕、副駕時(shí)的問(wèn)題；而后者關(guān)乎駕駛自信，在人車(chē)都有控制權(quán)的情況下，該相信哪方多一點(diǎn)。

　　所以要建立一套高效、體驗(yàn)舒適、安全的自動(dòng)駕駛系統(tǒng)是及其復(fù)雜的。原因很簡(jiǎn)單，機(jī)器是必須要和人進(jìn)行互動(dòng)的。而且這個(gè)互動(dòng)的過(guò)程不光牽扯到機(jī)器人學(xué)科，還囊括了機(jī)器學(xué)習(xí)、心理學(xué)、經(jīng)濟(jì)學(xué)及政策等領(lǐng)域的問(wèn)題。同時(shí)它也對(duì)我們已有的認(rèn)知和假設(shè)形成了挑戰(zhàn)：到底人類(lèi)的表現(xiàn)能有多糟？人工智能又會(huì)是多么強(qiáng)大的存在？

　　MIT 進(jìn)行的「人機(jī)共駕」研究，右上角為試驗(yàn)車(chē)輛「Black Betty」| MIT

　　MIT 之前曾進(jìn)行過(guò)一項(xiàng)關(guān)于「人機(jī)共駕」的課題研究，從設(shè)計(jì)和開(kāi)發(fā)「以人為中心」自動(dòng)駕駛系統(tǒng)的角度出發(fā)，提出了七大原則。這些指導(dǎo)原則中并沒(méi)有把人類(lèi)本質(zhì)的復(fù)雜性剔除掉，而是將其融合到了整套系統(tǒng)中。這也恰恰是這套課題研究的精髓所在。

　　實(shí)驗(yàn)成果的展示我們可以在一輛叫做「Black Betty」的無(wú)人車(chē)上看到。它只搭載了攝像頭，主要通過(guò)機(jī)器學(xué)習(xí)的方式進(jìn)行外部環(huán)境感知，規(guī)劃決策，駕駛員監(jiān)控，語(yǔ)音識(shí)別、聚合以及管理人機(jī)雙向操控的無(wú)縫切換（語(yǔ)音控制），方向盤(pán)上安裝了扭矩傳感器。通過(guò)下面的視頻，大家可以看到這輛無(wú)人車(chē)的具體表現(xiàn)：https://www.youtube.com/watch？v=OoC8oH0CLGc

　　「人」才是復(fù)雜因素？

　　在過(guò)去的十幾年里，汽車(chē)自動(dòng)駕駛的能力在逐步提升，迫使政策制定者以及行業(yè)安全研究人員開(kāi)始思考如何為「自動(dòng)駕駛」定級(jí)的問(wèn)題，目的是借此為相關(guān)法律、標(biāo)準(zhǔn)、工程設(shè)計(jì)甚至是業(yè)界交流提供可參考的框架。目前行業(yè)內(nèi)普遍采納的是美國(guó)汽車(chē)工程學(xué)會(huì) SAE 制定的分級(jí)標(biāo)準(zhǔn)，它將自動(dòng)駕駛分為 L0 到 L5 共六個(gè)等級(jí)。不過(guò) SAE 對(duì)每個(gè)級(jí)別的定義其實(shí)是很模糊的，并不能給出清晰、明確的區(qū)別，所以它似乎已經(jīng)不太適合作為引發(fā)行業(yè)思考的「磚」了，更像是汽車(chē)系統(tǒng)設(shè)計(jì)開(kāi)發(fā)的一套指導(dǎo)原則。

　　美國(guó)汽車(chē)工程學(xué)會(huì) SAE 對(duì)自動(dòng)駕駛的分級(jí) | SAE

　　目前業(yè)界對(duì)自動(dòng)駕駛汽車(chē)有如下三種普遍的觀點(diǎn)：1. 駕駛?cè)蝿?wù)很簡(jiǎn)單；2. 人類(lèi)不擅長(zhǎng)開(kāi)車(chē)；3. 人類(lèi)和機(jī)器無(wú)法做到良好的配合。相較這些觀點(diǎn)而言，MIT 的研究則完全朝著相反的方向進(jìn)行：1. 開(kāi)車(chē)這件事實(shí)際上很難；2. 人類(lèi)是非常棒的駕駛員；3. 讓人和智能機(jī)器實(shí)現(xiàn)高效協(xié)作是能夠?qū)崿F(xiàn)的，而且是很有價(jià)值的目標(biāo)。

　　基于這樣的前提和假設(shè)，MIT 提出了「以人為中心」的框架并將其應(yīng)用至人機(jī)共駕系統(tǒng)的開(kāi)發(fā)過(guò)程中，在執(zhí)行具體的駕駛?cè)蝿?wù)時(shí)將人類(lèi)與機(jī)器的邊界完全去掉。與此同時(shí)，MIT 還提出了針對(duì)人機(jī)共駕的「七原則」，討論了在設(shè)計(jì)、開(kāi)發(fā)、測(cè)試「Black Betty」的過(guò)程中如何應(yīng)用這些原則。

　　「人機(jī)共駕」的七原則

　　一、人機(jī)共駕（Shared Autonomy）

　　MIT 認(rèn)為自動(dòng)駕駛應(yīng)該分為兩個(gè)等級(jí)：一、人機(jī)共駕（Shared Autonomy）；二、全自動(dòng)駕駛（Full Autonomy）。這樣的分類(lèi)方式不僅能夠提供有建設(shè)性的指導(dǎo)方針，添加必要的限制條件同時(shí)還可以對(duì)要實(shí)現(xiàn)的目標(biāo)進(jìn)行量化設(shè)定。甚至，對(duì)每個(gè)類(lèi)別下要實(shí)現(xiàn)的功能、對(duì)應(yīng)的技術(shù)需求以及可能遇到的問(wèn)題都可以劃分出來(lái)。

　　這個(gè)原則的核心在于對(duì)「人類(lèi)駕駛員在環(huán)」的討論。為了實(shí)現(xiàn)對(duì)車(chē)輛的有效控制，人和機(jī)器組成的團(tuán)隊(duì)必須共同保持對(duì)外部環(huán)境有充分的感知。目標(biāo)是促使整個(gè)行業(yè)對(duì)「人機(jī)共駕」和「全自動(dòng)駕駛」進(jìn)行清晰地劃分。

　　表 I 「人機(jī)共駕」和「全自動(dòng)駕駛」這兩種路徑中涉及的技術(shù)，包括用于大規(guī)模量產(chǎn)時(shí)對(duì)每項(xiàng)技術(shù)表現(xiàn)的等級(jí)要求 | MIT

　　需要指出的是，表 I 中的術(shù)語(yǔ)「Good」和「ExcepTIonal」用來(lái)表示解決 1% 極端案例的優(yōu)先級(jí)順序。遠(yuǎn)程操控、V2X 和 V2I 等并非必須的技術(shù)，如果要使用的話需要達(dá)到特殊的能力要求。

　　在實(shí)現(xiàn)高等級(jí)自動(dòng)駕駛的方法上，傳統(tǒng)思路全程都跳過(guò)了對(duì)「人」這個(gè)因素的考慮，精力主要集中在對(duì)地圖、感知、規(guī)劃以及表 I 中「全自動(dòng)駕駛」一欄標(biāo)注為「excepTIonal」的技術(shù)上。實(shí)際來(lái)看，考慮到目前的硬件和算法能力，這種解決方案對(duì)高精度地圖、傳感器套件的魯棒性要求很高，提供的是較為保守的駕駛策略。

　　而正如表 I 所述，「以人為中心」的自動(dòng)駕駛汽車(chē)著眼點(diǎn)主要在司機(jī)身上。負(fù)責(zé)控制車(chē)輛的依然是人，但前提是要對(duì)人的狀態(tài)、駕駛方式及之前的人機(jī)合作經(jīng)驗(yàn)做充分的考量，同時(shí)把車(chē)輛的轉(zhuǎn)向、加減速等交由人工智能系統(tǒng)負(fù)責(zé)。以特斯拉的 Autopilot 為例，之前 MIT 的研究顯示，測(cè)試中有超過(guò) 30% 的行程都是由這套 L2 級(jí)駕駛輔助系統(tǒng)控制完成的。而如果人機(jī)共駕應(yīng)用成功的話，應(yīng)該能實(shí)現(xiàn)超過(guò) 50% 的機(jī)器控制率。在這次實(shí)驗(yàn)中，MIT 表示無(wú)人車(chē)系統(tǒng)在接管過(guò)程中呈現(xiàn)出了不同程度的能力，而人類(lèi)駕駛員始終在密切關(guān)注著機(jī)器的動(dòng)態(tài)，根據(jù)感知系統(tǒng)獲得的信息及時(shí)預(yù)測(cè)可能發(fā)生的危險(xiǎn)。

　　二、從數(shù)據(jù)中學(xué)習(xí)（Learn from Data）

　　從表 I 不難發(fā)現(xiàn)，這其中涉及的任何一項(xiàng)車(chē)輛技術(shù)都是數(shù)據(jù)驅(qū)動(dòng)的，需要搜集大量的邊緣案例數(shù)據(jù)，利用這些數(shù)據(jù)持續(xù)不斷地優(yōu)化算法。這個(gè)學(xué)習(xí)過(guò)程的目的應(yīng)該是，通過(guò)大量數(shù)據(jù)實(shí)現(xiàn)從傳統(tǒng)的模塊化監(jiān)督學(xué)習(xí)向端到端半監(jiān)督式和無(wú)監(jiān)督學(xué)習(xí)過(guò)渡。

　　要實(shí)現(xiàn)車(chē)輛的自動(dòng)駕駛，傳統(tǒng)的方法，不管是哪個(gè)級(jí)別，幾乎都不會(huì)大量的應(yīng)用機(jī)器學(xué)習(xí)技術(shù)。除了在一些特殊的線下場(chǎng)景，比如 Mobileye 的視覺(jué)感知系統(tǒng)要進(jìn)行車(chē)道線識(shí)別，或者是通用 Super Cruise 搭載的紅外攝像頭要對(duì)駕駛員頭部動(dòng)作進(jìn)行預(yù)測(cè)等。

　　特斯拉的 Autopilot 可能要比其他方案更進(jìn)一步，在開(kāi)發(fā)針對(duì)第二代硬件平臺(tái) HW 2.0 的軟件算法時(shí)，在視覺(jué)感知上應(yīng)用了越來(lái)越多監(jiān)督機(jī)器學(xué)習(xí)的原理。但即便如此，對(duì)車(chē)輛的絕大部分控制以及對(duì)駕駛員狀態(tài)監(jiān)測(cè)的實(shí)現(xiàn)中，并沒(méi)有利用大數(shù)據(jù)驅(qū)動(dòng)的方式，也幾乎不涉及線上學(xué)習(xí)的過(guò)程。

　　而在目前業(yè)界進(jìn)行的一些全自動(dòng)駕駛技術(shù)的路測(cè)中，機(jī)器學(xué)習(xí)主要應(yīng)用于環(huán)境感知這一環(huán)節(jié)。更甚的是，這些車(chē)輛采集到的數(shù)據(jù)，無(wú)論是從量還是多樣性來(lái)看，和具備 L2 級(jí)自動(dòng)駕駛能力的車(chē)型相比，遜色不少。

　　特斯拉 Autopilot 對(duì)目標(biāo)物、車(chē)道線的檢測(cè)主要依賴(lài)機(jī)器學(xué)習(xí)算法進(jìn)行 | Electrek

　　MIT 認(rèn)為，「L2 級(jí)自動(dòng)駕駛系統(tǒng)中機(jī)器學(xué)習(xí)框架使用的數(shù)據(jù)，從規(guī)模和豐富性的角度來(lái)看都具有足夠的擴(kuò)展能力，可以覆蓋多變的、具有代表性、挑戰(zhàn)性的邊緣案例?！谷藱C(jī)共駕（Shared Autonomy）要求同時(shí)搜集人和車(chē)輛的感知數(shù)據(jù)，挖掘分析后用于監(jiān)督學(xué)習(xí)的標(biāo)注。在 MIT 的實(shí)驗(yàn)過(guò)程中，駕駛場(chǎng)景感知、路徑規(guī)劃、駕駛員監(jiān)控、語(yǔ)音識(shí)別以及語(yǔ)音聚合都應(yīng)用了深度神經(jīng)網(wǎng)絡(luò)模型，可以通過(guò)搜集到的大量駕駛體驗(yàn)數(shù)據(jù)進(jìn)行持續(xù)性的調(diào)校和優(yōu)化。

　　在進(jìn)行數(shù)據(jù)采集時(shí)，MIT 表示并不會(huì)只局限于單一的傳感器來(lái)源，而是對(duì)整個(gè)駕駛體驗(yàn)通盤(pán)考慮，并將所有的傳感器數(shù)據(jù)流通過(guò)實(shí)時(shí)時(shí)鐘（real-TIme clock）匯總、聚合，用于多個(gè)神經(jīng)網(wǎng)絡(luò)模型的標(biāo)注。這種方式能夠讓駕駛場(chǎng)景與駕駛員狀態(tài)能夠很好地匹配起來(lái)，而在聚合的傳感器數(shù)據(jù)流進(jìn)行標(biāo)注工作，使模塊化的監(jiān)督學(xué)習(xí)可以在數(shù)據(jù)規(guī)模允許時(shí)輕松地向端到端學(xué)習(xí)過(guò)渡。

　　三、監(jiān)督人類(lèi)（Human Sensing）

　　這個(gè)其實(shí)就是我們俗稱(chēng)的「駕駛員監(jiān)控」。它指的是對(duì)駕駛員的整體心理以及功能特征，包括分心、疲憊、注意力分配和容量、認(rèn)知負(fù)荷、情緒狀態(tài)等的不同程度進(jìn)行多維度的衡量和評(píng)估。

　　目前除了通用 Super Cruise 在方向盤(pán)上裝有一枚紅外攝像頭外，不管是搭載了 ADAS 駕駛輔助系統(tǒng)的量產(chǎn)車(chē)型，還是在路測(cè)的全自動(dòng)駕駛汽車(chē)，絕大部分都沒(méi)有提供任何有關(guān)駕駛員監(jiān)控的軟件和硬件。特斯拉 Model 3 其實(shí)也裝了一枚車(chē)內(nèi)攝像頭，但目前尚未啟用，具體功用官方表示要等軟件更新后才知道。而基于視覺(jué)的解決方案以外，市面上還包括一些準(zhǔn)確率不高的方式。比如特斯拉在方向盤(pán)上安裝了扭矩傳感器，也有的公司利用監(jiān)測(cè)方向盤(pán)是否發(fā)生倒轉(zhuǎn)的方式推斷駕駛員是否出現(xiàn)疲勞情況。

　　全新一代凱迪拉克 CT6 搭載的駕駛員監(jiān)控系統(tǒng)由 Seeing Machines 提供 | 官方供圖

　　MIT 認(rèn)為「對(duì)駕駛員狀態(tài)的感知和監(jiān)控是實(shí)現(xiàn)高效人機(jī)共駕的的第一步，同時(shí)也是最關(guān)鍵的一步?！乖谶^(guò)去的二十多年里，來(lái)自機(jī)器視覺(jué)、信號(hào)處理、機(jī)器人等領(lǐng)域的專(zhuān)家都進(jìn)行過(guò)相關(guān)課題的研究，目的都是在探討如何盡可能保證駕乘人員的安全。此外，對(duì)駕駛員狀態(tài)的監(jiān)測(cè)對(duì)如何改善和提升人機(jī)交互界面、高級(jí)駕駛輔助系統(tǒng) ADAS 的設(shè)計(jì)都有很大幫助。隨著汽車(chē)智能程度的不斷提高，如何準(zhǔn)確、實(shí)時(shí)地探測(cè)到駕駛員的各種行為對(duì)打造安全的個(gè)性化出行體驗(yàn)尤為重要。

　　比較有意思的一點(diǎn)是，從完全的手動(dòng)駕駛到全自動(dòng)駕駛，這其中涉及到不同模式切換的問(wèn)題。一般來(lái)說(shuō)雙手脫離方向盤(pán)（handoff）就是一種信號(hào)，可能表示系統(tǒng)要做好接管的準(zhǔn)備了，但還有什么其他更準(zhǔn)確的信息可以用來(lái)判斷，可能這也是「駕駛員監(jiān)控」的研究人員需要持續(xù)思考的地方。

　　四、共享的感知控制（Shared PrecepTIon-Control）

　　通俗點(diǎn)來(lái)說(shuō)，這相當(dāng)于為整個(gè)自動(dòng)駕駛系統(tǒng)增加了「一雙眼睛和手」。目的是建立額外的感知、控制和路線規(guī)劃?rùn)C(jī)制。即便在高度自動(dòng)駕駛系統(tǒng)運(yùn)行狀態(tài)下，也要及時(shí)地為駕駛員推送信息，將其納入到整個(gè)駕駛過(guò)程中。

　　研究全自動(dòng)駕駛的目的就是為了完美地解決「感知-控制」的問(wèn)題，考慮到人類(lèi)的不靠譜和行為的不可測(cè)性。所以傳統(tǒng)觀點(diǎn)認(rèn)為最簡(jiǎn)單的辦法就是把人從開(kāi)車(chē)這件事上排除掉，像十幾年前在 DARPA 挑戰(zhàn)賽中獲勝的隊(duì)伍一樣。

　　但和傳統(tǒng)解決思路相反的是，MIT 提出的「以人為中心」的理論將人置于感知和決策規(guī)劃閉環(huán)中的關(guān)鍵位置。因此，整車(chē)感知系統(tǒng)就變成了支持性的角色，為人類(lèi)駕駛員提供外部環(huán)境信息，這其實(shí)也是為了解決機(jī)器視覺(jué)本身存在的局限性而考慮的。

　　表 II MIT「以人為中心」自動(dòng)駕駛系統(tǒng)執(zhí)行的感知任務(wù)，包括對(duì)駕駛員面部表情、動(dòng)作以及可駕駛區(qū)域、車(chē)道線以及場(chǎng)景內(nèi)物體的檢測(cè) | MIT

　　在 MIT 的研究中，工作人員圍繞這個(gè)原則設(shè)計(jì)了幾條關(guān)鍵的算法。表 II 是其中幾個(gè)典型的案例。首先，從視覺(jué)上可以看到神經(jīng)網(wǎng)絡(luò)做出的判斷、道路分割的區(qū)域以及對(duì)駕駛場(chǎng)景狀態(tài)的預(yù)估的可信程度；其次，將所有的感知數(shù)據(jù)整合并輸出融合式的決策建議，這樣在表 IV 的場(chǎng)景下就能夠?qū)φw風(fēng)險(xiǎn)進(jìn)行預(yù)估；再次，MIT 一直使用的是模仿學(xué)習(xí)：將人類(lèi)駕駛員操控車(chē)輛時(shí)方向盤(pán)的動(dòng)作作為訓(xùn)練數(shù)據(jù)，進(jìn)一步優(yōu)化端到端的深度神經(jīng)網(wǎng)絡(luò)；最后，MIT 使用的端到端的神經(jīng)網(wǎng)絡(luò)屬于一個(gè)叫做「arguing machines（爭(zhēng)論機(jī)器）」框架的一部分，它為主要的感知-控制系統(tǒng)（表 III）提供了來(lái)自人類(lèi)的監(jiān)督。

　　這里的「爭(zhēng)論機(jī)器框架」是 MIT 2018年提出的一個(gè)概念，詳細(xì)技術(shù)細(xì)節(jié)可點(diǎn)擊（http://1t.click/DAK）查看。它將主要 AI 系統(tǒng)與經(jīng)過(guò)獨(dú)立訓(xùn)練以執(zhí)行相同任務(wù)的次要 AI 系統(tǒng)配對(duì)。 該框架表明，在沒(méi)有任何基礎(chǔ)系統(tǒng)設(shè)計(jì)或操作知識(shí)的情況下，兩個(gè)系統(tǒng)之間的分歧足以在人工監(jiān)督分歧的情況下提高整體決策管道的準(zhǔn)確性。

　　表 III 對(duì)「爭(zhēng)論機(jī)器」框架在「Black Betty」自動(dòng)駕駛測(cè)試車(chē)上的應(yīng)用和評(píng)估 | MIT

　　表 IV 通過(guò)結(jié)合車(chē)內(nèi)外感知系統(tǒng)數(shù)據(jù)得出的融合型決策能夠充分預(yù)估可能發(fā)生的風(fēng)險(xiǎn) | MIT

　　五、深度定制化（Deep Personalization）

　　這里涉及到一個(gè)「將人類(lèi)融入到機(jī)器中」的概念。通過(guò)調(diào)整 AI 系統(tǒng)的參數(shù)，使其能夠更適合人類(lèi)操作并呈現(xiàn)出一定程度的定制化。最終的系統(tǒng)應(yīng)該帶有該駕駛員的行為特征，而不是像剛出廠時(shí)的普通配置一樣。

　　六、不回避設(shè)計(jì)缺陷（Imperfect by Design）

　　對(duì)整個(gè)汽車(chē)工業(yè)而言，處于很多原因的考慮，進(jìn)行工程設(shè)計(jì)時(shí)通?？紤]最多的是「安全」，所以要盡可能地講系統(tǒng)錯(cuò)誤出現(xiàn)的頻率和程度降至最低。換句話說(shuō)，對(duì)自動(dòng)駕駛而言，完美是目標(biāo)，這也導(dǎo)致了在進(jìn)行某些功能設(shè)計(jì)時(shí)，可能會(huì)因其「不完美」和「不確定」的性質(zhì)而放棄這些可能是「必要」的設(shè)計(jì)。

　　但是在 MIT 的研究看來(lái)，豐富、高效的溝通機(jī)制在設(shè)計(jì)用于實(shí)現(xiàn)「人機(jī)共駕」的人工智能系統(tǒng)時(shí)，是非常必要的因素。就「溝通」而言，系統(tǒng)存在的不完美對(duì)人和機(jī)器而言，在進(jìn)行感知模型的交換和融合過(guò)程中，能夠提供密集、多樣的信息內(nèi)容。如果將 AI 系統(tǒng)的不確定性、局限性和錯(cuò)誤都隱藏起來(lái)，這也就錯(cuò)失了與人建立信任、深度理解關(guān)系的機(jī)會(huì)。MIT 認(rèn)為，此前業(yè)界在設(shè)計(jì)半自動(dòng)駕駛系統(tǒng)時(shí)所采取的「完美」思路，可能是迄今為止所犯的嚴(yán)重錯(cuò)誤之一。

　　而在開(kāi)發(fā)「Black Betty」這輛無(wú)人車(chē)時(shí)，MIT 把人工智能系統(tǒng)的局限性通過(guò)文字和視覺(jué)的形式與人類(lèi)進(jìn)行充分溝通。例如將人類(lèi)和機(jī)器對(duì)外部世界的感知視覺(jué)化，讓駕駛員知曉 AI 系統(tǒng)的局限所在。研究人員表示這種方式相比只是提供「報(bào)警」或者「模糊的信號(hào)」，是最簡(jiǎn)潔有效的人機(jī)溝通方式。盡管這種溝通機(jī)制要實(shí)現(xiàn)還面臨一些技術(shù)上的難題，比如視覺(jué)化的過(guò)程通常對(duì)芯片的算力和實(shí)時(shí)調(diào)用的能力要求很高。但值得機(jī)器人、自動(dòng)化以及人機(jī)交互等領(lǐng)域共同關(guān)注并思考解決的辦法。

　　七、系統(tǒng)級(jí)的駕駛體驗(yàn)（System-Level Experience）

　　目前，汽車(chē)工業(yè)的工程設(shè)計(jì)過(guò)程中，一個(gè)最主要的目標(biāo)就是「安全」。另一個(gè)則是「降低成本」。第二個(gè)目標(biāo)導(dǎo)向的是模塊化、基于零部件的設(shè)計(jì)思考。但同樣的模式在面向機(jī)器人、計(jì)算機(jī)視覺(jué)、機(jī)器學(xué)習(xí)等領(lǐng)域的人工智能系統(tǒng)設(shè)計(jì)中卻有著迥異的理由。

　　譬如在設(shè)計(jì)中重視單一功能（目標(biāo)物檢測(cè)等）的實(shí)現(xiàn)，能夠有效測(cè)試該算法的合理性并逐步使之得到改善和優(yōu)化。但是這個(gè)過(guò)程也難免會(huì)把注意力過(guò)渡集中在單一功能而忽略了系統(tǒng)的整體體驗(yàn)。

　　在過(guò)去的幾十年里，「系統(tǒng)工程」、「系統(tǒng)思考」這樣的原則一直在指導(dǎo)著汽車(chē)工業(yè)產(chǎn)品的輸出。然后，類(lèi)似的思考卻幾乎沒(méi)有應(yīng)用在自動(dòng)駕駛汽車(chē)的設(shè)計(jì)、測(cè)試和評(píng)估過(guò)程中。正如 MIT 上面提到的這六大原則，人和機(jī)器都不可避免會(huì)有缺陷，只有當(dāng)「人機(jī)共駕」這個(gè)框架在系統(tǒng)層面上得到考慮時(shí)，這些缺陷才可能有機(jī)會(huì)成為優(yōu)勢(shì)。

　　對(duì)「人機(jī)共駕」的永恒討論

　　不管短期還是長(zhǎng)期來(lái)看，其實(shí)很難預(yù)測(cè)自動(dòng)駕駛的哪條實(shí)現(xiàn)路徑最終會(huì)成功，而且退一萬(wàn)步說(shuō)，你甚至都不知道什么樣的結(jié)果算得上是「成功」。在談到研究目的時(shí)，MIT 希望一套自動(dòng)駕駛系統(tǒng)能夠同時(shí)滿(mǎn)足「安全」、「愉悅的駕駛體驗(yàn)」和「提升的出行體驗(yàn)」這三個(gè)要求，而不是彼此妥善折中。而盡管「人機(jī)共駕」這個(gè)話題在過(guò)去的十年里，是包括汽車(chē)工業(yè)、機(jī)器人在內(nèi)很多領(lǐng)域研究的焦點(diǎn)，但它仍值得更深入的探討。

　　在今年四月份的上海國(guó)際車(chē)展上，Tier 1 供應(yīng)商采埃孚聯(lián)合英偉達(dá)推出了coPILOT 智能高級(jí)駕駛輔助系統(tǒng)。這是一套定位「L2+級(jí)」 的自動(dòng)駕駛輔助系統(tǒng)，目的是提高乘用車(chē)的安全性和駕駛舒適性。從產(chǎn)品名稱(chēng)不難看出，這套系統(tǒng)同樣強(qiáng)調(diào)了「人機(jī)共駕」的概念。它配備了相應(yīng)的傳感器和功能，能夠監(jiān)控駕駛員并在發(fā)生潛在危險(xiǎn)情況時(shí)觸發(fā)警告。例如，當(dāng)發(fā)生駕駛員注意力不集中、幾乎完全未將注意力放在路面交通上或顯示出瞌睡跡象等。所以人工智能扮演了「私人駕駛助手」的角色，這個(gè)產(chǎn)品理念與 MIT 的研究不謀而合。

　　到底完美解決駕駛?cè)蝿?wù)比完美管理人類(lèi)的信任和注意力哪個(gè)更難？這是值得深思熟慮的問(wèn)題。MIT 認(rèn)為關(guān)于這個(gè)問(wèn)題的討論仍不會(huì)停止，不管是這篇論文還是「Black Betty」這臺(tái)無(wú)人測(cè)試車(chē)，都是基于「人機(jī)共駕」研究的成果，MIT 認(rèn)為它是開(kāi)發(fā)「以人為中心」自動(dòng)駕駛系統(tǒng)的必由之路。
? ? ? ?