讓我們先來(lái)做一道選擇題。

司機(jī)老王開著一輛帶有自動(dòng)駕駛系統(tǒng)的車，這時(shí)道路前方突然出現(xiàn)了一個(gè)行人，可怕的是剎車失靈了。如果及時(shí)左轉(zhuǎn)，老王的車就不會(huì)撞人；如果依舊直行，老王的車會(huì)將人撞死。

你覺(jué)得以下哪種情景，老王要為行人之死負(fù)責(zé)？

A、老王決定左轉(zhuǎn)，而自動(dòng)駕駛系統(tǒng)強(qiáng)制選擇了直行（撞人）

B、老王決定直行（撞人），而自動(dòng)駕駛系統(tǒng)沒(méi)有干預(yù)

C、自動(dòng)駕駛系統(tǒng)決定左轉(zhuǎn)，而老王強(qiáng)制選擇了直行（撞人）

D、自動(dòng)駕駛系統(tǒng)決定直行（撞人），而老王沒(méi)有干預(yù)

A和C選項(xiàng)中，人類和機(jī)器駕駛員都進(jìn)行了錯(cuò)誤干預(yù)。B和D選項(xiàng)中，兩者都沒(méi)有進(jìn)行有效干預(yù)（錯(cuò)過(guò)干預(yù)）。到底誰(shuí)的責(zé)任更大？

為無(wú)人車事故定責(zé)不是個(gè)簡(jiǎn)單的選擇題。

MIT、哈佛、加州大學(xué)爾灣分校、法國(guó)圖盧茲大學(xué)的一個(gè)聯(lián)合研究小組致力于通過(guò)定量研究的手段了解人們?cè)诿鎸?duì)無(wú)人車事故時(shí)的態(tài)度，并于最近發(fā)布了研究成果。

論文作者來(lái)自腦和認(rèn)知科學(xué)、心理學(xué)、經(jīng)濟(jì)學(xué)等多個(gè)不同領(lǐng)域，MIT火爆的無(wú)人車課程講師Sydney Levine也是作者之一。

先說(shuō)MIT聯(lián)合研究小組通過(guò)向2583個(gè)人發(fā)放3次調(diào)查問(wèn)卷得出的結(jié)論：

進(jìn)行了錯(cuò)誤干預(yù)的駕駛者是過(guò)失方，無(wú)論是人還是機(jī)器駕駛；

如果人機(jī)同時(shí)錯(cuò)過(guò)有效干預(yù)，輿論對(duì)機(jī)器更包容，人類司機(jī)的疏忽更受關(guān)注。

明確事故定責(zé)，是無(wú)人車發(fā)展的前提

伴隨著一個(gè)個(gè)無(wú)人車路測(cè)的消息，我們也看到了一起起事故。

3月18日美國(guó)亞利桑那州發(fā)生的Uber無(wú)人車撞傷行人并致死事故可以理解為“錯(cuò)過(guò)干預(yù)”。車禍正式報(bào)告還未公布，但據(jù)外媒報(bào)道，事故發(fā)生時(shí)車輛已經(jīng)檢測(cè)到車頭前的行人，但決策系統(tǒng)卻“決定”不采取任何閃避措施，同時(shí)人類安全駕駛員也未能及時(shí)作出反應(yīng)。

Uber之后，3月23日，特斯拉Autopilot再次成為漩渦中心：一輛開啟了Autopilot的Model X在高速上撞向隔離帶，導(dǎo)致車主不幸喪生，還引發(fā)車輛起火和兩車追尾。

對(duì)此，特斯拉表示：“司機(jī)已收到過(guò)幾次警告，包括可視警告和聲音警告。在碰撞發(fā)生前的6秒鐘，司機(jī)都沒(méi)有手握方向盤。事故發(fā)生前，司機(jī)有大約5秒鐘的時(shí)間和150米的無(wú)障礙視野，但車輛記錄顯示司機(jī)沒(méi)有做出任何動(dòng)作?！?strong>同樣，可以理解為“錯(cuò)過(guò)干預(yù)”。

歷史總是驚人地相似。

2016年5月，全球首例引起廣泛關(guān)注的Autopilot致死事故在佛羅里達(dá)發(fā)生，一輛特斯拉Model S在使用Autopilot模式行駛途中與一輛正在轉(zhuǎn)彎的卡車相撞，導(dǎo)致特斯拉車主死亡。

特斯拉解釋說(shuō)：“在強(qiáng)烈的日照條件下，駕駛員和自動(dòng)駕駛系統(tǒng)都未能注意到卡車的白色車身，所以沒(méi)有及時(shí)啟動(dòng)剎車系統(tǒng)?！?/p>

也就是說(shuō)，在這場(chǎng)事故中，無(wú)論是機(jī)器駕駛員還是人類駕駛員都應(yīng)該采取措施（避開正在左轉(zhuǎn)的卡車），然而他們并沒(méi)有采取行動(dòng)。人類和機(jī)器駕駛員的“錯(cuò)過(guò)干預(yù)”導(dǎo)致了撞車事故。美國(guó)高速公路安全管理局等部門在經(jīng)過(guò)6個(gè)月的調(diào)查后，認(rèn)定特斯拉Autopilot系統(tǒng)不存在缺陷。

據(jù)世界衛(wèi)生組織統(tǒng)計(jì)，全球每年約有125萬(wàn)人死于車禍。通常，法律裁決的重點(diǎn)是判定誰(shuí)是過(guò)失方，誰(shuí)為事故承擔(dān)責(zé)任。

隨著半自動(dòng)駕駛和全自動(dòng)駕駛技術(shù)趨于成熟，如何公正判決誰(shuí)應(yīng)該承擔(dān)責(zé)任就成了法官和陪審團(tuán)的難題，因?yàn)槭鹿手械倪^(guò)失和責(zé)任將由人類和機(jī)器駕駛員共同承擔(dān)。

法官和陪審團(tuán)都是人類。他們會(huì)偏袒自己的同胞嗎？還是認(rèn)為人類因?yàn)橹橇Ω鼊僖换I所以應(yīng)當(dāng)承擔(dān)更多責(zé)任？

在2016年的特斯拉Autopilot事故中，公眾明顯偏向于指責(zé)事故中疏忽的人類駕駛員，比如有傳聞?wù)f車主當(dāng)時(shí)正在看哈利·波特電影（盡管沒(méi)有任何證據(jù)證實(shí)這點(diǎn)）。

輿論對(duì)自動(dòng)駕駛產(chǎn)業(yè)有直接的影響。

目前，公眾對(duì)混合駕駛模式造成的車禍態(tài)度仍不明確，制造商也無(wú)法判斷他們的責(zé)任范圍，這直接反映在了無(wú)人車高昂的定價(jià)上，也減緩了無(wú)人車普及的速度。如果公眾傾向于將責(zé)任歸咎于人類駕駛員而不是機(jī)器，這將導(dǎo)致法律體系建設(shè)的放緩和監(jiān)管的缺失，也無(wú)法給制造商施加足夠的壓力來(lái)提升無(wú)人車安全性。

MIT聯(lián)合研究小組呼吁，為事故明確定責(zé)，是完善監(jiān)管、促進(jìn)自動(dòng)駕駛行業(yè)發(fā)展的第一步。

有司機(jī)的無(wú)人車，司機(jī)責(zé)任更大？

目前，自動(dòng)駕駛技術(shù)以混合駕駛模式為主。一些自動(dòng)駕駛系統(tǒng)可以越過(guò)司機(jī)的權(quán)限執(zhí)行緊急操作（例如豐田的Guardian Angel）。其他半自動(dòng)駕駛車輛可以完成大部分駕駛操作，同時(shí)要求司機(jī)不斷監(jiān)控情況并隨時(shí)準(zhǔn)備采取控制措施（例如特斯拉的Autopilot）。

這里，核心問(wèn)題是：當(dāng)一輛半自動(dòng)駕駛的汽車發(fā)生事故并造成人員傷亡時(shí)，如何判定人類和機(jī)器駕駛員之間的過(guò)失和因果責(zé)任？

讓我們?cè)敿?xì)看看MIT聯(lián)合研究小組的結(jié)論。

他們研究了6種駕駛模式，分別是單人駕駛模式、單機(jī)駕駛模式（全自動(dòng)駕駛汽車）以及雙駕駛員（兩個(gè)人類或兩個(gè)機(jī)器）的不同組合模式。這些模式分別對(duì)應(yīng)無(wú)人車的6個(gè)等級(jí)，從L0到L5。比較典型的是，L2級(jí)的豐田Guardian Angel被歸類為H-M模式，即人類（H）是主駕駛，機(jī)器（M）是副駕駛；L3級(jí)的特斯拉Autopilot被歸類為M-H模式，即機(jī)器是主駕駛，人類是副駕駛。

焦點(diǎn)在于H-M和M-H模式下的兩個(gè)場(chǎng)景：

主駕駛做出正確判斷，而副駕駛錯(cuò)誤干預(yù)（“錯(cuò)誤干預(yù)”）

主駕駛做出錯(cuò)誤判斷，而副駕駛沒(méi)有進(jìn)行干預(yù)（“錯(cuò)過(guò)干預(yù)”）

研究人員使用了兩個(gè)自變量做回歸：駕駛員是否犯錯(cuò)、駕駛員類型（人或機(jī)器）。

在“錯(cuò)誤干預(yù)”場(chǎng)景下，最重要的發(fā)現(xiàn)是：駕駛員是否犯錯(cuò)對(duì)評(píng)分具有顯著影響，而駕駛員類型對(duì)結(jié)果的影響并不明顯?？梢詮南聢D左邊看到，做出錯(cuò)誤干預(yù)的副駕駛被認(rèn)為過(guò)失更大，而且副駕駛是藍(lán)色（機(jī)器）或紅色（人類）的情況下過(guò)失及責(zé)任分?jǐn)?shù)接近。

也就是說(shuō)，人們普遍認(rèn)為，做出錯(cuò)誤判斷的一方是過(guò)失方。如果“錯(cuò)誤干預(yù)”的駕駛操作導(dǎo)致行人死亡，那么無(wú)論做出誤判的是人還是機(jī)器，都應(yīng)當(dāng)承擔(dān)更多責(zé)任。

不同駕駛模式的過(guò)失及責(zé)任評(píng)估分?jǐn)?shù)（分?jǐn)?shù)越高責(zé)任越大）。藍(lán)色代表車輛本身和汽車制造商的疊加責(zé)任分?jǐn)?shù)，紅色代表人類司機(jī)的責(zé)任分?jǐn)?shù)。x軸標(biāo)簽first driver指主駕駛，last driver指副駕駛。

而有關(guān)“錯(cuò)過(guò)干預(yù)”的研究結(jié)果和此前的結(jié)果不同。

此前的研究表明，當(dāng)機(jī)器和人類都做出錯(cuò)誤的判斷時(shí)，機(jī)器會(huì)受到更多的指責(zé)。而且，當(dāng)人和算法犯了同樣的錯(cuò)誤時(shí)，人們對(duì)算法失去信任的速度要快于人類本身。

這次的結(jié)論是，如果發(fā)生“錯(cuò)過(guò)干預(yù)”的情況（即人類犯錯(cuò)機(jī)器沒(méi)有干預(yù)，或者機(jī)器犯錯(cuò)人類沒(méi)有干預(yù)），機(jī)器責(zé)任程度明顯小于人類。

在雙駕駛員模式下，人類和機(jī)器駕駛員都承擔(dān)責(zé)任（缺乏有效干預(yù)），但是可以明顯看出紅藍(lán)兩色的差距。作為對(duì)照，如果主駕駛和副駕駛都是人類或者都是機(jī)器，他們的責(zé)任分?jǐn)?shù)相同（對(duì)應(yīng)上圖右第2行及第7行）。

具體回歸結(jié)果可以看這張圖：

他們本應(yīng)采取行動(dòng)，但他們什么都沒(méi)做

盡管人們對(duì)無(wú)人車的普及可能存在著許多心理上的障礙，但這一結(jié)果表明，公眾不會(huì)對(duì)混合駕駛模式下的事故做出過(guò)度反應(yīng)。盡管在研究中進(jìn)行了一些系統(tǒng)的簡(jiǎn)化，但結(jié)果也能反映出一定的公眾言論效應(yīng)。公眾傾向于將注意力集中在人類駕駛員的極度疏忽上，因此將責(zé)任歸咎于人類駕駛員而不是機(jī)器。

受訪者也對(duì)人類和機(jī)器駕駛員的能力分別做了評(píng)估，結(jié)果相近。在了解事故前，受訪者對(duì)人類和機(jī)器的駕駛能力同樣有信心。在被告知發(fā)生了“錯(cuò)過(guò)干預(yù)”的事故后，信心同比例下降。

事實(shí)上，更應(yīng)該關(guān)心的也許是公眾的反應(yīng)不足（under-reaction）。

研究人員認(rèn)為，公眾的反應(yīng)不足會(huì)導(dǎo)致驅(qū)動(dòng)監(jiān)管法案制定的輿論壓力缺失。如果半自動(dòng)駕駛汽車的監(jiān)管法案在有陪審團(tuán)的法庭上制定，陪審團(tuán)的裁決會(huì)偏向于汽車制造商，使其在人機(jī)共同犯錯(cuò)的案例中免責(zé)。這樣的話，就無(wú)法給制造商施加足夠的壓力來(lái)改善汽車的安全性能設(shè)計(jì)。

其實(shí)，我們之前也經(jīng)歷過(guò)類似的情況。在20世紀(jì)60年代之前，汽車制造商將傷害事故責(zé)任歸咎于駕駛員的錯(cuò)誤或疏忽，從而逍遙法外。為此，很有必要通過(guò)自上而下的監(jiān)管，將“事故責(zé)任制”的概念引入法律體系，即汽車的設(shè)計(jì)應(yīng)盡可能減少發(fā)生事故時(shí)對(duì)乘客造成的傷害。

只有在法律約束下，汽車制造商才能被迫改進(jìn)他們的設(shè)計(jì)。然而，安全的標(biāo)準(zhǔn)究竟如何，仍然是一個(gè)懸而未決的問(wèn)題。

研究人員指出，僅僅在一種條件下，公眾有可能產(chǎn)生過(guò)度反應(yīng)，機(jī)器受到的責(zé)備會(huì)大于人類：機(jī)器做出了“錯(cuò)誤干預(yù)”。

在這種駕駛模式中，人類并沒(méi)有義務(wù)去糾正機(jī)器犯的錯(cuò)誤。也就是說(shuō)，機(jī)器的工作是糾正人類可能犯下的錯(cuò)誤，但如果機(jī)器犯了錯(cuò)誤，人類沒(méi)有糾正的義務(wù)。（僅在“H-M”模式下如此?！癕-H”模式下，當(dāng)機(jī)器發(fā)生故障時(shí)，糾正故障始終是人類的責(zé)任。）

因此，一旦發(fā)生由“錯(cuò)誤干預(yù)”造成的事故，可能會(huì)引起公眾的廣泛關(guān)注。如果我們對(duì)此不加以適當(dāng)?shù)念A(yù)測(cè)和管理，那么全自動(dòng)駕駛技術(shù)的進(jìn)程可能會(huì)減緩。在研發(fā)機(jī)器比人類具有更大權(quán)限的汽車時(shí)，制造商們應(yīng)該關(guān)注這類極端情況，因?yàn)樵谠撉闆r下，機(jī)器比人類更易受到指責(zé)。

公眾反應(yīng)和輿論壓力會(huì)影響判決和立法，也會(huì)影響個(gè)體的決策。

比如，人們可能會(huì)選擇“能承擔(dān)事故責(zé)任和輿論壓力”的駕駛系統(tǒng)。更糟糕的是，人們可能會(huì)改變駕駛習(xí)慣，盡量讓機(jī)器成為過(guò)失方（比如說(shuō)，不去糾正機(jī)器的“錯(cuò)誤干預(yù)”）。

畢竟，如果什么都不做，可以讓機(jī)器背鍋。

返回第一電動(dòng)網(wǎng)首頁(yè) >