圖片來(lái)源@視覺(jué)中國(guó)
文丨腦極體
還記得2年多前Uber的那起自動(dòng)駕駛汽車(chē)導(dǎo)致行人死亡的車(chē)禍嗎？最新消息是，今年的9月15日，亞利桑那州的大陪審團(tuán)決定以過(guò)失殺人罪起訴當(dāng)時(shí)Uber自動(dòng)駕駛汽車(chē)前安全駕駛員拉斐爾·瓦斯奎茲，并建議判處其2.5年有期徒刑，而這位安全員當(dāng)庭表示拒絕認(rèn)罪，這場(chǎng)官司可能還要繼續(xù)打下去。
這場(chǎng)事故背后的責(zé)任方Uber呢？其實(shí)早在去年3月份，作為肇事方的Uber已經(jīng)被美國(guó)法院判定無(wú)罪。
被稱為“自動(dòng)駕駛致行人死亡第一案”的當(dāng)事方就這樣輕而易舉地逃脫擔(dān)責(zé)，讓這個(gè)確實(shí)存在一定過(guò)錯(cuò)的安全員來(lái)承擔(dān)全部罪責(zé)。這結(jié)果確實(shí)令人唏噓，難道這是一起“大公司作惡，小職員背鍋”的司法腐?。恳只蚴?，這場(chǎng)判決是美國(guó)司法的老模式遇到新問(wèn)題，不知道如何對(duì)自動(dòng)駕駛算法系統(tǒng)及其所有者做出裁定？
在有安全員監(jiān)控的自動(dòng)駕駛測(cè)試或者商用中，我們自然還是會(huì)把車(chē)輛的安全事故責(zé)任歸咎于這個(gè)安全員，但一旦真正的無(wú)人駕駛大規(guī)模普及，車(chē)上的安全員，甚至是方向盤(pán)、剎車(chē)都去掉之后，車(chē)輛的安全事故責(zé)任，那自然就要算到研發(fā)和使用這套自動(dòng)駕駛算法的企業(yè)主體身上了。那么到時(shí)候，關(guān)于自動(dòng)駕駛算法的追責(zé)將變得更加復(fù)雜。
在討論這一問(wèn)題之前，我們不妨回到Uber的這起車(chē)禍細(xì)節(jié)中，來(lái)看下這場(chǎng)車(chē)禍判決存在哪些爭(zhēng)議點(diǎn)，Uber是否真的可以全身而退？一旦去掉安全員，無(wú)人汽車(chē)和自動(dòng)駕駛算法該如何擔(dān)責(zé)？這些看似未來(lái)才會(huì)遭遇的問(wèn)題已經(jīng)擺到了你我的面前，亟待思考和討論。
去年11月，美國(guó)國(guó)家安全運(yùn)輸委員會(huì)（NTSB）發(fā)布了一份報(bào)告，披露了Uber自動(dòng)駕駛汽車(chē)在碰撞前10秒的細(xì)節(jié)。值得注意的是，當(dāng)時(shí)已經(jīng)判決了Uber平臺(tái)無(wú)責(zé)，但是這份報(bào)告中卻指出了Uber自動(dòng)駕駛系統(tǒng)有種種漏洞。
這起車(chē)禍的大致經(jīng)過(guò)是這樣。2018年3月18日晚上，亞利桑那州坦佩市一位女性在推著自行車(chē)過(guò)馬路時(shí)，被時(shí)速60多公里Uber無(wú)人駕駛汽車(chē)撞死。
如果這輛車(chē)只是一輛普通車(chē)輛，那么事故責(zé)任就很明顯，一邊是行人橫穿馬路，負(fù)有一定責(zé)任，但車(chē)輛司機(jī)因沒(méi)有及時(shí)剎車(chē)和避讓，要負(fù)主要責(zé)任。但這輛車(chē)是Uber的無(wú)人駕駛測(cè)試車(chē)輛，車(chē)上面配有一名安全員，負(fù)責(zé)處理車(chē)輛的緊急情況。
在這起車(chē)禍中，這名安全員顯然沒(méi)有盡職盡責(zé)。根據(jù)調(diào)查，這名安全員在行車(chē)過(guò)程中，一直在通過(guò)手機(jī)觀看類(lèi)似于“中國(guó)好聲音”的娛樂(lè)節(jié)目，這期間監(jiān)控?cái)z像頭拍到他一直在反復(fù)低頭，直到事故發(fā)生前的0.5秒，他才注意到車(chē)輛前方的行人，最后只是在撞到后的0.7秒才踩下剎車(chē)，但事故已經(jīng)發(fā)生了。
這場(chǎng)事故判決安全員擔(dān)責(zé)是毫無(wú)問(wèn)題的。畢竟他的職責(zé)就是確保車(chē)輛行駛安全和道路行人安全，可由于他的疏忽大意，直接造成了這一嚴(yán)重事故。日常生活中，大量的行車(chē)事故大多由這類(lèi)疏忽大意造成。
但正是Uber無(wú)人駕駛車(chē)輛的自動(dòng)駕駛系統(tǒng)給了安全員一種錯(cuò)覺(jué)，認(rèn)為車(chē)輛可以自行判斷前方的路況，而自己可以偷懶去看手機(jī)。這也是自動(dòng)駕駛技術(shù)等級(jí)中L3級(jí)別的困境。車(chē)輛可以高度自動(dòng)駕駛，但是出了事故要算駕駛員的。那么怎么可以讓駕駛員放心的休息或者娛樂(lè)游戲呢？
回到Uber這輛車(chē)，難道它就沒(méi)有任何問(wèn)題么？從調(diào)查來(lái)看，問(wèn)題也很多。
在Uber車(chē)輛撞到行人前的10秒中，車(chē)輛本來(lái)識(shí)別到這個(gè)行人并避免車(chē)禍的。但是一系列系統(tǒng)的誤判導(dǎo)致了車(chē)輛未曾減速就撞了上去。報(bào)告中有幾個(gè)關(guān)鍵數(shù)據(jù)：在9.9秒到5.8秒中，汽車(chē)從56公里加速到70公里；在5.6秒，汽車(chē)毫米波雷達(dá)（Radar）第一次檢測(cè)到前方有物體，并識(shí)別其為“汽車(chē)”，5.2秒，汽車(chē)激光雷達(dá)（Lidar）第一次檢測(cè)到前方物體，將其識(shí)別為“其他”，判定其靜止不動(dòng)。4.2秒到2.7秒，汽車(chē)對(duì)識(shí)別對(duì)象在“汽車(chē)”和“未知”之間來(lái)回?fù)u擺，但是沒(méi)有參考對(duì)物體的跟蹤歷史記錄，最終將其判定為靜止物體。
2.6秒到1.2秒的時(shí)間，激光雷達(dá)才將物體識(shí)別為靜止的自行車(chē)，但又出現(xiàn)判定搖擺，等到重新識(shí)別為自動(dòng)車(chē)，并決定制動(dòng)。但車(chē)輛真正制動(dòng)是在車(chē)禍前的0.2秒開(kāi)始。這時(shí)時(shí)速64公里的車(chē)輛已經(jīng)無(wú)法避免撞到行人。車(chē)禍發(fā)生。
我們看到，在車(chē)禍發(fā)生前的幾秒鐘，車(chē)輛發(fā)生了多次搖擺不定的誤判，浪費(fèi)了大量時(shí)間。根據(jù)NTSB報(bào)告指出，造成事故的關(guān)鍵問(wèn)題就是，軟件無(wú)法正確預(yù)測(cè)受害者的類(lèi)別和運(yùn)動(dòng)軌跡。如果系統(tǒng)及早正確地識(shí)別出前方物體是行人，就應(yīng)該大幅放慢速度，或者設(shè)法繞開(kāi)避讓。
但是Uber的自動(dòng)駕駛系統(tǒng)并沒(méi)有如此謹(jǐn)慎行事，反而是因?yàn)閁ber認(rèn)為緊急制動(dòng)系統(tǒng)會(huì)造成車(chē)輛的不穩(wěn)定，所以對(duì)該系統(tǒng)做了限制。
也就是說(shuō)，Uber把自動(dòng)駕駛系統(tǒng)的剎車(chē)當(dāng)成了最后才考慮的因素，真是細(xì)思極恐。
如果按照NTSB的調(diào)查，那么Uber的自動(dòng)駕駛系統(tǒng)就存在巨大安全缺陷，首先是汽車(chē)的識(shí)別算法的準(zhǔn)確度和時(shí)效性問(wèn)題，其次就是對(duì)于緊急制動(dòng)系統(tǒng)的設(shè)置權(quán)限問(wèn)題。NTSB得出結(jié)論說(shuō)，Uber取消車(chē)輛出廠自帶的自動(dòng)緊急制動(dòng)系統(tǒng)的做法，增加了在公共道路上測(cè)試自動(dòng)駕駛車(chē)輛的風(fēng)險(xiǎn)。
據(jù)調(diào)查報(bào)告，這輛Uber汽車(chē)在車(chē)禍前，已經(jīng)以自動(dòng)駕駛模式運(yùn)行了約19分鐘，車(chē)輛大約至少行駛了約22公里。那么在這段距離內(nèi)，如果安全員沒(méi)有踩過(guò)一次剎車(chē)，那就意味著自動(dòng)駕駛系統(tǒng)也很可能沒(méi)有啟動(dòng)過(guò)一次剎車(chē)。如果有開(kāi)車(chē)經(jīng)驗(yàn)的人來(lái)說(shuō)，哪怕是夜深人靜的街道，很少會(huì)在以每小時(shí)接近70公里的時(shí)速下行駛20多公里，都不需要減速或剎車(chē)。
如果是Uber真的把剎車(chē)權(quán)限交給了安全員，那么這個(gè)安全員怎么又可能在完全不顧及自己和行人安全的情況下，在高速行駛中還敢沉浸在娛樂(lè)節(jié)目當(dāng)中。
也就是說(shuō)，Uber將剎車(chē)權(quán)限交給安全員的同時(shí)，卻沒(méi)有讓安全員意識(shí)到自己要百分百了解這一安全措施。Uber通過(guò)設(shè)置安全員規(guī)避了法律風(fēng)險(xiǎn)，但是它自身卻沒(méi)有預(yù)計(jì)到車(chē)輛的安全風(fēng)險(xiǎn)，也沒(méi)有盡到告知義務(wù)，使得一個(gè)被算法“忽悠”的人類(lèi)成為自動(dòng)駕駛技術(shù)走進(jìn)現(xiàn)實(shí)世界的注腳。
反過(guò)來(lái)說(shuō)，一輛汽車(chē)的自動(dòng)駕駛系統(tǒng)在自動(dòng)駕駛模式下系統(tǒng)沒(méi)有剎車(chē)權(quán)限，而是完全需要安全員操作的話，那么這場(chǎng)自動(dòng)駕駛測(cè)試到底意味著什么，一場(chǎng)假的自動(dòng)駕駛測(cè)試嗎？
根據(jù)Uber的一名離職工程師的說(shuō)法，“Uber的車(chē)禍發(fā)生率會(huì)還是太高了”，“如果是Waymo出現(xiàn)這樣的表現(xiàn)，就會(huì)停止測(cè)試以找出原因，而Uber則會(huì)忽略這一問(wèn)題”。
這些問(wèn)題也正是外界詬病Uber的無(wú)人駕駛計(jì)劃的地方。Uber既想通過(guò)激進(jìn)的自動(dòng)駕駛計(jì)劃來(lái)推進(jìn)其自動(dòng)駕駛出租車(chē)業(yè)務(wù)的商業(yè)化，又想通過(guò)設(shè)置安全員來(lái)規(guī)避其在自動(dòng)駕駛系統(tǒng)上的缺陷和漏洞，最終出現(xiàn)問(wèn)題，還可以把責(zé)任推給這些雇員。
顯然，Uber做到了。在2018年底，Uber又恢復(fù)了部分城市的無(wú)人車(chē)路測(cè)，為每輛車(chē)配備了2名安全員，并進(jìn)行更為嚴(yán)格的監(jiān)控，以及對(duì)自動(dòng)駕駛系統(tǒng)做了優(yōu)化。
而對(duì)于當(dāng)?shù)氐乃痉C(jī)關(guān)來(lái)說(shuō)，判決Uber無(wú)需擔(dān)責(zé)的原因則很簡(jiǎn)單，就是“沒(méi)有任何判決依據(jù)”。
因?yàn)槿狈Ψ韶?zé)任的認(rèn)定，這次Uber得以“僥幸”逃脫。但根據(jù)以上分析，Uber在事實(shí)責(zé)任面前是難辭其咎的。
首先，Uber自動(dòng)駕駛系統(tǒng)并沒(méi)有以安全作為第一考慮要素，而是更強(qiáng)調(diào)系統(tǒng)的穩(wěn)定性和持續(xù)性。這是為Uber無(wú)人車(chē)出現(xiàn)眾多安全事故埋下了隱患。如果未來(lái)Uber是以這樣一套“激進(jìn)”的算法來(lái)推進(jìn)其無(wú)人駕駛出租車(chē)的行駛策略，那么，很容易出現(xiàn)車(chē)輛以快速行駛優(yōu)先而忽略道路安全的情況。
其次，該駕駛系統(tǒng)的測(cè)試存在紕漏，按照其對(duì)制動(dòng)系統(tǒng)的設(shè)置，需要安全員的干預(yù)才能完成，這顯然是背離自動(dòng)駕駛技術(shù)的本意。顯然，這樣的系統(tǒng)是無(wú)法真正實(shí)現(xiàn)無(wú)人駕駛的商用的。
就在Uber出現(xiàn)致命事故的同一年，美國(guó)的加州卻進(jìn)一步放松了無(wú)人駕駛的監(jiān)管，可以允許車(chē)輛上沒(méi)有安全駕駛員，只需要保證自動(dòng)駕駛車(chē)輛出問(wèn)題時(shí)，能被遠(yuǎn)程接管即可。
2019年，Waymo就拿到了加州機(jī)動(dòng)車(chē)輛管理局（DMV）頒發(fā)的完全自動(dòng)駕駛測(cè)試牌照，測(cè)試時(shí)可以不用安全員。后面在無(wú)人駕駛出租車(chē)上，乘客也已經(jīng)可以打到?jīng)]有安全員的出租車(chē)，只是在遇到突發(fā)危險(xiǎn)后，可以在行駛中按下汽車(chē)幫助按鈕或在應(yīng)用程序中與安全員取得聯(lián)系。
那么，這一情況下，就必須要考慮到無(wú)人車(chē)的新的責(zé)任歸屬和相關(guān)問(wèn)題了，畢竟車(chē)輛出現(xiàn)事故不能再歸咎于遠(yuǎn)程指導(dǎo)的安全員了。
那責(zé)任歸屬其實(shí)就比較簡(jiǎn)單了。在根據(jù)正常的交通事故責(zé)任認(rèn)定后，如果排除了對(duì)方責(zé)任之后，那么事故責(zé)任就會(huì)判定為無(wú)人駕駛汽車(chē)的責(zé)任，但至于是車(chē)生產(chǎn)商、自動(dòng)駕駛系統(tǒng)提供商或業(yè)務(wù)運(yùn)營(yíng)方來(lái)承擔(dān)責(zé)任，則需要根據(jù)商業(yè)模式的責(zé)任劃分和對(duì)現(xiàn)場(chǎng)事故的原因判定來(lái)進(jìn)行劃分。
但這里會(huì)有一個(gè)法律責(zé)任主體缺失問(wèn)題。在現(xiàn)有一般情況下，幾乎每一場(chǎng)事故都會(huì)有專門(mén)的人來(lái)對(duì)此負(fù)責(zé)，大多數(shù)都是違規(guī)肇事司機(jī)，但一旦換成無(wú)人駕駛汽車(chē)，那么也就找不到這樣一個(gè)法律責(zé)任主體。因?yàn)椴豢赡苋タ馗嬉粋€(gè)購(gòu)買(mǎi)了無(wú)人駕駛汽車(chē)的車(chē)主吧，畢竟他沒(méi)有開(kāi)車(chē)，也不可能去控告設(shè)計(jì)了這個(gè)自動(dòng)駕駛算法的工程師吧，工程師又不是一個(gè)人，事故原因也不能僅僅歸因于某行代碼。那么，歸結(jié)于提供自動(dòng)駕駛系統(tǒng)的公司嗎？那這樣沒(méi)有任何一家公司會(huì)在愿意承擔(dān)如此巨大的風(fēng)險(xiǎn)了。
也許未來(lái)將會(huì)有一個(gè)由自動(dòng)駕駛汽車(chē)各方和保險(xiǎn)公司共同成立的責(zé)任主體，這些制造、設(shè)計(jì)和運(yùn)營(yíng)各方根據(jù)責(zé)任大小承擔(dān)相應(yīng)比例的保險(xiǎn)費(fèi)，無(wú)人駕駛的私家車(chē)主（估計(jì)會(huì)很少是個(gè)人）也會(huì)在購(gòu)買(mǎi)服務(wù)中支付一定的保險(xiǎn)費(fèi)用，形成一個(gè)保險(xiǎn)資產(chǎn)池，來(lái)應(yīng)對(duì)可能出現(xiàn)的事故。
這個(gè)責(zé)任主體對(duì)事故承擔(dān)整體的責(zé)任認(rèn)定和賠償，同時(shí)也在內(nèi)部形成一套AI測(cè)算系統(tǒng)，根據(jù)不同汽車(chē)廠商的車(chē)輛損壞情況、不同自動(dòng)駕駛算法的事故率和運(yùn)營(yíng)商的運(yùn)營(yíng)策略來(lái)認(rèn)定具體責(zé)任，以決定不同主體未來(lái)的保費(fèi)。
比如，有些汽車(chē)廠商以保障車(chē)內(nèi)乘客的安全優(yōu)先，那么在出現(xiàn)事故導(dǎo)致行人受損后，基于這種策略的公司就要多交保費(fèi)；如果有些廠商是以保障行人乘客的安全優(yōu)先，出現(xiàn)車(chē)內(nèi)乘客受傷或致命事故，就要多支付費(fèi)用，多賠付車(chē)內(nèi)乘客。
可以預(yù)見(jiàn)，當(dāng)自動(dòng)駕駛無(wú)人車(chē)普及之后，各種各樣復(fù)雜狀況的責(zé)任認(rèn)定案例會(huì)層出不窮。我們必須在此之前就要開(kāi)始思考和嘗試立法工作。而不是等到事情發(fā)生之后，才開(kāi)始摸索。千萬(wàn)不要像Uber案例一樣，最終只能把罪責(zé)扣在這個(gè)不負(fù)責(zé)任的人類(lèi)身上，而對(duì)自動(dòng)駕駛算法系統(tǒng)束手無(wú)策。
對(duì)無(wú)人駕駛汽車(chē)的嚴(yán)苛管制，并不意味著我們不看好這一產(chǎn)業(yè)。在我看來(lái)，無(wú)人駕駛汽車(chē)的前途是非常光明的。盡管會(huì)出現(xiàn)這樣那樣的極端事故，但是無(wú)人駕駛在未來(lái)一定會(huì)比現(xiàn)有的人類(lèi)駕駛的出行狀況是更安全的。
就像目前Waymo出現(xiàn)的眾多事故中，絕大多數(shù)都是人類(lèi)司機(jī)的全責(zé)。當(dāng)未來(lái)一旦無(wú)人駕駛汽車(chē)占據(jù)多數(shù)的時(shí)候，我們就不必再小心這些車(chē)輛，而是要更小心人類(lèi)司機(jī)的車(chē)輛了。因?yàn)樽詣?dòng)駕駛系統(tǒng)開(kāi)車(chē)時(shí)是不會(huì)去看“達(dá)人秀”的。
快報(bào)
根據(jù)《網(wǎng)絡(luò)安全法》實(shí)名制要求，請(qǐng)綁定手機(jī)號(hào)后發(fā)表評(píng)論