徐令予：小心，別掉到汽車自動駕駛的陷阱中

【為防止汽車自動駕駛系統所使用的通信網路受黑客攻擊，負責制定汽車國際法規的聯合國機構將在今年11月通過汽車自動駕駛安全標準。有報道稱，此標準由在自動駕駛技術研發中處於領先地位的日本和德國主導，主要包括阻止黑客攻擊及探測到攻擊時警告司機並防止失控等措施。不過，除了黑客攻擊，汽車自動駕駛就沒有別的容易掉進的陷阱了嗎？】

最近，特斯拉公司的首席執行官馬斯克有點煩，儘管股市大盤牛氣沖天，他的公司股票卻逆勢往下掉。屋漏偏逢連夜雨，特拉斯汽車自動駕駛接連發生事故。先是五月七日，一輛自動駕駛的特拉斯Model-S鑽入了運貨大卡車的肚子裏，車毀人亡。禍不單行，七月一日又一輛特拉斯Model-X在底特律車子翻了個底朝天，當時車子也處於自動駕駛狀態，車內兩位乘客被送進了附近醫院。緊接着七月十一日，一位姓Pang的華人車主，開着他的特斯拉從西雅圖去黃石公園，在兩車道的鄉間普通公路上，車速55碼，處於自動駕駛狀態的汽車偏離車道撞到了路邊的標樁上，幸運的是：車雖毀而人未傷。更多的事故見註解[1]

但是業界對汽車駕駛自動化的熱情似乎並未受到這些負面新聞的影響，讓公眾以為全自動駕駛的汽車已經在街角等着他們了[2]。事實上，汽車自動駕駛路漫漫，不少坑坑窪窪在前頭。難題一：十字路口的左轉彎（或稱大轉彎），這是自動駕駛面臨的難題之一，自動駕駛造成的第一例慘禍的部分原因即是對方道車子左轉造成的。難題二：道路交通指示燈故障，改由交警指揮，自動駕駛汽車又該如何應對？難題三：在雨雪紛飛的惡劣的氣候條件下，在強電磁干涉環境中，又如何保證汽車的各種傳感器正常工作？

公眾對汽車自動駕駛的霧裏看花和盲目樂觀由來已久，造成這種局面的主要推手就是一些不負責任的媒體，而汽車廠商更是從中推波助瀾有意誤導消費者，他們故意模糊汽車的自動駕駛、無人駕駛和自助駕駛等不同的概念，讓他們的產品看上去神通廣大、無其不能，但如果仔細閲讀產品用户手冊，裏面到處是蠅頭小字，實則告訴你這也不能那也不行，我估計這就是所謂的市場學理論吧。

為了消除歧義、統一認識，SAE International國際自動機工程師學會 (原譯名：美國汽車工程師學會 )對汽車自動駕駛制定了一個標準。下面的這張表格把這個標準展示得一清二楚：該標準把汽車駕駛自動化程度分成六個等級，對應於表格中的六個豎列；又把汽車駕駛分解成四個子任務，對應於表格中橫向四排，駕駛自動化等級的演變就反映在對這些子任務的逐步自動化的過程中。

駕駛自動化標準的零級就是我們痛苦的昨天——幾乎沒有什麼自動化，而第五級則是遙不可及的未來——全自動化。其中的第一級就是我們今天的現實，有些自動巡航和避撞感應器等自動化的輔助設備。目前媒體和廠家吆喝的目標就是第二級，但符合這個等級標準的汽車還遠未商品化。談論第三級為時尚早，而步入第四級至少要在十年以後。儘管尼桑公司首席執行官 Chalos Ghosn 躊躇滿志地宣佈自動駕駛汽車將在2020年上路，我估計他自己也不知在説些什麼，據專家估計實現全自動的第五級可能要到2075年，甚至更晚。

軟件惡夢

只要想一想你的電腦出現過多少次藍屏重新啓動，毀掉了你辛辛苦苦剛碼好的數千字；又有多少次去銀行或機關辦事，因電腦系統當機被晾在一邊乾着急，你想死的心都有。但如果同樣脆弱的系統軟件控制着自動駕駛汽車，那麼很可能你真的活不了。目前汽車的致命事故率是330萬小時一次，一般事故率是6萬4千小時一次。這兩個數據為自動駕駛軟件的可靠性劃定了最基本的標準，而問題是這樣最低的要求都使軟件工程師十分為難。

人們往往有一個誤解，認為空中的客機和軍用無人機都能自動駕駛，汽車自動駕駛應該是小菜一碟。事實兩者沒有多少可比性，空中飛機駕駛的環境比地面要簡單得多。首先，飛機之間都是按各自規定航線飛行，相互之間有足夠的距離，一旦發生情況，駕駛員有較充足的反應時間，而地面上前後左右各類汽車相距咫尺，失之毫釐就大禍臨頭。其次，空中環境中面對的要麼是經過嚴格訓練的飛行員或者自動駕駛飛機，與地面上良莠不齊的業餘駕駛員根本不是一個等量級。汽車自動駕駛面對的情況要複雜混亂得多，軟件的邏輯理性設計又如何應付那些醉駕和路霸？最後一點也很重要，飛機上採用的一些高精尖技術（譬如冗餘度技術）也不一定適用於汽車，畢竟汽車是大眾商品，不能不考慮成本問題。

到目前為止，軟件的正確性測試和糾錯仍停留在原始化階段，帶着成百上千漏洞的軟件不管三七二十一先丟給用户，用户付了錢花了時間幫軟件公司尋出一個個問題，然後軟件公司修改後推出1.1.X版讓大家繼續試用，用户小心翼翼下載更新，常常導致系統崩潰N次，軟件廠商連一聲道歉也沒有。這樣的汽車自動駕駛軟件你也敢用？如果開車在路上，看到前面車子保險槓的車貼：本車使用Beta V0.1.0 自動駕駛軟件，這不是大白天撞見了鬼，你又該怎麼辦？

總之汽車自動駕駛軟件的設計和測試一定要另闢新路，最好能找到數學證明那樣的方法。記得七十年代末我在上海交大讀碩，我的兩位同門師兄的選題就是“程序設計自動化驗證”，當時的碩士生課題都挺“高大上”的，大多嚴重脱離實際。也不知該領域的研究近來有否突破。

兩難困境—公德與私利

假設自動駕駛汽車正帶着你迅駛在單行道上，左邊是路障、右邊是石牆，突然前方十多米處竄出一羣孩子，緊急剎車已經為時太晚，駕駛軟件該作何種決策？是救孩子而急打方向盤讓汽車撞向石牆，還是盡一切可能保護車上乘客的安全？為此有專業機構對二千多人作了問卷調查，得到的結果是：76%的答者認為犧牲一個乘客換取十個行人的生命更為道德，但81%答者要購買那些不惜一切代價保護乘客安全的自動駕駛汽車。

這樣的調查結果看似十分矛盾，但它反映了人們在車外和車內時的不同立場，人們自始至終把自己的生命放在第一位，這都是自私的基因在作祟。現在的問題是汽車廠商的軟件設計的決策標準應該如何制定？這可能會成為一個政治問題，必須通過政府制定政策法規來解決。

兩難困境—誰是事故的責任人

特斯拉汽車第三次事故發生後，該公司即刻發聲，把事故責任推得一乾二淨：“當路況變得非常不確定，汽車再次發出警告，要求駕駛員把手放在駕駛盤上，但是駕駛員沒有這麼做，隨後汽車就撞到了路邊的標樁上。”而車主Pang先生卻説：事故發生前，他沒有聽到危險迫近需要採取措施的警告。他又進一步指出汽車系統使用的是英語，而他使用中國普通話。

但是事後Pang先生還是收到了一張“粗心駕駛”的交通事故罰單。Pang先生可能會感到太憋屈，但是把這張罰單送給特斯拉公司是否合理呢？讓我們再分析一個例子，汽車自動駕駛在夜間的鄉村公路上，突然前方竄出一頭野鹿，汽車急速避讓撞到了路邊另一輪車上，肇成一起交通事故。這樣的事故責任也要推給汽車製造商嗎？汽車決策軟件做了每個駕駛人應該做的事情，汽車製造商何錯之有？再説，汽車製造商一年生產上百萬輛自動駕駛汽車，以後出了事故全部讓汽車製造商扛着，它有這樣的能耐嗎？

但是把事故責任按在車主身上可能更不合理，汽車既不是車主開的，也不是車主造的，車主花了錢憑什麼還要擔責任？換一個角度思考，你付錢上了出租車，出租車在路上撞了車，這跟你又有什麼關係呢？這裏的差別只是：前者駕駛員是機器人，後者是自然人。

每個出租車駕駛員都是獨立的法律責任人，都有自己的保險，今天當機器人做着與自然人一模一樣、甚至幹着更多更難的工作，我們是否應該考慮讓這些機器人也取得自然人的法律地位，讓它們也購買保險並負起它們應有的法律責任呢？

事實上，非人化的法律責任者早已有之，有限責任公司就是一個很好的例子。當然智能機器人與自然人和公司又都不一樣，把它們也定義為法律責任個體必定會挑戰現存的整個法律系統。所以汽車自動駕駛不只是一個技術問題，更大的障礙來自道德論理和社會法律方面的挑戰，由此可知，對於汽車自動駕駛的進展真的不能過於樂觀。

儘管汽車自動駕駛路漫漫，但前途也並非漆黑一片。在某些特定環境下，汽車自動駕駛會給我們帶來一些驚喜：1）在特殊設計的大型多層無人停車場，汽車按特定路線慢速行駛，有序地出入和停靠，至少不會有人員傷亡。由於汽車停靠和啓動無人介入，車門無需開啓，所以車子可以排列緊密，節省可觀的停車空間。2）對市區的道路進行整改，讓行人和汽車徹底分流，取消十字路口，大量採用單行車道和限速等多項措施。3）經過改造的一些全封閉高速公路的特定路段。自動駕駛軟件裏應該有一種條件設置，只有當汽車進入到上述這些適合自動駕駛的環境中，才允許駕駛員雙手離開方向盤。從上面分析中可以清楚的認識到，汽車自動駕駛的進展決定於整個交通道路的革新改造，沒有整個交通環境的改善和配合，汽車自動駕駛只有死路一條！

也許我們真的應該先有頂層設計，重新思考和規劃我們的未來，想一想，怎麼才是真正安全、舒適、高效和環保的交通工具？我們真的不能再被汽車石油資本利益集團牽着鼻子走了，而汽車自動駕駛很可能就是這個利益集團的又一個新花招。

歷史的經驗值得關注，讓我們回顧一下我們是怎樣一步步掉入汽車文化的陷阱中的。上一世紀初，汽車廠的大量工人下班後坐着廠車和公交車回家，一路上工友們説説笑笑，讀讀報紙，吃着自做的三明治，還可以一起罵罵工頭和資方來出出怨氣。廠方為了擴大汽車產量，把公交系統廢棄，逼着工人分期付款買車。工人必須自己開車上下班，無形延長了無報酬工作至少一個小時。於是進入這樣一個怪圈：為什麼要汽車？因為有了車子才能去工作。為什麼要工作？因為需要賺錢買車養車，呵呵。緊隨其後是城市的郊區化，把人身與汽車更緊密地捆綁在一起。

今日汽車已經成為最大的公害。實際上車禍是第一殺手，遠超槍支問題和恐怖案件，汽車也是環境污染的主要原因。發展多層次公共交通系統才是最好的出路，公交系統的自動化也要容易實現得多，花那麼多時間和資源在私人汽車的自動駕駛技術上，可能最後還是為汽車石油資本利益集團做嫁衣裳。汽車自動駕駛技術吹得天好地好，可能只是鏡中花水中月。

“行路難，行路難，多岐路，今安在？人車爭道亂紛紛，自動駕駛路漫漫。”

[1]最近，國內車主也被坑了。名為Qunar_大羅納爾多的微博用户自曝，自己所駕駛的全新特斯拉Model S轎車在自動駕駛模式下竟然無視路邊停靠的一輛故障車加速超車，最終導致車左前方剮蹭，所幸無人員傷亡。有業內人士分析認為，目前的自動駕駛技術還很不完善，遠遠沒有達到應對複雜交通環境的程度，而多起事故的發生也充分證明特斯拉自動駕駛系統存在明顯缺陷。車頭部位的感應器可能存在探知盲區，導致車輛對一定角度範圍內的障礙物無動於衷。自動停車泊位時發生多起擦刮和傷害貓的事故。

[2]特斯拉公司的首席執行官馬斯克不思悔改，堅持推進汽車自動駕駛不後退，他引用了這樣的名言：“not to let the perfect be the enemy of the better,"（別讓完美成為進步和改善的敵人）