消費者會購買“自私”的自動駕駛汽車嗎？——《華爾街日報》

插圖：埃裏克·帕爾馬2016年，一位梅賽德斯-奔馳高管表示，在開發自動駕駛汽車（AV）時，公司將優先考慮乘客而非行人和其他司機的安全：“如果你知道至少能救一個人，那就救那個。救車裏的人。”公司可能沒料到隨之而來的媒體風暴。《每日郵報》標題宣稱：“梅賽德斯-奔馳承認無人駕駛汽車會碾過兒童，而非轉向冒險傷及車內人員。”一週內，該車企公開撤回立場，聲明“程序員和自動化系統都無權權衡人類生命的價值”。

當然，人類司機在安全問題上早已做出隱性權衡。我們不僅常優先考慮自身生存，還有便利性——比如對明顯要過馬路的行人不停車，或在停車標誌前滑行以節省時間。但顯然對明確編碼類似偏好的自動駕駛汽車，許多人感到不安。對開發自動駕駛汽車的車企而言，關鍵問題是：消費者會拒絕乘坐“自私”的自動駕駛汽車嗎？

在一項新研究中，我讓5,584名參與者設想自動駕駛汽車在千鈞一髮之際必須決定優先救乘客還是行人。平均而言，人們對自動駕駛汽車優先救乘客的想法更為憤怒，即使被想象自己是乘客時也是如此。當被問及如何編程處理此類權衡時，27%的參與者認為應救乘客，19%選擇救行人，但54%表示車輛不應有偏好。

但消費者真的更願意購買"平等主義"自動駕駛汽車，還是僅僅害怕承認私心會顯得自私？在後續研究中，參與者被要求想象一個場景：自動駕駛汽車必須選擇是撞向行人還是急轉撞上障礙物。隨後他們需要選擇車輛應該隨機決定，還是遵循"撞擊距離更近目標"的規則。

當我描述遵循該規則將導致撞擊障礙物（危及車內乘客）的情境時，僅47%受訪者支持該規則。但當遵循規則意味着撞向行人（保全乘客）時，支持率升至62%。這表明只要給出看似無私的藉口——一種不會暴露私心的解釋方式，人們更傾向選擇優先保護自己的自動駕駛汽車。

這些發現提示汽車製造商：討論安全設計時應避免赤裸裸迎合私利。比如營銷話術可採用暗示性語言（如"始終將您置於首位"），而非直白表述（如"把您看得比別人重要"）。事實上，在提供這兩種標語的對比研究中，選擇乘坐採用模糊標語自動駕駛汽車的人數，是直白標語的兩倍多。

2022年1月，特斯拉踐行了這一原則，開始允許客户選擇其駕駛輔助系統的"温和"/“標準”/“自信"模式。在自信模式下，車輛會保持更短跟車距離，持續佔用超車道並進行滾動式停車。即便這些選擇帶有私心，“自信"的命名讓車主能合理化行為，比如告訴自己"我的車就該自信駕駛"或"果斷駕駛更安全”。

即便如此，2022年2月美國國家公路交通安全管理局（NHTSA）仍以"滾動停車"行為存在安全隱患為由，強制特斯拉召回53,822輛汽車。一年後該機構進一步要求特斯拉召回362,800輛汽車，因其駕駛軟件"可能違反當地交通法規或慣例”。

特斯拉與梅賽德斯的案例表明，隨着自動駕駛汽車普及，迎合消費者自私偏好的企業可能危及這項技術應有的安全承諾。

在最後一項研究中，我為參與者提供了新選項：如果自動駕駛程序不明確選擇保護乘客或行人，而是編程為最小化任何死亡風險呢？這種情況下，絕大多數參與者更傾向整體風險最小化方案，而非選擇犧牲特定羣體。這表明存在不必迎合消費者自私衝動的技術方案與營銷策略。

朱利安·德弗雷塔斯系哈佛商學院倫理智能實驗室主任

本文發表於2023年10月14日印刷版，原標題為《消費者會購買"自私"的自動駕駛汽車嗎？》