新能源汽車法規｜自動駕駛“駛向”何方？AI科技倫理治理的路徑【走出去智庫】_風聞

走出去智庫（CGGT）觀察

由走出去智庫（CGGT）提供學術資源支持的《深圳法治評論》2025年第二期《專論》欄目聚焦“創新自動駕駛汽車管理制度體系”，約請法律專家建言獻策。

北京科技創新中心研究基地副主任趙精武的文章《科技倫理嵌入人工智能治理體系嵌入路徑研究——以自動駕駛應用場景為例》對科技倫理嵌入人工智能治理體系嵌入路徑進行了研究，提出應當對自動駕駛汽車面臨的各種風險進行一體式評估，並根據確認的不同風險的情形，採取針對性的治理機制。

《深圳法治評論》由中共深圳市委全面依法治市委員會辦公室、深圳市司法局主辦，定位於高端領導決策讀物，聚焦深圳法治建設，刊發高水平、可實操的應用性政策研究，輔助市領導及本市黨政機關領導幹部法治建設方面決策，為支持深圳建設中國特色社會主義法治先行示範城市建言獻策。《深圳法治評論》在2020-2024年連續五年榮膺深圳內刊傳媒獎之“優秀城市內刊獎”。自2020年創刊起，走出去智庫（CGGT）即為該高端決策讀物提供學術資源支持。

今天，走出去智庫（CGGT）微信公眾號刊發北京科技創新中心研究基地副主任趙精武的文章，供關注自動駕駛汽車法規的讀者參考。

要點

1、人工智能技術治理的核心目標是統籌兼顧科技創新和科技安全，因為這兩種治理目標的權衡狀態並沒有唯一正解，所以才需要通過科技倫理治理機制所形成的倫理協商空間，推動不同主體對這兩類目標的實現方式達成最大化共識。

2、人工智能技術風險的解決需要政府機構與非政府機構共同自由參與技術治理活動，通過事前細分具體的風險類型，並藉由不同的治理工具及其銜接路徑發揮各自的治理效用，實現一致性的技術治理目標。

3、在自動駕駛領域中，科技倫理治理機制需要與其他治理機制協同工作，以識別、評估、預防和控制安全風險。

正文

科技倫理嵌入人工智能治理體系嵌入路徑研究

——以自動駕駛應用場景為例

文/趙精武****

北京科技創新中心研究基地副主任

在當下，以 Deepseek 為代表的人工智能技術最為熱門的核心研究議題是如何充分實現人工智能技術的社會效益並控制潛在技術風險。同時，法律風險、科技倫理風險等多元化風險類型相互交織，使得技術治理實踐需要採取一種更為綜合性的治理模式，全局性地解決技術應用的風險多元化問題。然而，人工智能治理框架下的多元治理機制之間彼此如何有效銜接、如何明確機制差異等問題尚未得到很好地解決。因此，有必要重新審視科技倫理治理機制如何嵌入人工智能技術治理體系，並協調其與法律、市場、技術等其他治理機制之間的銜接。

人工智能科技倫理治理的理論基礎與常見範式

科技倫理治理的治理目標與治理理論

科技倫理治理實質上是一種方向性、目標性治理，表現為“以倫理為原則為指導，解決科技發展面臨的倫理問題和社會問題、增進科學技術為人的福祉而發展的各種方式的總和”。在多元文化背景下，形成統一的科技倫理共識存在難度，為此，科技倫理治理通過採取倫理原則與審查的方式，將抽象的倫理價值聚焦於具體的技術應用方式，促成概括性倫理規範向可視化應用標準的轉變。

人工智能科技倫理的治理功能

科技倫理治理模式的最終治理目標是在儘可能不影響科研自由和科技創新空間的情況下提供倫理方向的“優化建議”。人工智能技術治理的核心目標是統籌兼顧科技創新和科技安全，因為這兩種治理目標的權衡狀態並沒有唯一正解，所以才需要通過科技倫理治理機制所形成的倫理協商空間，推動不同主體對這兩類目標的實現方式達成最大化共識。總結而言，科技倫理治理功能的實現方式是以開放式的科技倫理吸納社會羣體意見，使得科技創新活動無限趨近於理想狀態。

人工智能科技倫理治理功能包括引導、協商、識別和反饋四項功能，它們能夠發揮有別於其他治理機制的規範性作用。其中，引導功能強調科技創新活動應遵循社會共識性的科技倫理原則；協商功能通過開放式的公共對話尋求科技倫理共識；識別功能用於判斷科技創新活動的合理性並發現潛在倫理風險；反饋功能則通過評價結果促使科技創新活動自我調整，避免出現重複倫理問題。

人工智能科技倫理治理的常見機制

科技倫理治理的引導、協商、識別和反饋四項功能對應了四類科技倫理治理機制：其一，引導功能延伸出行業指引性治理機制，包括監管機構事前制定科技創新產業規劃、最佳實踐範例等。其二，協商功能延伸出科技倫理治理公眾參與機制，通過徵求社會公眾意見等方式，探討並達成共識性的倫理原則。其三，識別機制延伸出科技倫理審查機制、科技倫理研判機制等治理機制。其四，反饋功能延伸出科技倫理管理監督機制、科技倫理整改督促機制等優化改良型治理機制。

上述四項功能彼此之間存在銜接關係，也使得相應的科技倫理治理機制呈現體系化銜接關係。此外，在反饋功能所確立的治理機制作用下，科技倫理審查所作出的道德判斷以及專家建議又會反饋至被審查對象，再次實現具體技術應用領域的科技倫理引導功能，進而達成科技倫理治理的功能循環。

由於科技倫理治理機制會隨着倫理規範的內容創新而有所變化，因此科技倫理治理嵌入人工智能治理體系過程中的核心問題在於如何明確科技倫理治理功能可以與哪些治理機制進行銜接。

人工智能科技倫理治理的嵌入路徑

科技倫理嵌入的理論前提：風險識別

在人工智能治理體系中，風險識別既是確保技術安全的重要保障，也是促進科技高質量創新的基礎要件。人工智能技術風險的解決需要政府機構與非政府機構共同自由參與技術治理活動，通過事前細分具體的風險類型，並藉由不同的治理工具及其銜接路徑發揮各自的治理效用，實現一致性的技術治理目標。

在科技倫理風險層面，廣義社會風險論與狹義倫理風險論在具體風險樣態的涵蓋範圍上存在分歧，無法有效銜接科技倫理治理與法律治理。對此，科技倫理風險的核心樣態應當是科技發展與人類倫理觀念的不適配狀態，人工智能科技倫理風險的發現、識別和確認應當是以科技倫理觀念為基礎，而不是以法律意義上的權益保障為中心 。

科技倫理治理機制的個體化嵌入

在單一面向科技倫理風險時，科技倫理治理機制的嵌入方式應當是完成單一風險治理的內在邏輯體系銜接，即建構科技倫理風險研判管理機制、科技倫理風險識別評估機制和科技倫理風險反饋應對機制三個部分。

科技倫理風險研判管理機制屬於預期性治理機制。在法學領域，當前人工智能科技倫理研究聚焦於諸如歧視偏見等倫理問題。面對超出可預見範圍的各類技術風險，在難以準確預測潛在風險的情況下，需要採取靈活的科技倫理規範，引導科技創新活動自覺採取有利於社會公共利益的方式進行。

科技倫理風險識別評估機制屬於風險確認型治理機制，核心在於確認科技倫理風險的範圍。並且，風險識別評估機制的內容設置強調多元知識背景的行為主體共同參與，儘可能避免評估的個人主觀性和專業導向性。此外，該機制的主要功能是發現和確認科技倫理風險的基本類型。

科技倫理風險反饋應對機制屬於風險應對型治理機制，主要將風險識別評估機制所作出的道德判斷反饋至科技創新機構與人員。這種應對機制既包括將倫理風險識別結果和專家建議反饋至被審查對象的即時性反饋，也包括監管機構結合科技倫理治理實踐，以禁止性清單形式反饋具有高風險水平的特定科技創新活動的羣體性反饋。

科技倫理治理機制的銜接式嵌入

在明確科技倫理治理機制在人工智能治理體系中的單向嵌入路徑後，還需要考量該治理機制如何與法律、技術、市場等其他治理機制進行銜接。科技倫理治理與其他治理機制的銜接方式表現為：倫理與法律的銜接方式是建構科技倫理審查制度，將敏感研究領域的科技創新活動納入審查活動中，並在區分強制審查和自願審查的前提下，將是否依法進行強制審查以及審查結果作為判斷科技創新主體對損害事實是否存在主觀過錯的標準。

在倫理與技術層面，面對人工智能技術未來發展的不確定性，在治理體系中需要發揮科技倫理治理的引導功能，將工程倫理、職業道德培訓嵌入至科技創新活動。

倫理與市場的銜接主要是通過行業自律規範實現，具體表現為制定共識性的自律規範與將科技倫理規範融入行業自律規範的範疇兩個方面。

人工智能科技倫理治理嵌入式建構實例：以自動駕駛應用為例

在前述治理機制的嵌入建構框架下，自動駕駛技術的倫理治理規則可劃分為以下三個步驟逐步建構。

第一步：自動駕駛科技倫理風險的分析識別

自動駕駛技術的應用涉及安全價值保護位階的問題。在行車遭遇緊急情況時，自動駕駛系統是應優先保護車內駕駛人，還是在權衡車內外實際損害結果後再行選擇，成為自動駕駛普及應用的一大倫理難題。行車安全的倫理價值觀念是由製造商、信息系統開發者還是倫理學或法學專家決定也存在爭議。另外，自動駕駛技術應用引發的失業風險問題應歸屬於就業公共政策範疇，而非科技倫理風險領域。

基於人工智能治理目標，科技倫理風險的判斷標準應是科技創新是否合理以及不合理的科技創新活動是否造成人類主體尊嚴的貶損。在自動駕駛應用場景中，科技倫理風險側重科技創新活動、科研人員是否符合特定技術領域的倫理規範，故相應的治理機制嵌入建構則需要圍繞特定場景的科技倫理風險予以展開。

第二步：自動駕駛科技倫理風險的單一式治理

為應對行車路況決策不符合科技倫理規範的問題，結合“風險研判—風險發現、識別、評估—風險應對”的治理方式，科技倫理治理的個體嵌入方式應包括自動駕駛科技倫理研判管理機制、自動駕駛科技倫理風險發現識別機制和自動駕駛科技倫理風險反饋應對機制。

自動駕駛科技倫理研判管理機制主要根據產業實踐發展狀況，結合產業發展政策和科技創新規劃，明確科技倫理風險的表現樣態與應當遵守的科技倫理規範。同時，針對自動駕駛應用可能面臨的複雜交通路況，監管機構和科技倫理委員會可以採取行業指導規範、技術應用實踐範例等方式聯合發佈技術應用指導文件，列舉在車輛交會、高速公路、窄道行車等常見行車情形下，符合科技倫理標準的行車路線和行車方式。

自動駕駛科技倫理識別評估機制主要是根據自動駕駛的行車路線、行車方式等具體應用場景因素，發現、識別和確認具體的科技倫理風險。同時，這一環節的科技倫理治理還包括倫理嵌入創新活動等其他形式的治理機制。

自動駕駛科技倫理反饋應對機制是根據自動駕駛科技存在的科技倫理風險樣態以及上一個治理環節所作出的道德判斷與技術整改建議，對自動駕駛技術方案進行調整和優化。在自願科技倫理審查的情形下，相應的審查結果和優化建議僅需反饋至科技創新主體，由其結合自身狀況判斷是否應當按照優化建議調整相應的技術方案。

第三步：自動駕駛科技倫理風險的銜接式治理

在自動駕駛領域中，科技倫理治理機制需要與其他治理機制協同工作，以識別、評估、預防和控制安全風險。其中，法律治理機制側重防範義務主體未能履行安全保障義務導致的人身損害風險；技術治理機制側重防範因技術漏洞或系統設計缺陷導致的自動駕駛系統不可靠風險；市場治理機制則側重預防行業競爭失序風險，該風險源於企業因過分追求技術領先而簡化安全管理流程或過早投入實踐試點應用。

科技倫理治理機制通過自動駕駛安全風險的一體化評估，將安全風險因素統一納入技術治理框架中，並遵循三個原則：其一，業已評估的安全風險類型不再重新評估，可以直接作為其他安全風險評估的結論。其二，各類治理機制所延伸出的安全風險評估不就同一事項進行多次評估。其三，定期安全風險評估為主，不定期安全風險評估為輔。此外，事前區分倫理風險、技術風險等風險類型是為了更好地確認各類安全風險的輕重緩急，進而為科技創新主體、監管機構等治理主體的後續行動提供相應的規範指引。在實踐中，《深圳經濟特區智能網聯汽車管理條例》確立了智能網聯汽車的監管平台，旨在實現車路雲一體化監管，保障交通安全、網絡安全、數據安全，為自動駕駛的風險評估制度提供了範例與模板。

科技倫理治理的核心治理效果是引導科技創新活動的良性健康發展，督促科研人員自覺地遵守科技倫理規範。所以，科技倫理治理的嵌入路徑更需要探索更加多元化的倫理觀念引導模式，而不是僅僅限於科技倫理審查機制，以實現風險治理邏輯層面的制度協調性。

（原文《科技倫理嵌入人工智能治理體系的路徑展開——以自動駕駛應用場景為例》發表於《法治社會》2024 年第 5 期，經作者修改後在《深圳法治評論》刊發。）