鄭戈：技術面前，倫理的解釋權歸誰是個大問題
【文/觀察者網專欄作者 鄭戈】
倫理委員會在最近一段時間不斷成為新聞熱點。
3月26日，谷歌宣佈成立“先進技術外部諮詢委員會”，希望通過哲學家、工程師和政策專家組成的團隊幫助解決人工智能帶來的道德風險。委員會原本計劃每年舉行四次會議，並編寫報告，為谷歌的人工智能項目提供反饋，“為公司提供多元化的觀點”。
然而這一重大決定宣佈僅僅十天，4月4日，這個探討“AI道德”的精英委員會就宣佈解散。究其原因，則是這個由8人組成的委員會名單中，有兩位專家遭到了來自谷歌公司內部和外部的強烈反對。
一個是美國保守派智庫傳統基金會的主席凱·科爾斯·詹姆斯，該基金會曾傳播有關氣候變化的錯誤信息，也是一個反對調節碳排放的智囊團。更重要的是，她對移民採取強硬立場，反對保護LGBTQ羣體的權利。
另一個是一家生產無人機的企業老總戴安·吉本斯。2018年，谷歌曾為美國軍方提供雲人工智能以分析無人駕駛飛機圖像，當時該項目遭到谷歌員工的強烈反對，吸納無人機公司創始人進入人工智能道德委員會讓人們擔心谷歌會重蹈覆轍。
評估道德的專家自身的道德受到批判和質疑，很快這個搖搖欲墜的委員會也難以為繼了，一次旨在美化公司形象的公關行動以公關危機的形式而告終，這是谷歌的管理層始料未及的。
超過2350名谷歌員工簽署了反對任用詹姆斯的聯名信（圖片來源：網絡）
從德國交通部倫理委員會發布自動駕駛汽車算法倫理指導意見，到賀建奎事件所涉及的醫院內設倫理委員會。在信息技術和生物醫學技術迅猛發展並遍及性地影響人類生活的今天，技術所帶來的已經不僅僅是風險問題，還越來越多地涉及倫理爭議。
即使一種技術是安全的，其風險是可控的，它是否應當被用於某種目的、某種情境？
這是一個科學家和技術人員無法給出明確答案的問題，或者説是一個任何專業人員所給出的答案都無法自帶權威屬性的問題。因此，無論是政府還是企業都試圖通過設立跨學科的、有“廣泛代表性”的倫理委員會來安撫公眾，營造“不作惡”的表象。但不同國家的政治、法律和經濟環境影響着倫理委員會的制度化形式、決策程序、功能和效果。
通過最近的一系列事件可以幫助我們理解倫理委員會和倫理審查在美國和歐洲呈現出的不同樣態。
美國政府是一個毫不掩飾地為市場和資本家服務的政府。對技術應用的倫理審查主要是由各商業機構、大學和醫院本身內設的倫理委員會來進行的。除非是在申請政府資助的場合，公權力並不主導或干預倫理審查。於是，倫理審查成為行業自治和企業公關的主要策略。
值得注意的是，在涉及人的科學研究和技術應用領域引入倫理審查機制，這本身也起源於美國。1932年，美國公共健康服務局（U.S. Public Health Service）在阿拉巴馬州的主要招收黑人學生的塔斯基吉學院（Tuskegee College）啓動了一項關於黑人男性中的梅毒現象的研究。這項研究旨在觀察未經治療狀態的梅毒發展情況。研究人員故意不給數百名試驗對象任何有效的治療，以便觀察梅毒如何導致失明、心臟病、痴呆乃至死亡（政府為試驗對象提供免費喪葬服務）。
試驗對象一開始被告知試驗將持續六個月，而實際上這項試驗一直持續了40年。1972年，一位塔斯基吉梅毒研究的參與者，彼得·巴克斯頓（Peter Buxtun）向媒體爆光了這項研究，導致參議員愛德華·肯尼迪緊急召集國會聽證。1974年，美國國會通過了《國家科研法》，提出了在涉及人的科學研究和技術應用中引入倫理審查機制的要求。隨後，美國衞生及公共服務部內設立了“人類研究保護司”（OHRP），負責監督臨牀試驗。同時，所有從事涉及人的科學研究和技術開發機構也紛紛設立了“機構內置倫理委員會”（IRBs）。
美國人類研究保護司（圖片來源：網絡）
美國《國家科研法》還創設了一個“生物醫學與行為研究中的人類主體保護國家委員會”，負責制定美國的科研倫理政策。該委員會於1978年發佈了著名的《貝爾蒙特報告》（Belmont Report），其中提出了仁慈、正義和尊重人三大原則，作為科技倫理政策的指導原則。
但日常的倫理審查工作主要是由機構內置倫理委員會來進行的。這些倫理委員會雖然都有多個學科的以及機構外的成員，但它們長期與某個特定機構合作，難以避免地產生利益耦合，無法避免利益衝突。
美國法律只強制要求直接或間接受政府資助的科研機構設立倫理委員會，但許多行業協會和私營機構也紛紛設立了倫理委員會，以向公眾展示自己是負責任、講倫理的、值得信任的。然而，不斷曝光的倫理和法律事件，無論是Facebook泄露數千萬用户信息，還是杜克大學最近因其僱員使用偽造數據而支付1.1125億美元與美國聯邦檢察機關達成和解協議，都顯示出機構內置倫理委員會的無效性。
與Facebook一樣，谷歌是一家吃數據飯的企業，不斷捲入各種濫用個人數據的醜聞。雖然谷歌以“不為惡”（Don’t be evil）來自我標榜，但它的商業模式註定它不可能不為惡。用哥倫比亞大學網絡法專家吳修銘教授的話來説，此類商業模式的實質是“創造出了一種智能工具，用以説服為數眾多的人為了很少的一點兒娛樂和便利而交出如此之多的個人數據。”而且，一旦個人交出了這些數據，她們便無法再控制這些原本專屬於個人的私密數據。
作為大數據掌控者，谷歌等企業每時每刻都在以公眾並不知情乃至知情後會大驚失色的方式利用着海量的個人數據。但無論是谷歌還是Facebook的CEO們更加善於用公眾喜聞樂見的方式來塑造自己的公共形象，隱藏自己“不可告人”的騷操作。
扎克伯格在國會山出席Facebook濫用數據的聽證會（圖片來源：網絡）
美國企業的倫理立場選擇遵循的是商業邏輯而不是倫理學邏輯。這一點在蘋果與谷歌和臉書對待用户個人數據的不同態度上體現得最為明顯。與谷歌和臉書不同，蘋果是一家做產品而不是做數據的企業，而它的產品是主打隱私牌的。
比如，蘋果公司曾經因拒絕政府要求披露用户信息而獲得自由主義者們的普遍讚譽。2015年12月2日，美國加州聖貝納迪諾發生了美國本土自911之後最嚴重的恐怖襲擊，宣誓效忠“伊斯蘭國”的賽義德·法魯克（Syed Rizwan Farook）和塔什芬·馬利克（Tashfeen Malik）在開槍射殺14人、射傷20多人後被警察擊斃。聯邦調查局查獲了法魯克的iphone手機，為了獲得犯罪調查和反恐所需要的信息，它在獲得法院授權的情況下向蘋果公司發出瞭解鎖該手機的要求。但蘋果公司拒絕合作，公司總裁蒂姆·庫克還在公司網站上發佈了一封公開信，譴責聯邦調查局的要求“破壞了我們的政府旨在保護的那種權利和自由”。
對蘋果公司而言，這是一次成功的公眾形象宣傳。而對於美國的國家安全和公眾的生命安全而言，這顯然不是件好事。這個例子也凸顯出，對企業而言，決定倫理選擇的是商業模式。
與谷歌試圖通過建立倫理委員會來美化公司形象不同，歐盟委員會發布的《值得信賴的人工智能倫理指導原則》更具有實質意義。實際上，這是歐盟對待大數據和人工智能的一貫政策的體現，與去年五月生效的《一般數據保護條例》體現着一樣的思路，即防禦美國和中國科技產業巨頭對歐洲的“數字殖民”。
最早進入互聯網行業的巨頭企業由於累積了最多的用户數據而取得了絕對的優勢，而這些企業主要集中在美國和中國。錯過了第一次工業革命的亞、非諸國和“新大陸”如何淪為率先走上工業化道路的西歐國家的“殖民地”，這是一段大家都很熟悉的歷史，而今天的數字革命又正在造成新一輪的洗牌。為此，歐盟和法國都專門委派專家小組起草了相關報告，旨在謀劃歐洲在這一輪信息技術革命中的戰略佈局。
錯過“先發優勢”的歐洲擔心來自中美的科技產業巨頭的“數字殖民”（圖片來源：東方IC）
法國數學家、菲爾茲獎得主和議員西德里克·維蘭尼在他領銜起草的報告中寫道：“對法國和歐盟來説，涉及人工智能的數據政策必須以主權獨立和戰略自主為目標而加以設計。一開始，其間的平衡必然是十分脆弱的，目標的實現需要領導者的遠見卓識。但這是法國和歐洲發展人工智能的前提條件，只有這樣我們才能避免變成中國和美國巨頭的‘數字殖民地’。”
維蘭尼報告所提到的“數字巨頭”包括美國的谷歌、亞馬遜、臉書、蘋果和微軟（GAFAM）以及中國BATX（百度、阿里巴巴、騰訊和小米）。至於他為何偏愛小米，而沒有將顯然更具實力的華為列上去，就不得而知了。
該報告主張法國政府和歐盟應當在整合數據資源、資助人工智能研究、打造人工智能品牌產品方面發揮積極主動的作用。“發展人工智能是主權國家的當務之急，”這是維蘭尼反覆強調的核心觀點。倫理標準為國家利益服務是這篇報告的主要基調。
今年4月8日，歐盟發佈了《值得信任的人工智能倫理指導意見》，提出了（1）人類主體性與監督；（2）技術穩健與安全；（3）隱私與數據治理；（4）透明性；（5）多元性、反歧視與公平；（6）社會與環境福祉；（7）問責制等七個方面的倫理指導意見。這些原則一旦轉化為更具可操作性的政策、立法和指令，便可以一方面保護歐盟成員國的憲法價值和公民權利，另一方面有效抵禦中美、尤其是美國數字巨頭在歐洲市場上的無限擴張。
但倫理話語的問題在於：在價值多元的當今社會，我們很難將它同個人的以及小羣體的道德偏好區分開來。即使在抽象層面上多數人都會同意人的尊嚴、正義、公開透明等基本原則，但在具體決策過程中如何解釋這些原則並使之對決策產生真正的約束力，則是一個難題。
賀建奎“基因編輯嬰兒”事件引發了科學倫理的全民討論（圖片來源：東方IC）
比如，在媒體上受到一致譴責的賀建奎本人也提出了自己的倫理原則：“我們拒絕基因增強，性別選擇或是改變皮膚和眼睛的顏色，因為這並不能算是對孩子真正的愛。”“我們草擬了胚胎基因手術的五個基本準則，分別為：對有需要的家庭的悲憫之心、有所為有所不為（只服務於治療和預防嚴重疾病，不服務於虛榮）、尊重兒童的自治、生活需要奮鬥（基因並不能決定你的一切）、促進普惠的健康權。”這些原則看起來完全符合“國際標準”，而且賀建奎堅稱自己信守了這些原則。
因此，在實踐層面，倫理問題又轉化了政治問題：誰有權作出倫理判斷，誰有權執行這種判斷。
由此可見，倫理準則、倫理審查和倫理委員會已經成為與人權一樣的有效工具，可以幫助企業樹立良好的公共形象，也可以幫助國家在國際競爭中贏得道德制高點和話語優勢。今天的國際競爭不僅是科技和經濟的競爭，也是制度文明的競爭。我國應當承擔起大國責任，牽頭塑造既符合中國國家利益又體現人類文明基本價值的國際倫理共識。基於對“無利不起早”的人性的清醒認識，我們應當將倫理考量嵌入到已有的“一帶一路”等中國主導的經濟合作框架之中，藉此來推進體現中國價值的科技倫理和法律共識的形成。
本文系觀察者網獨家稿件，未經授權，不得轉載。