一位牛津教授的罕見清醒：歷史遠沒終結，除非西方一意孤行_風聞

​

✪ William MacAskill｜牛津大學全球優先研究所

✪ 慧諾(譯)｜文化縱橫新媒體

【導讀】2022年以來，多國政要出於各種原因相繼離世或退出政壇，成為當下高風險時代的一種特殊徵候。在地緣政治摩擦升温，極端天災頻發，全球能源危機、糧食危機、通脹危機交疊迸發的大環境下，人類社會正普遍陷入某種“精神內耗”。甚至有人解讀，當年美國學者福山的“歷史終結論”，就是其字面含義，代表着人類或將實現自我毀滅。但果真如此嗎？基於西方獨特的精神結構，牛津大學教授William MacAskill特為《外交》（Foreign Affairs）雜誌撰文，詳細分析人類社會面臨的災難性風險，評估當前的應對措施，並提出對策。

作者認為，相比哺乳動物的平均繁衍壽命，人類這個物種的歷史才剛剛“開始”，遠談不上福山所言的“終結”。但在過去100年內，人類發明的各類破壞性技術（核武器、生物武器、人工智能等），卻可能導致人類物種整體“英年早逝”。目前的人類制度，對潛在災難後果的預防和應對遠遠不足，甚至一些安全措施反而加重風險（如核大國的“確保相互摧毀”防禦原則）。此外，過去形成的複雜利益網絡和逐漸加劇的大國博弈，也在阻礙各國協同。

作者指出，技術本身並不是風險的來源，所謂“倒增長”（degrowth）的退步策略並不可取。相反，各國政府可以採取“差別化技術發展”的原則，優先推動保護性技術的進步，並形成國際聯盟，提供有關全球公共產品。他認為，在災難性風險面前，西方尤其要反思自己的位置、轉變看待世界的視角，努力推動監管改革，不能再魯莽地把當代全人類以及所有子孫後代作為豪賭的籌碼，而應專注於探索解決問題的方案。

本文原載“Foreign Affairs”，由文化縱橫新媒體編譯，原題為《歷史的開端：在災難性風險時代活下去》，僅代表作者本人觀點，特此編髮，供諸君思考。

歷史的開端：在災難性風險時代活下去

人類正站在歷史的起點上。今天活着的每一個人，在他之前至少有數十代人已成過去。但是，如果將人類的整個歷史和哺乳動物的平均繁衍壽命對比，未來還會有數千代人尚未誕生。作為一個物種，人類勉強算是正在蹣跚學步的嬰兒。

智人這個物種的未來或許還很漫長，但也可能轉瞬即逝。自《外交》（Foreign Affairs）雜誌在一個世紀前創刊以來，世界發生了太多變化；其中影響最深遠的變化，就是人類獲得了終結自己的能力。氣候變化、核戰爭、人造大流行病、不受控制的人工智能，以及其他影響尚無法評估的顛覆性技術，許多令人擔憂的風險都在威脅着人類的生存。

在30多年前冷戰結束時，一些思想家曾暢想，未來的畫卷將在平和中緩緩拉開。在冷戰期間栩栩如生的“世界末日威脅”，似乎伴隨着東歐劇變和蘇聯解體而開始消退。西方學者曾認為，他們似乎已經解決了主要的意識形態爭論，而資本主義和“民主”將不可阻擋地傳播。哈佛大學政治學者弗朗西斯·福山（Francis Fukuyama）將世界分為“後歷史”（post-historical）和“歷史”（historical）社會——戰爭可能會在世界的某些地方以種族和教派衝突的形式持續存在，但隨着越來越多的國家加入到法國、日本和美國等“後歷史”社會的一端，大規模戰爭將成為過去。在未來，政治的可能性範圍將變得十分狹窄，正如它承諾着相對和平、繁榮和不斷擴大的個人自由。

現如今，一個關於“未來永恆”的願景，已經讓位於“沒有未來”的設想。意識形態仍然是劃定地緣政治的分水嶺，全球化市場正在分崩離析，大國衝突越來越有可能。面對着人類可能灰飛煙滅的威脅，未來幾年的思想和政治辯論的範圍可能比幾十年前更加寬廣。宏大意識形態的爭端遠未被解決。事實上，我們可能會遇到更大的問題，並被迫考慮更激進的建議，以反映未來的變革和危險所帶來的挑戰。我們的視野必須擴大，而不是縮小。

其中，最主要的挑戰就是“人類應該如何管理自己天賦，及其所帶來的危險”。無論是因為故意濫用還是爆發大規模事故，武器、生物和計算機等領域的進步，都可能意味着人類的滅亡。進入風險社會後，危機的規模和複雜性，可能會使任何一種協調行動陷入癱瘓。但是，政府能夠而且也必須採取有意義的措施，以確保人類物種的生存，同時不放棄技術進步的好處。事實上，人類需要通過創新，來克服它正面臨的幾個災難性的風險——產生和儲存清潔能源，在可控的情況下發現和認識新的疾病，並在不依靠“確保相互摧毀”的模式下維持大國之間的和平。

當前，人類的技術和制度的現狀遠談不上安全。相反，這些技術和制度創造了不穩定的困境，而社會需要逃離這個困境。因此，各國政府必須更清楚地認識到我們所面臨的風險，並建設起強有力的機構來管理這些風險。（西方）政府需要將最壞的情況納入決策過程中，並接受所謂“差異化技術發展”的理念——減少會產生潛在危險結果的進步，例如可被武器化的生物研究，同時資助和加速那些有助於減少風險的技術，如用於檢測病原體的廢水監測。

目前，我們亟需轉變看待世界的視角（perspective）。福山在展望未來時曾透出些許哀傷，他看到的是一片灰色的、沒有戲劇性、由技術官僚主宰的天地。他在1989年寫道：“歷史的終結將是一個非常悲傷的時刻，”其中“勇氣、想象力和理想主義，將被經濟計算、無休止地解決技術問題、環境問題和滿足複雜的消費者需求所取代。”

站在歷史的開端，在人類歷史的關鍵時刻，我們亟需勇氣和想象力來迎接未來的各種挑戰。與福山的預言相反，政治視野並沒有縮小到一個狹小的範圍。巨大的經濟、社會和政治變革仍然是可能的，並且是必要的。如果我們能智慧地行動起來，我們將能夠重新定義未來，我們的子子孫孫也將以感激和自豪的心情來緬懷我們。如果我們搞砸了，那麼我們的後代或許將永無天日。

▍還未到來的人

化石記錄表明，哺乳動物的平均繁衍壽命超過了一百萬年。按照這個標準，人類這個物種可能還有大約70萬年的時間。照這麼看，即使目前地球上的人類縮減到十分之一，未來也會有驚人的10萬億人出生。

此外，人類也不是一般的哺乳動物，並且可能比其親屬們更長壽。我們與最終後代的差別，或許比我們和最早的恐龍之間的差別還要大。在未來數千年，如果有一天我們在太空定居，源自地球的智能壽命或許可以超過幾十萬億年後燃燒殆盡的太陽。

欣賞人類的未來潛力，並不是要搞一些無關痛癢的數字遊戲。恰恰相反，對這些數字的估計，有助於我們理解真正重要的利害關係。人類在今天的行動，可能會影響到我們的數萬億後代能否生存，以及他們將如何生活——他們將面臨貧窮還是富足，戰爭還是和平，奴役還是自由，責任就在我們這一代人的肩上。

在日本小鎮亞哈巴（Yahaba）的一個實驗證明了，當視角被扭轉以後可能產生的深遠後果。在辯論市政政策之前，屬於“實驗組”的參與者被要求穿上儀式性的長袍，想象他們來自未來，代表目前子孫後代的利益。研究人員不僅觀察到“實驗組和對照組之間的議事風格和優先事項有着鮮明對比”，而且實驗組對後代的關注也很有感染力。在可以達成共識的措施中，有一半以上是由實驗組代表子孫後代提出的。

從長遠的角度思考，我們的社會潛力更大。在500年前，人們還無法想象有一天收入會每隔幾代就翻一番，大多數人都能活着看到他們的孫子長大，世界上的大多數國家成為世俗社會。對於500年前的人來説，國家可能不會持續超過幾個世紀，世界上的各種社會組織模式都沒有完全形成。對幾天、幾個月或幾年的短期關注，掩蓋了人類捕捉基本的長期變化的潛力。人類只是處於起步階段。因此，這個物種的過早消亡，將是一個多麼悲劇的事情。

▍所謂“歷史的終結”是如何實現的？

福山的“歷史終結論”或是一種思想表達，但其他國際事務觀察家則更多關注這一短語的字面意思：人類有可能自我毀滅。在冷戰初期，當核科學家使人類的破壞力有了巨大飛躍之後不久，這種觀點尤其盛行。正如英國政治家温斯頓·丘吉爾在1946年所言：“石器時代可能會乘着科學的閃亮翅膀回來。現在給人類帶來不可估量的物質財富的東西，甚至也能帶來人類的徹底毀滅。”幾年後，美國總統德懷特·艾森豪威爾在他的第一次就職演説中也表達了類似擔憂，他在演説中警告説：“科學似乎準備好了——作為它最後的禮物，賦予我們從這個星球上消滅人類物種的力量。”

人類歷史充斥着災難，有着從黑死病的恐怖到奴隸制和殖民主義的恐怖。但是，除了一些極不可能發生的自然事件，如火山噴發或流星撞地球，目前尚無任何可信的自然機制可以讓人類整體滅亡。牛津大學哲學家託比·奧德（Toby Ord）在《懸崖》一書中估計，即使接受所有最悲觀的假設，在累計的自然滅絕風險下，人類有至少還有10萬年的預期壽命。

奧德對“存在性災難”（existential catastrophe），即所謂“人類自我毀滅的潛力”，的嚴重關切主要出現在20世紀下半葉，此時正式技術加速進步的時代。英國皇家學會前主席馬丁·里斯勳爵（Lord Martin Rees）在2003年寫道，人類在21世紀生存的幾率“不超過50%”。奧德估計，在未來一百年內，人類有六分之一的可能性實現自我毀滅，或以其他方式永久破壞文明進程。

人類的偉大發明核武器表現出了幾個關鍵的特性，而未來的技術威脅也可能擁有這些特性。二十世紀中葉，同一技術的破壞力出現突然躍升：原子彈的威力是此前炸藥的數千倍；氫彈更是讓破壞力再次飆升。與原子能時代此前的破壞力增速相比，在短短的幾十年裏就走過了一萬年的進步歷程。

事實上，這樣的進步是難以預料的：傑出的物理學家歐內斯特·盧瑟福（Ernest Rutherford）早在1933年就將原子能的想法視為可望而不可及的“白月光”，而在核裂變反應堆專利申請的前一年，另一位著名的物理學家利奧·斯齊拉德（Leo Szilard）也公開將這種想法否定了。只要有一顆核彈被髮射，無論是蓄意而為還是無心之過，或許都將導致全面的核災難。

更糟糕的是，目前針對核打擊的防禦措施，本身也在增加意外的核災難風險。例如，美國提出了“空中警報”“預警即發射”的理論，蘇聯則有“死手”系統——如果莫斯科遭受核攻擊，該系統將自動發起全面的核報復行動。冷戰結束後，美俄並沒有從根本上改變這種致命的應對方法，核大國仍然在其政策核心維持着準備實施打擊和維持和平的微妙平衡。歷經百年的核技術尚且如此，未來技術又將如何呢？

▍世界末日即將來臨？

核武器遠不是我們面臨的唯一風險。一些未來的技術更難被治理——它們可能更具破壞性、更容易被更多的行為者獲得、更容易實現“軍民兩用”，亦或者，基於更少失誤就能觸發人類物種滅絕。美國國家情報委員會最近一份報告指出，除了核戰爭之外，失控的人工智能、大流行病和納米武器也是生存風險的重要來源——這些技術“可能在全球範圍內威脅生命安全”，“而人類當前的想象和理解能力難以完全估計其潛在影響程度和規模”。

以大流行病為例。生物技術的進展一直非常迅速，如基因測序這樣的關鍵成本下降得越來越快。技術進步帶來了諸多好處，如對一些疑難雜症可以應用基因療法。但是，生物技術的“軍民兩用”問題也很突出：理論上，使用醫學研究中的一些方法，可以用來識別或創造比自然界中任何東西都更具傳播性和致命性的病原體。這其實是開放性科學事業的一部分：科學家們有時會改造病原體，進而學習如何對抗它們。而在恐怖分子或一些國家管理的生物武器項目中，則會有人出於不太高尚的意圖，從事類似的工作。此外，出於社會公益目的而發表的研究報告，也可能被壞人濫用。

與核武器不同，細菌和病毒能夠自我複製和變異。正如在全球新冠肺炎疫情所呈現的結果，一旦一種新的病原體感染了一個人，可能就沒有辦法再把精靈放回瓶子裏。全球只有九個國家公開擁有核武器，而俄羅斯和美國控制着90%以上的核彈頭。但是，世界上有成千上萬的生物實驗室。在這些實驗室中，有幾十個分佈在五大洲的實驗室，被授權進行世界上最危險的病原體實驗。

更糟糕的是，生物研究的安全記錄甚至比核武器的安全記錄更令人沮喪。2007年，口蹄疫在牲畜羣中迅速傳播，輕鬆地造成了數十億美元的經濟損失；但是，即使在政府的干預下，同一英國實驗室在幾周內竟然發生了兩次泄漏。

生物實驗室的泄漏問題已經導致了多條人命的喪失。據公開資料統計，僅在美國的實驗室就發生了數百起意外感染，並且每年每250名實驗室工作人員中就會有一起意外感染。世界上有數十個高度管制的實驗室，每個實驗室都僱用了數十個甚至數百名科學家和其他工作人員，這樣的比率相當於每年都要發生多次意外感染，而整個社會必須努力以大大降低這一比率。如果這些實驗室開始折騰起滅絕級的病原體，那麼人類的提前結束或將只是一個時間問題。

▍治理“世界末日”

儘管風險水平不斷上升，但我們採取必要措施保護自己的進度卻令人擔憂。事實上，在充分消解風險時，我們面臨着數個巨大障礙。

最根本的問題體現在外交鬥爭中。這在氣候變化治理中，體現得淋漓盡致。當燃燒化石燃料時，發達國家獲得大部分收益，但其他國家和後代卻承擔大部分成本和代價。同樣，有的國家從事有風險的生物研究並開發出專利藥物，從而促進其經濟和聲望，但在該國意外釋放的病原體卻不會尊重邊界。用經濟學家的話説，把風險強加給未來是一種“負外部性”。

相反，提供減少風險的措施，如建立新型疾病的早期預警系統，就是應對這種“負外部性”的一種全球公共產品。（想想看，如果這次西方國家對新冠肺炎疫情的管控，就像2002年和2004年之間對SARS的處理一樣，將其控制在少數國家並根除，這將對整個世界將帶來多大的好處）。然而，無論是市場和現行的國際體系都不會默認提供這樣的公共產品，因為各國都有強大的激勵機制去搭便車。

人類其實有許多途徑可以擺脱這種結構性悲劇。為了緩解在安全鬥爭中失去優勢的擔憂，各國可以達成協議，集體避免開發特別危險的技術（如生物武器）。或者，有意願的國家可以形成經濟學家威廉·諾德豪斯所稱的“俱樂部”，共同提供俱樂部所要促進的全球公共利益。同時，俱樂部成員也承諾為彼此提供利益（如經濟增長或和平），同時對非成員施加成本（通過關税等措施），從而吸引其他國家加入。當前，這個“俱樂部”就可以建立在人工智能系統的安全標準或暫停高風險的生物研究上。

不幸的是，大國競爭的重新抬頭，讓這些全球合作的可能性變得渺茫。更糟糕的是，在地緣政治的緊張局勢下，各國將更能接受對世界，以及對它們自己產生更多風險——它們或許將認為這是一場（競劣）賭博，並且能夠促進其安全利益。但現實卻並非如此：在美國保持轟炸機持續空中警戒的八年裏，有五架飛機在攜帶核載荷時墜毀。哪怕只有一個國家開始對滅絕級病原體進行生物武器實驗，也許只是一種簡單的探索，下一次實驗室事故都可能會引發一場比新冠肺炎疫情更嚴重的全球大流行。

在最壞的情況下，大國在爭奪全球霸權的過程中，可能會訴諸於直接戰爭。對於二戰後在西方長大的人來説，這個概念可能顯得很牽強。心理學家史蒂文·平克（Steven Pinker）的研究認為，在西方公眾中，“暴力”，包括“國家間的暴力”這種表述和心理已經顯著減少。然而，政治學家貝爾·布勞默勒（Bear Braumoeller）和其他人的分析卻指向另一個方向：在相對和平的插曲之後，戰爭完全有可能以更加致命的方式迴歸。計算機科學家亞倫·克勞塞特（Aaron Clauset）的則表明，二戰後的“長期和平”需要再持續一個世紀，才能提供戰爭風險進入長期下降趨勢的基本證據。布勞莫勒斷言，“在我們的有生之年，發生殺傷力上超過兩次世界大戰的另一場戰爭，這並非不可能。”

既要避免第三次世界大戰的風險，同時還要在國際治理方面實現前所未有的創新，這是一個很高的要求。但無論如何，這就是現實赤裸裸的挑戰。

▍創新求生

在這一艱鉅挑戰面前，一個應對之策是“退縮”。一些人認為，如果安全地管理新興技術是如此困難，那麼我們乾脆一開始就別發明它們。“倒增長”（degrowth）運動的成員正是採取這種立場，譴責經濟增長和技術進步是人性異化、環境破壞和各種其他危害的罪魁禍首。2019年，來自150多個國家的11000名科學家簽署了一封公開信，要求世界人口“穩定下來，最好是逐漸減少”，並要求各國將其優先事項從“GDP增長”中轉移出來。

儘管這種反應具有直觀的吸引力，但它是不現實的和危險的。它是不現實的，因為它根本沒有考慮到國際體系中各國的相互依存關係。即使世界各國暫時聯合起來停止創新，遲早也會有人恢復對先進技術的追求。

技術的停滯不前是不可取的，而新技術既可以加劇也可以減少風險。一旦引入新的技術危險，如核武器，政府可能需要額外的技術來管理這種風險。例如，如果在潛在的核冬天，人們能夠在沒有陽光的情況下生產食物，或者預警系統能夠更可靠地區分洲際彈道導彈和小型科學火箭，那麼核武器對人類生存構成的威脅將大大減少。但是，如果社會完全停止技術進步，當新的技術威脅出現時，由於沒有在防禦方面取得相應的進展，我們將無法遏制這些新威脅。例如，如果人們在早期檢測和根除新型疾病方面沒有取得很大進展時，我們將手無寸鐵地面對各類行為者創造出的前所未有的危險病原體。

換句話説，現在技術發展已經埋下了大量的地雷。在缺乏防禦措施的情況下，僅僅來自自然界的威脅曾經多次可能導致人類的最終滅絕，就像它們對許多其他物種一樣。為了充分發揮人類的生存潛力，我們需要學會諸如偏轉小行星、迅速抵禦新的大流行病等新技術。

我們面臨的挑戰是繼續收穫技術進步的成果，同時保護人類免受其不利影響。一些專家將此稱為“有區別的技術發展”。其想法是，如果人們不能首先防止破壞性技術或事故的發生，他們至少可以憑藉遠見和謹慎的計劃，首先嚐試開發有益的保護性技術。

誠如美國前海軍部長理查德·丹齊格（Richard Danzig）所言，我們已經身處所謂“技術輪盤賭”的遊戲中。還沒有子彈射出，但這並不改變這個遊戲的風險性，未來還有很多要扣動扳機的輪次，不可能每次都沒有子彈射出。我們需要改變這個遊戲規則。

▍我們欠未來的東西

到目前為止，參與或能夠改變遊戲規則的人還不多。相比已形成的複雜利益網絡，人類社會迄今對未來的保護性工作少得令人震驚。例如，《生物武器公約》禁止開發、儲存和獲取生物武器，被國家安全專家丹尼爾·格斯坦（Daniel Gerstein）描述為“21世紀最重要的軍控條約”。但是，該公約缺乏一個核查機制，並且其預算在紐約大都會藝術博物館慈善舞會（Met Gala）等大型晚會的預算面前都相形見絀。如果這還不夠滑稽的話，《生物武器公約》甚至還需要額外籌集它本應入賬的微薄捐款——該公約主席在2018年的報告中哀嘆“由於一些締約國長期不繳納會費，《生物武器公約》的財務狀況岌岌可危且不斷惡化。”

在非生物風險的管理上，人們也難以獲得信息。在整個人工智能研究中，針對失控人工智能系統的研究仍然是微不足道的一部分。軍方正在戰場上使用致命的自動化智能武器，而在聯合國，限制此類武器系統的外交努力已停滯多年。西方國家內部的情況也好不到哪裏去——美國國防預算中只有不到百分之一的資金用於生物防禦，而其中大部分用於抵禦諸如炭疽病等傳統生物威脅。即使在新冠肺炎疫情全球蔓延的背景下，美國在蒙受了超過16萬億美元的經濟損失之後，美國國會也不同意提供150億美元來加強對大流行病的準備。

正是應對風險的工作遭到如此忽視，以至於積極改變的機會也比比皆是。一個成功案例是美國宇航局的“太空衞士計劃”（Spaceguard program）。該項目啓動於1998年，科學家們以每年不到500萬美元的成本，追蹤了90%以上的威脅滅絕的小行星。在這個過程中，科學家不斷提高預測的準確性，並將一個小行星毀滅地球的風險的降低到了十分之一。在新冠肺炎疫情期間，美國政府花費了180億美元進行“曲速行動”（Operation Warp Speed），以加速疫苗開發。該計劃產生了安全有效且低成本的疫苗。據估計，該項目的社會效益高達幾十萬億美元。

如果世界上最善良和最聰明的人能夠站出來，政府或私營部門能夠提供資金，我們完全可以取得更令人印象深刻的成功。例如，通過對廢水進行廣泛的元基因組測序，將有助於在很早期發現、控制並根除病原體。在其他領域也有可能取得進展，針對大規模風險的已知來源的情報收集和分析將至關重要。儘管我們無法實現完全的確定性，但我們可以提前識別新的問題，並着手應對。例如，美國國家情報委員會最近的《全球趨勢報告》中，就開始包含對“生存風險”相關概念的討論，呼籲“制定有彈性的生存戰略”。

更多的政府、機構和公司需要認真對待這種想法，而西方國家的監管改革也將非常重要的。在《避免災難》（Averting Catastrophe）一書中，白宮監管辦公室前負責人卡斯·桑斯坦（Cass Sunstein）認為，政府目前的成本效益分析方法不能充分考慮到潛在的災難性風險。桑斯坦主張所謂的“最大化原則”：在面對如“人類滅絕”這樣足夠極端的風險時，政府必須專注於消除最壞的結果。恰好，白宮目前正在對其監管制度進行現代化改革。

福山曾預言，在“歷史的終結將是幾個無聊的世紀”，但這種論調簡直離現實相去甚遠。強大的破壞性技術對當前的政治體系提出了前所未有的挑戰：先進的人工智能可能會破壞存個人和國家間的權力平衡、勞動完全自動化後資本可能不再有什麼理由善待人民、某些政府可以利用第三次世界大戰的前景作為擴張理由、生物武器將更加易於獲得。

“未來可期”不僅是口號，更是一個值得奮鬥的目標。在過去的三個世紀裏，西方文化的自由主義轉向似乎創造了一個“道德進步的引擎”，而這個引擎現在不能被關閉。西方人或許需要在促進道德、政治多樣性、社會實驗方面走得更遠。回顧幾千年來，現代人認為羅馬人的奴隸制、以酷刑為娛樂的做法和極端的宗法制是野蠻的。而我們的後人，如果還有的話，或許也會認為我們目前的許多做法離野蠻差不了多少。思考大規模的政治變革是令人生畏的，但過去的治理創新，如聯合國系統和歐盟，為我們提供了希望的理由。

我們西方人不習慣把自己看作是歷史上的第一代人。我們反而傾向於關注從過去繼承的東西，而不是我們可以留給未來的東西。這是一個錯誤。為了處理我們面前的任務，我們必須反思我們在人類種族中的位置。今天，有人正在魯莽地豪賭，其籌碼不僅是我們和我們孩子的生命，還包括尚未到來的所有人的生存權利。如果真要説“終結”，那就讓我們在這一代終結這種豪賭吧。

---

本文原載“Foreign Affairs”，由文化縱橫新媒體編譯，原題為《歷史的開始：在災難性風險的時代存活下去》。歡迎個人分享，媒體轉載請聯繫本公眾號。