熊節：中美人工智能對話，我對美國政府的覺悟並不樂觀

【文/觀察者網專欄作者 熊節】

5月14日，為落實中美元首舊金山會晤共識，兩國代表在瑞士日內瓦舉行中美人工智能政府間對話首次會議，就人工智能科技風險、全球治理以及各自關切的其他問題進行交流。

據《華盛頓郵報》報道，美方參加此次會談的主要代表，包括國務院關鍵技術和新興技術代理特使Seth Center博士（曾擔任白宮國家安全委員會的國家安全戰略和歷史主任）、國家安全委員會技術與國家安全高級主任Tarun Chhabra（曾在白宮國家安全委員會擔任戰略規劃主任和人權與國家安全問題主任、以及兩任國防部長的演講稿撰寫人）。

美聯社的分析認為，美方在這次會議中的主要目標是“一窺中國政府對人工智能的想法”、“就如何提高人工智能的安全性展開坦誠討論”，尤其是“人工智能被武器化”的風險。兩名主要代表的身份背景可以説驗證了這一分析。

中美舉行人工智能政府間對話首次會議

美國政府對AI風險的認知，在去年11月30日拜登總統發佈的《關於人工智能的安全、可靠、可信發展和使用的總統令》中有集中的闡述。從這份總統令及白宮的官方解讀中可以看到，美國在AI領域的擔憂包括以下幾方面：

1.關鍵基礎設施中使用AI的安全、可靠和可信，以及由於不安全、不可靠、不可信的AI可能導致的化學、生物、輻射、核、及賽博風險。

2.利用AI研發危險生物材料的風險。

3.利用AI生成內容（AIGC）欺詐或製造假新聞的風險。

4.美國人隱私數據泄露的風險。

5.AI製造或強化社會既有歧視（尤其是種族歧視）的風險。

6.AI造成工作環境惡化、工作機會減少的風險。

7.美國失去AI領域全球領先地位的風險。

從上述7個方面的風險評估中可以看到，拜登政府最重視的風險，還是AI被假想中的敵國武器化、對美國國家安全造成危害的可能性，體現了美國近幾年來一貫的對抗思維模式。不過這些風險評估倒也不是完全空穴來風。

以“利用AIGC製造假新聞”為例，就在最近，在一條快速爆火的短視頻中，白宮發言人讓-皮埃爾在新聞發佈會面對記者提問時，聲稱“二戰是美國和烏克蘭聯合起來打擊希特勒和斯大林的戰爭”。但很快這條視頻就被證實是利用AI技術偽造的：白宮新聞發佈會並未提及這個話題，發言人也從未做過這番論述。據説這條視頻最初開始在互聯網上流傳時配了俄語字幕，因此有人懷疑是俄羅斯製造的假新聞。

隨着Deepfake等利用人工智能偽造視頻的技術日益成熟，類似的偽造名人、政治家發言的視頻也越來越多。不僅普通網民難辨真假，連媒體也時常上當受騙。前面所説的這條短視頻在互聯網上流行以後，我國幾家主流媒體的視頻號也相繼轉發，並配上了中文字幕。

AIGC製造的白宮發言人讓-皮埃爾假新聞

另一方面，核實視頻信息也確實並不容易。近兩天中文互聯網上又在流傳一條題為“特朗普正式支持TikTok，向封禁TikTok宣戰”的短視頻，筆者認為也很有人工智能偽造的嫌疑，但尚無法驗證。人工智能技術的發展使炮製這樣的假視頻、假新聞變得特別容易，確實構成了對社會秩序的威脅。

為了應對這些風險，拜登政府採取的首要措施，就是加強政府對AI領域相關企業的監管與合作。白宮對總統令的官方解讀開篇第一條就強調，要求“最強大的AI系統向美國政府分享其安全測試的結果及其他關鍵信息”，並提出：根據《國防生產法》（Defense Production Act），總統令要求開發任何對國家安全、國家經濟安全或國家公共健康和安全構成嚴重風險的基礎模型的公司，在訓練模型時必須通知聯邦政府。

《國防生產法》是1950年9月8日美國國會為了入侵朝鮮而頒佈的法律，立法通過之後一週，美軍就在仁川大規模登陸。這項法律對軍事物資和設施的生產及分配進行國家管制，在入侵朝鮮和冷戰期間對美國軍工複合體的快速發展和高效運轉發揮了重要作用。拜登政府援引這項法律監管AI行業，很明顯已經將AI視為未來戰爭中的重要資源，並進一步明確幾家主要的AI企業在軍事-工業-情報-科技複合體中的重要地位。

總統令提出的另一項措施也很值得關注：建立一個先進的網絡安全計劃，開發人工智能工具來發現和修復關鍵軟件中的漏洞。正如筆者在此前的一篇文章中介紹過的，軟件產品中絕大部分、經常多達99%的代碼是以依賴的形式引入的，廠商自主編寫的代碼通常只佔整個軟件的1%左右。一個典型的現代商用軟件通常會依賴幾千、上萬個開源組件，其中任何一個組件被發現安全漏洞，都可能給整個系統造成損害。

據實時通信軟件Telegram的創始人Durov披露，美國政府曾試圖説服一名Telegram的員工在代碼中使用某個特定的開源庫——這個開源庫很可能已經被美國情報機構滲透，任何使用該開源庫的軟件就會無聲無息地向美國政府打開“後門”。

不難想象，如果某個國家的情報機構掌握了大量尚未被IT業界知悉的安全漏洞，它就會獲得大量機會侵入全世界的互聯網系統，進行大範圍監聽、甚至進行網絡破壞。而使用AI來輔助發現關鍵軟件中的漏洞，很有可能將獲得這種可利用的漏洞的機會提高一到兩個數量級。打個形象的比喻，這個所謂“先進的網絡安全計劃”，就是一個現代網絡戰爭的智能化軍工廠，源源不斷地產出可以用於入侵敵國網絡的武器。

2023年10月30日，美國總統拜登在華盛頓白宮簽署人工智能監管行政令。新華社發（亞倫攝）

整個總統令中幾乎沒有提到AI與傳統產業的結合，這一點也並不出人意料。在整體去工業化的大背景下，美國的AI產業發展高度虛擬化，與實體產業結合很少。然而總統令中有一處AI與實體產業的結合點，應當引起注意：防範利用人工智能設計危險生物材料的風險。

今年4月29日，白宮宣佈相關政府部門已經“建立核酸合成篩選框架，以幫助防止濫用人工智能設計危險生物材料”、“商務部還努力與私營部門合作，制定技術指南以促進實施”、“各部門將要求接受政府資助的項目實施方，只能從經過篩選的供應商處獲得合成核酸”。

解讀一下，上面這幾句官樣文字透露出的信息就是：已經有企業在利用人工智能“設計危險生物材料”了，並且政府將一方面限制其他企業進入這一領域、另一方面指定相關的政府採購只能在有限的企業範圍內選擇。簡而言之，已經有“設計危險生物材料”的企業被納入了軍工複合體。總統令中的相關內容，很有可能就是這家/這些企業推動寫入的。聯繫到美國過去包庇731部隊戰犯、接收日本細菌戰資料、在朝鮮戰場進行細菌戰、在德特里克堡研製生物武器等行徑，AI在這一領域的應用着實令人擔憂。

總統令中也提到了一些過去十多年來反覆被提及的國內問題，例如種族歧視、勞工待遇、教育、系統性剝削、歧視性執法等。早在AI技術取得大發展之前，美國已有很多有識之士批評互聯網和大數據會固化並加劇這些社會問題。但掌控着數字空間的幾家“科技巨頭”（如Google、Facebook等）對學界和民間的批評一貫置若罔聞。例如2018年，“Data for Black Lives”組織的創始人Milner以公開信形式呼籲Facebook與該組織合作，解決Facebook平台上存在的系統性種族歧視問題，但Facebook對此沒有任何回應。

到2021年，發表在《華盛頓郵報》的一篇文章指出，Facebook的仇恨言論檢測算法顯然仍存在嚴重的種族歧視：針對猶太人的刻板印象和仇恨言論會被該平台禁止，而針對黑人和有色族裔的誹謗和種族主義語言則不被懲罰。現在，掌握AI技術的是同樣的幾家科技巨頭，他們是否會在拜登總統令的號召下整改這些已經被批評了十多年的問題，筆者對此並不樂觀。

從去年11月的總統令之後，美國政府展現出了很強的執行力：多個政府部門加大了招聘AI人才的力度，並開設了“ai.gov”網站專門跟蹤彙總“確保美國在安全、可靠、可信的人工智能創新方面處於領先地位，在利用人工智能機遇的同時降低其風險”相關的信息。總統令頒佈後的90天（1月29日）和180天（4月29日），白宮分別公佈了相關項目的進展情況，列出了各部門已完成的數十項任務。鑑於美國政府一貫以公私協作的方式開展工作，筆者認為這反映出幾家AI科技巨頭企業正在積極地向政府施加影響。

據筆者瞭解，我國對於AI潛在風險的認知與美方大同小異。但在實際的風險應對和產業促進的措施上，兩國就體現出了很大的差異。

美國一邊宣稱要避免AI武器化，一邊積極地將科技企業納入軍事-工業-情報-科技複合體、將AI技術納入未來戰爭武器庫——我們當然還記得，Google是如何與美國軍方緊密合作，Facebook又是如何積極干預多個國家的政治。

而中國的AI戰略則更注重賦能實體經濟，成為推進現代化產業體系建設、發展新質生產力的動力。這也解釋了為何我國官方對大模型、AIGC的態度相對冷淡，因為尚未看到能聊天的ChatGPT、能畫畫的Midjourney、能做視頻的Sora究竟應當如何轉化為工業、農業的新質生產力，儘管這些工具顯然在意識形態戰場上很有轉化為新一代武器的潛力。對於AI可能引發的國內社會問題，我國也通過《互聯網信息服務算法推薦管理規定》、《生成式人工智能服務管理暫行辦法》等監管措施嘗試解決。但由於兩國社會制度的重大差異，這些國內經驗在多大程度上對美國有參考借鑑意義尚且存疑。

基於如此差異巨大的出發點，美國業內專家對此次中美人工智能政府間對話期望不高，認為這很可能只是雙方互相認識的一次會議，可能不會產生什麼具體結果，只是啓動相關對話。

避免AI被武器化、釋放AI對人類生產力的促進作用、共同解決AI帶來的社會問題，這是全世界都期望看到的進展，也是中美兩個最重要的數字科技強國不可迴避的責任。如果美國能放下對抗心態，真誠地與中國開展合作，而不是試圖獨佔AI武器、率先佔據未來戰爭的優勢地位，那將對AI發展歷程發揮很大的正面作用。但是，從現有的種種跡象來看，筆者對美國政府的覺悟並不樂觀。

本文系觀察者網獨家稿件，文章內容純屬作者個人觀點，不代表平台觀點，未經授權，不得轉載，否則將追究法律責任。關注觀察者網微信guanchacn，每日閲讀趣味文章。