“中美合作的罕見跡象”,兩國AI領域專家被曝去年曾兩度在日內瓦舉行會談
熊超然
【文/觀察者網 熊超然】隨着人工智能(AI)技術的興起,這一方面正成為當今世界最前沿的尖端科技,另一方面也逐漸顯現出其對人類社會具有的潛在威脅。
據英國《金融時報》當地時間1月11日援引多名知情人士透露,因擔憂這種強大的技術可能會傳播錯誤信息和威脅社會,中美雙方曾於去年7月和10月兩度在瑞士日內瓦舉行會議,美國AI相關企業OpenAI、Anthropic和Cohere同中國AI專家進行了“秘密外交”。來自北美地區的AI組織科學家和政策專家,以及清華大學和其他中國政府所支持的機構代表也出席了會議。
報道形容,在全球兩個大國在AI和量子計算等尖端科技領域搶奪主導權之際,這些此前未被報道的會談是“中美合作的罕見跡象”。報道提到,儘管美國政府一再對華無理打壓限制,比如禁止英偉達等公司對華出口開發複雜AI軟件所必需的高性能芯片,但考慮到AI對人類的潛在生存風險,AI安全議題已成為兩國技術開發者共同關心的問題。

2023年9月20日,2023世界製造業大會在安徽省合肥市啓幕,參觀者體驗智能抓取機器人。圖自IC Photo
據報道,與會者表示,這些會談使得中美雙方能夠討論AI這種新興技術所帶來的風險,並鼓勵對AI安全研究進行投資。他們補充説,最終目標是找到一條科學的路徑,安全地開發更復雜的AI技術。
一位出席會談的人士表示:“如果這些參與者沒有達成一致,我們就無法圍繞AI的安全和一致性制定國際標準。如果他們同意,就更容易把其他人也拉到一起。”
在會談中,中美雙方的AI專家討論了參與技術合作的領域,以及更具體的政策建議,這些建議為去年7月聯合國安理會就人工智能對國際和平與安全的潛在威脅所召開的首次會議,以及去年11月在英國舉行的首屆全球人工智能安全峯會的討論,都提供了參考。
與會的談判代表稱,會議的成功舉行引領了未來討論的計劃,這些討論將側重於科學和技術性的建議——如何使AI系統與每個社會的法律法規、規範和價值觀保持一致。
一名不願透露姓名的與會談判代表稱,在日內瓦舉行的會議,是在美國白宮,以及中國和英國政府官員知情的情況下安排的。對此,白宮方面拒絕置評。同時,OpenAI證實其全球事務團隊的一名成員參加了日內瓦會談;Anthropic和Cohere拒絕就其參與會談發表置評;清華大學方面也沒有回應置評請求。
參與談判的人士透露,字節跳動、騰訊和百度等中國AI相關企業沒有參加會談;雖然谷歌旗下前沿的AI企業DeepMind被告知了會議討論的細節內容,但也沒有參加。

隨着ChatGPT的爆火,其背後語言模型——GPT也受到市場廣泛關注。2023年3月15日凌晨,OpenAI正式推出GPT-4。圖自IC Photo
《金融時報》補充介紹稱,這些會談是由謝赫集團召集的,這是一個於2015年創辦、總部設在塞浦路斯的私人調解組織,旨在促進衝突地區(尤其是中東地區)關鍵行動者之間的戰略對話。
“我們看到了將中國和美國在AI領域的主要參與者聚集在一起的機會。我們的主要目的是強調在全球範圍內廣泛部署AI模型所帶來的脆弱性、風險和機遇。”該集團創始人、首席執行官薩爾曼·謝赫(Salman Shaikh)表示。
“在我們看來,認識到這一事實可以成為協作進行科學工作的基石,最終形成圍繞AI模型安全性的全球標準。”他説道。
《金融時報》指出,如今已有越來越多的人開始呼籲主要大國之間進行合作,以應對AI的崛起。
去年11月,圍繞着OpenAI首席執行官薩姆·阿爾特曼(Sam Altman),該公司曾上演一出“宮鬥戲”。路透社援引兩名知情人士報道稱,此前有幾名研究人員曾致信董事會,警告稱一項強大的人工智能成果(名為“Q*”)可能會威脅到人類。消息人士稱,這封此前未被報道的信函和其中提到的人工智能算法,是董事會解僱阿爾特曼的“關鍵導火索”,這封信讓董事會產生了擔憂,並對阿爾特曼產生了諸多不滿,並最終解僱了他。
同樣是在去年11月,首屆全球人工智能安全峯會在英國布萊切利公園舉行,包括中國、美國、英國和歐盟在內的超25個國家代表以及馬斯克、OpenAI創始人兼CEO阿爾特曼等科技巨頭與會。11月1日,與會國簽署“布萊切利宣言”,同意通過國際合作,建立人工智能AI監管方法。
2023年11月2日,英國布萊奇利公園,首屆人工智能安全峯會舉行,阿爾特曼出席。圖自澎湃影像
去年7月,谷歌、亞馬遜、臉書母公司Meta、微軟以及其他三家AI企業已經同拜登政府簽署了這一事關AI領域的自願承諾協議。《華盛頓郵報》稱,從ChatGPT母公司OpenAI到Photoshop開發商Adobe,美國最具影響力的15家企業目前已經作出承諾,包括開發識別AI生成圖像的技術,並誓言與政府和學術界分享有關安全的數據。
去年9月,白宮發佈消息宣佈,英偉達、IBM和Adobe等八家企業已經簽署了拜登政府關於AI的自願承諾協議,以幫助推進白宮所稱的“安全、可靠和值得信賴的AI發展”。承諾協議內容中,要求這些企業對AI生成內容採取添加水印等步驟。
而在中國,香港《南華早報》曾報道稱,儘管AI在推動經濟發展和促進產業轉型方面具有戰略意義,但其快速發展也引起了人們的擔憂,可能存在的風險涉及知識產權、隱私和欺詐等。為此,中國已經在遏制風險方面迅速行動。
去年8月15日,由國家互聯網信息辦公室等七部門聯合發佈的《生成式人工智能服務管理暫行辦法》正式施行,這是我國首個針對生成式人工智能產業的規範性政策,也是全球第一部人工智能生成內容管理辦法。
此前,中國外交部發言人汪文斌曾指出,中方支持在聯合國框架下討論人工智能治理,增加發展中國家代表性和發言權,推動形成具有廣泛共識的人工智能治理框架和標準規範。“中方歡迎各國政府、國際組織、技術企業、科研院校、民間機構等各主體秉持共商共建共享的理念,協力共同促進人工智能治理。”汪文斌説。
本文系觀察者網獨家稿件,未經授權,不得轉載。