《華爾街日報》：《"認真對待科幻"：全球領導人就人工智能發出警告》

英國布萊切利——在這片英格蘭鄉村的莊園裏，二戰時期的密碼破譯專家曾破解納粹的恩尼格瑪密碼機。如今，世界各國領導人承諾將共同努力降低一項技術的風險，他們表示這項技術也構成嚴重威脅。

人工智能，他們表示，其最先進形態可能在網絡安全和生物技術等領域造成災難性風險，甚至可能脱離人類控制。

英國科學、創新和技術大臣米歇爾·多內蘭引用曾在此莊園工作的一位密碼破譯者的話説：“有時值得認真對待科幻小説。”

在距倫敦約40英里處舉行的為期兩天的峯會開幕式上發表的聲明中，美國、中國和其他二十多個國家承諾加強合作，評估比現有系統更強大的新一代人工智能系統（稱為模型）帶來的風險，並考慮制定管理其部署的法律框架。

英國科學、創新和技術大臣米歇爾·多內蘭週三參加了在英國舉行的人工智能安全峯會，與會的還有全球領導人和科技公司高管。圖片來源：chris j ratcliffe/pool/Shutterstock聯合聲明稱：“這些人工智能模型最重要的功能有可能造成嚴重的、甚至是災難性的傷害，無論是蓄意還是無意。“聲明提到惡意行為者可能濫用強大的人工智能系統，甚至可能失去對那些尚未被完全理解且難以預測的系統的控制。

該承諾是首份呼應關於強大新型AI模型可能對人類構成生存風險警告的重要國際聲明。

關於應如何嚴肅對待這些警告及應對措施的辯論，成為本次會議的核心議題。與會者包括由美國副總統卡瑪拉·哈里斯率領的美方代表團，以及埃隆·馬斯克、OpenAI首席執行官薩姆·奧爾特曼等頭部AI企業高管。

兩位科技領袖均警告過他們所稱的AI潛在破壞性——而他們各自的公司正在研發這類技術。

包括Meta Platforms政策主管、英國前副首相尼克·克萊格在內的其他人士則認為，這些推測性風險轉移了人們對現實問題的關注，例如防範AI生成虛假視頻干擾選舉。

克萊格週二表示：“若過度擔憂未來威脅，就會忽視眼前亟待解決的問題。”

週三開幕的英國AI安全峯會期間，多國領導人承諾將共同降低人工智能風險。圖片來源：chris j ratcliffe/pool/Shutterstock美國週三宣佈將在商務部設立AI安全中心，承諾與英國對應機構合作制定AI系統能力基準標準，並根據拜登政府新行政令收集AI企業報告數據。

英國還宣佈了未來計劃，明年將在韓國和法國舉辦人工智能安全峯會。

中國參與此次峯會被西方官員和行業高管視為值得關注，因為有人擔心人工智能可能被用作世界超級大國之間軍備競賽的一部分。

“如果沒有至少嘗試讓世界上所有領先的人工智能大國參與，就不可能制定出嚴肅的人工智能戰略，”英國首相里希·蘇納克上週在一次演講中表示。

中國科技部副部長吳朝暉在峯會開幕式上表示，中國支持國際社會建立人工智能測試和評估體系的工作。

由神一般的機器引發的人工智能末日威脅長期以來一直是流行文化迷戀的對象。但自從OpenAI的ChatGPT發佈以來，這項新技術展示了其不可思議的能力，能夠對幾乎所有話題的問題提供合理且流暢的回答，這也使得它成為政策制定者應優先考慮事項的辯論主題。

哈里斯在週三的演講中表示，專家們應擴大對安全性的定義，以涵蓋更廣泛的風險，包括她所説的已經存在的社會危害——如偏見、歧視或傳播錯誤信息的能力。本週早些時候簽署的美國行政命令針對了其中幾個問題，峯會組織者週三也提到了這些問題。

這些擔憂也得到了一些數字權利組織和工會團體的響應，他們在週一發表了一封公開信，批評此次峯會的優先事項。

信中寫道：“這是關於被算法解僱，或基於你的身份或郵政編碼而受到不公平的貸款評估。小企業和藝術家正在被擠出市場，創新被扼殺，少數大型科技公司獲得了更多的權力和影響力。”

與此同時，一些人工智能研究人員對他們認為的人工智能帶來的災難性風險表示擔憂，敦促政策制定者對最先進的人工智能系統的發展進行控制。

未來生命研究所是一個非營利組織，今年春天曾組織簽署了一封公開信，呼籲暫停六個月開發最先進的人工智能系統。該組織在峯會上推動制定具有約束力的規則，迫使公司證明他們的系統不會帶來潛在的生存威脅，而不是由政府監管機構來證明威脅的存在。

儘管如此，麻省理工學院教授、未來生命研究所主席馬克斯·泰格馬克在峯會前表示，他會將一份共同聲明視為進展。

他説：“即使只是一份承認這是一個真實風險的共同聲明——這也是一個巨大的進步。”

聯繫薩姆·謝克納，郵箱：[email protected]

本文發表於2023年11月2日的印刷版，標題為《領導人承諾採取行動限制人工智能的危害》。