英國首相Sunak將在與馬斯克會面之前主持人工智能峯會談判

英格蘭，布萊切利園，11月2日 (路透社) - 領先的人工智能開發者同意與政府合作，在新的前沿模型發佈前進行測試，以幫助管理快速發展的技術風險，這是英國人工智能峯會的一個“里程碑式成就”。

一些科技和政治領袖警告稱，如果不加控制，人工智能將帶來巨大風險，從侵蝕消費者隱私到對人類構成危險並引發全球災難，這些擔憂已經引發了政府和機構之間的一場競賽，設計防護措施和監管。

在英國二戰密碼破譯者的家園布萊切利園舉行的首屆人工智能安全峯會上，來自美國、歐盟和中國的政治領導人同意共同制定識別風險和減輕風險的方法。布萊切利園。

英國首相里希·蘇納克表示，該聲明、測試行動以及成立國際風險專家小組的承諾將“使人類處於有利地位”。

他表示，美國、歐盟和其他“志同道合”的國家已經與從事人工智能前沿工作的一些公司達成了“具有里程碑意義的協議”，即模型在部署前後應該接受嚴格評估。

被譽為人工智能教父的Yoshua Bengio將協助撰寫一份“科學現狀”報告，以建立對未來能力和風險的共同理解。

“到目前為止，測試新AI模型安全性的唯一人員是開發它的公司，”Sunak説。“我們不應該依賴他們來批改自己的作業，因為他們中的許多人都同意這一點。”

前進的方式

峯會彙集了大約100名政治家、學者和科技高管，共同規劃一種前進的方式，以應對可能改變公司、社會和經濟運作方式的技術，一些人希望建立一個獨立機構來提供全球監督。

在西方努力管理AI安全發展的首次嘗試中，一位中國副部長於週三參加了專注於高度通用的“前沿AI”模型的峯會，與其他政治領導人一道出席。

法國經濟部長布魯諾·勒梅爾、德國經濟和氣候部長羅伯特·哈貝克、歐盟委員會主席烏蘇拉·馮·德萊恩、美國副總統卡瑪拉·哈里斯、英國首相里希·蘇納克、意大利總理喬治亞·梅洛尼、聯合國… 閲讀更多

吳兆輝，中國科技部副部長，週三簽署了一份“布萊切利宣言”，但中國週四未出席，並未在測試協議上籤署。

在許多西方政府減少與北京的技術合作之後，蘇納克因邀請中國而受到自己政黨的一些議員的批評，但蘇納克表示，任何關於人工智能安全的努力都必須包括其主要參與者。

他還表示，這表明英國在促進美國、中國和歐盟三大經濟集團合作方面可以發揮作用。

蘇納克在一次新聞發佈會上表示：“邀請中國並不是一個容易的決定，很多人批評我，但我認為這是正確的長遠決定。”

由微軟支持的OpenAI、Anthropic、Google DeepMind、Microsoft (MSFT.O)、Meta (META.O)和xAI週四參加了峯會，與歐盟委員會主席馮德萊恩、美國副總統卡瑪拉·哈里斯和聯合國秘書長安東尼奧·古特雷斯等領導人一起。

馮德萊恩表示，複雜的算法永遠無法得到徹底測試，因此“最重要的是，我們必須確保開發人員在問題發生時迅速採取行動，無論是在其模型上市前還是上市後”。

企業家埃隆·馬斯克週三告訴與會者，政府不應急於推出人工智能立法，兩位消息人士表示。

相反，他建議使用這項技術的公司更有能力發現問題，並且他們可以與負責制定新法律的立法者分享他們的發現。

億萬富翁在峯會結束後與蘇納克進行對話，預計將在週四晚些時候在馬斯克之前的平台X上播出。最後的話。

他説：“我們生活在最有趣的時代。我認為這有80%的可能是好的，20%是壞的，我認為如果我們對壞的部分有認識和小心，總的來説，實際上它將是我們想要的未來。”