美國和英國爭奪在監管人工智能方面的領導地位 - 彭博社

Shirin Ghaffary

裏希·蘇納克和喬·拜登

攝影師：利昂·尼爾/蓋蒂圖片社嗨，我是在舊金山的Shirin。美國和英國正在爭相領先對人工智能進行監管。但首先…

三件事情要知道：

• 谷歌和微軟正在依賴一家印度初創公司讓人工智能為數十億潛在用户提供服務• DeepMind聯合創始人Demis Hassabis回擊了Meta AI的頂級研究員Yann LeCun，稱他對人工智能存在風險的批評“荒謬”• 前谷歌CEO埃裏克·施密特正在資助一個非營利組織，旨在利用人工智能徹底改革科學研究過程

爭先

在推出這份通訊後，我收到的第一個讀者問題是，每個國家是否都會“單打獨鬥”來監管人工智能，還是“世界將共同努力應對這一新興風險”。本週，我們得到了一個答案的暗示：各國將合作，但方式有限。

英國政府正在結束一場國際人工智能峯會，以解決技術可能帶來的“災難性”危害。出席會議的有來自美國、中國和沙特阿拉伯的立法者，以及一眾科技公司的首席執行官，包括埃隆·馬斯克和山姆·奧爾特曼。

儘管美國當然支持這次會議——派遣副總統卡瑪拉·哈里斯出席——但它也搶走了英國的風頭。週一，喬·拜登總統簽署了自己的廣泛人工智能行政命令，這是他稱之為“全球任何政府所採取的最重要行動”的100多頁文件。副總統哈里斯隨後在週三在美國駐倫敦大使館發表講話，宣佈美國正在成立一個新的人工智能安全研究所，此前英國也推出了類似機構。

“美國在英國峯會前幾天宣佈其行政命令並非偶然，”英國智庫查塔姆研究院專注科技政策的高級研究助理亞歷克斯·克拉索多姆斯基説道。“那裏存在一些緊張關係。”

兩國都在努力爭取第一，並希望被視為領先於變革性新技術，特別是在許多人看來它們未能對社交媒體平台上的數字隱私和健康進行規範之後。拜登在簽署行政命令時説，人們經常問他美國是否在人工智能方面處於領先地位。現在，他有了一套具體的政策可以作為回應。與此同時，英國可以吹噓其外交上的勝利，即讓美國、中國和其他競爭世界大國就人工智能的未來達成一致基本原則。同意一套基本原則。

不僅是美國和英國在人工智能監管方面爭先一步。歐盟在2021年已經推出了更為嚴格的人工智能法案，預計很快將得到制定和通過。而今年夏天，中國頒佈了一系列法律，要求人工智能公司在上市前向政府註冊其服務並進行安全審查。

“幾乎可以説是一場人工智能監管的軍備競賽，”康奈爾大學教授、技術政策研究所所長莎拉·克雷普斯説。“不同的行為者希望在這個問題上被視為最積極和最有雄心，因此他們試圖在時間和廣度上互相超越。”

各國也在採取不同的方法。拜登的行政命令主要關注更近期的人工智能風險，如安全、偏見、失業和欺詐。蘇納克的英國峯會則聚焦於下一代“前沿”人工智能模型可能帶來的所謂長期存在風險。但對於每個國家而言，真正重要的是後續的執行。

拜登的行政命令要求現有政府機構，包括商務部、國土安全部和聯邦貿易委員會，制定標準並執行其許多新規定。對於一些長期抱怨資金不足以對抗大科技公司的機構來説，這是一項艱鉅的任務。拜登還需要國會的支持 - 目前國會的重點是避免政府關門 - 以資助這些機構，同時支持他招募更多高薪人工智能人才到公共部門，並支持重大新研究計劃。

在英國方面，沒有法律機制來強制執行AI峯會中28個國家達成的新“布萊切利宣言”。即使有一種懲罰國家的方式 - 比如，因未能審計一項破壞性的新軍事人工智能應用而受罰 - 決議中的措辭是如此開放，以至於很難指責任何國家的不當行為。例如，第一個行動項目是“確定共同關注的人工智能安全風險”。

本週提出的所有政策、公報和活動很容易被視為公開的炫耀。但它們只是在其他國家之間建立自願的“規範性防護措施”的起點，克雷普斯説。

“這些聲明產生了連鎖效應和二階效益，推動這些國家在人工智能領域向前邁進，” Kreps説道。在她的研究中，她與全球南方的政治領導人交談，他們正在等待美國和歐盟達成何種協議，然後再製定自己的國內人工智能政策。

雖然我們離建立清晰的全球框架來處理人工智能還有很長的路要走，但我認為在這一週之後，我們離有意義的政策又近了一步。就像科技行業一樣，一點健康的競爭對監管者也不會有害。

**有關人工智能的問題？**給我發郵件，Shirin Ghaffary，我會盡力在未來的新聞通訊中回答您的問題。全球競相監管人工智能也導致像Aidan Gomez這樣的科技高管累積了大量里程。Gomez是Cohere的聯合創始人兼首席執行官，這是OpenAI的競爭對手價值超過20億美元。他一直是一小部分初創企業領導人中參與美國、英國和全球監管討論的人之一。Gomez向我們談到了這個過程。本次採訪已經過編輯，以確保長度和清晰度。

Aidan Gomez，Cohere Inc.首席執行官，本週在倫敦接受彭博電視台採訪。攝影師：Chris Ratcliffe/Bloomberg彭博：你參加了華盛頓特區的行政命令簽署儀式和英國人工智能峯會，僅僅兩天後。我不得不問：在這兩者之間來回奔波是否令人筋疲力盡？這樣的經歷是怎樣的？

Aidan Gomez: 我實際上並沒有參加行政命令簽署儀式，我的同事馬丁去了……我本來應該在那裏的。事實是我忘記帶西裝，我不想穿着平常的衞衣出現。所以不幸的是，由於我的糟糕着裝，我無法參加。但你知道，有很多旅行。現在人工智能正處於風口浪尖，所以每個人都在試圖理解它。這意味着全球對話，我想成為其中一部分並支持……這絕對令人筋疲力盡。我一直處於時差狀態。但能夠與這麼多人交談是一種特權，我們非常幸運，有這麼多人如此關心技術，並確保它發展順利，為世界提供效用**。**

你認為人工智能監管會達成全球共識，還是每個國家都會單獨行動？

我認為不會有一個國際機構在全球範圍內製定法律。我認為我們將由全球市場上所有最大的參與者簽署協議，設定一系列必須採取的最低標準，以確保一切順利進行並保障公眾安全。許多不同國家以非常不同的方式進行監管，並擁有不同的現有監管機構、機制和論壇，因此並不存在一種適合所有情況的解決方案。

關於行政命令，我知道人工智能初創企業界存在很多擔憂，如果美國進行過度監管，可能會走得太遠並加強大公司的領先地位。你擔心這一點嗎？

在閲讀行政命令時，其中使用的語言——這是一份很長的文件，我不能説我已經全部閲讀了——但從我注意到的部分來看，我並不太擔心…

我們確實需要確保那種情況不會發生，顯然。對於小型初創公司來説，這是生死攸關的。如果政策不好，它可能會一下子把你搞垮。對於現有公司來説，它們太大了，政策對它們的影響並不重大。因此，政策可以被利用，法規可以被利用，來鞏固現有公司內的價值。

你寫道，過多關注人工智能的生存威脅可能會分散注意力。我知道這次英國峯會更多地關注災難性危害，而不是美國。它比你預期的更悲觀嗎？

是的，我的意思是，肯定有人試圖把它偏向悲觀主義。很明顯，某個特定團體積極要求這樣做——

你能説出是哪個團體在提出這個要求嗎？

不，我不會。我會把這個留給你自己去想。

我知道埃隆一直公開表達他的觀點。

在這次會議上——埃隆，我實際上不清楚。但肯定有其他一些參與者。但[峯會]絕對是以指向生存風險的方式構建的。在實際進行的對話中，明確表達了對更實際的風險、更具體的監管和更近期的關注的支持。還有樂觀情緒…

我認為峯會的框架和一些議程以及我們試圖推動它朝着存在風險和悲觀主義的方向發展，但與會者們做了很多工作，將其引向機遇，並確保我們能夠捕捉到關於可能傷害人們的技術的真正、真實的當今關切。所以我印象深刻。

本週美國和英國之間在監管領域有一些角力。您認為在美國和歐盟之間，有哪個國家會成為領導者，您對這場領先競爭有何看法？

我肯定認為有人急於在全球監管領域佔據領先地位，有很多人正在努力做到這一點。但我認為這是以一種積極的方式展開的……在我與英國政府、加拿大政府和美國政府的對話中，我感到非常樂觀。他們真的認為這是一項有益的變革性技術，他們希望在採用這項技術時變得實際，同時又不會讓公眾面臨風險。我認為這是一件積極而好的事情。如果他們想要快速行動，並且在這方面急切地進行公開討論，我認為這是一件好事。

本週人類引用

“真正的問題不是機器是否會思考，而是人類是否會思考。”

心理學家B. F. Skinner

值得關注的人物

Google DeepMind首席執行官Demis Hassabis表示，在考慮人工智能未來的好處時，需要以“謹慎樂觀”的態度繼續前進。Bloomberg### 深度學習

更多來自彭博社的內容

獲取科技日報以及更多彭博科技週刊內容，請查收您的收件箱：

  • 網絡公告涵蓋黑客和網絡間諜的陰影世界
  • 遊戲進行中報道視頻遊戲行業
  • 開機蘋果獨家報道、消費者科技新聞等
  • 屏幕時間近距離觀察好萊塢和硅谷的碰撞
  • 聲音片段報道播客、音樂行業和音頻趨勢