AI毀滅論者在英國人工智能峯會上佔據中心舞台 - 彭博社

參加11月1日在布萊切利公園舉行的AI安全峯會的與會者。

攝影師：Leon Neal/Getty Images 

圍繞人工智能所謂的存在風險應該如何集中精力展開了激烈的辯論，這一爭論定義了英國AI安全峯會週三的開幕，突顯了科技界在立法者提出監管和保障措施時存在的更廣泛的緊張關係。

出席布萊切利公園峯會的科技領袖和學者們，對於是優先考慮AI帶來的即時風險 —— 比如助長歧視和錯誤信息 —— 還是擔心它可能導致人類文明的終結存在分歧。

一些與會者公開擔心所謂的AI末日論者會主導會議 —— 這種擔憂加劇了埃隆·馬斯克在播客中提到AI可能導致“人類滅絕”的幽靈後不久將與英國首相里希·蘇納克一同出現的消息。週三，英國政府還公佈了布萊切利宣言，28個國家簽署的一份聲明，警告AI可能造成“災難性危害”。

埃隆·馬斯克在11月1日在布萊切利公園舉行的2023年AI安全峯會上。攝影師：克里斯·J·拉特克利夫/彭博社“我希望它不會被悲觀主義者、X-風險、‘終結者’情景的討論所主導，我肯定會把對話引向實際、近期的危害，” AI 公司 Cohere Inc. 的聯合創始人兼首席執行官 Aidan Gomez 在峯會前表示。

頂級科技高管們在這一週就這個問題展開了激烈的辯論。Meta Platforms Inc. 的首席人工智能科學家楊·勒庫恩指責競爭對手，包括 DeepMind 的聯合創始人 Demis Hassabis，在試圖“實現對該行業的監管控制”時誇大了技術的存在風險。隨後，Hassabis 在週三接受彭博社採訪時進行了反擊，稱這些批評是荒謬的。

在峯會的邊緣，英國國家網絡安全中心前負責人西亞蘭·馬丁表示，關於人工智能存在潛在災難性觀點和將其視為一系列個別、有時嚴重的問題需要加以管理的觀點之間存在“真正的辯論”。

馬丁表示：“雖然這場辯論的潛在含義貫穿所有討論，但我認為幾乎所有人都認同國際、公共和私人社區都需要做到兩者兼顧。這是一個程度的問題。”

在峯會的閉門會議中，討論了是否暫停發展下一代“前沿”人工智能模型以及這種技術可能對“民主、人權、公民權利、公平和平等”構成的“存在威脅”，根據英國政府週三晚間發佈的摘要。

在研討會之間，馬斯克被“圍攻”並與來自科技公司和公民社會的代表“舉行庭審”，一位外交官表示。但是在一場關於失去對人工智能控制風險的討論中，另一位與會者表示，他靜靜地聽着，據稱這場研討會被稱為“死亡之組”。

馬特·克利福德是英國首相代表之一，他幫助組織了這次峯會，試圖化解分歧，並建議AI風險並非二元對立。

“這次峯會並不專注於長期風險；這次峯會專注於明年的模型，”他週三告訴記者。“我們如何應對潛在的災難性風險 — 正如在Bletchley宣言中所説的 — 來自那些模型？”他説。“‘短期，長期’的區別往往被誇大了。”

在峯會第一天結束時，兩派之間出現了一些和解的跡象。麻省理工學院的教授馬克斯·泰格馬克曾呼籲暫停強大人工智能系統的發展，他表示“這場辯論開始消融了。”

“那些擔心存在風險、失去控制等問題的人意識到，為了解決這些問題，他們必須支持那些警告即將發生的危害的人，”他説，“讓他們成為盟友，開始制定安全標準。”