埃隆·馬斯克等人工智能專家呼籲暫停技術發展——《華爾街日報》

包括特斯拉公司首席執行官埃隆·馬斯克和人工智能先驅約書亞·本吉奧在內的多位科技高管和頂尖AI研究人員，正呼籲暫停迅猛發展的強大新AI工具研發。

暫停支持者表示，為期六個月或更長的暫緩期將讓行業有時間制定AI設計安全標準，規避高風險AI技術的潛在危害。

蒙特利爾學習算法研究所所長本吉奧在接受採訪時表示：“這些系統已經足夠智能，可能以危害社會的方式被使用，而我們尚未完全理解其風險。”

這些擔憂及暫停建議由非營利組織"生命未來研究所"協調發布在《暫停巨型AI實驗：公開信》中，該機構將馬斯克列為外部顧問。公開信團隊發言人表示，週三公佈的這封信還獲得蘋果聯合創始人史蒂夫·沃茲尼亞克、Stability AI首席執行官埃馬德·莫斯塔克，以及一直批評社交媒體和AI技術的人文技術中心聯合創始人特里斯坦·哈里斯和阿扎·拉斯金的簽署。

公開信並非要求停止所有AI開發，而是敦促企業暫緩訓練比微軟公司支持的OpenAI本月發佈的GPT-4更強大的系統，這包括OpenAI的下一代技術GPT-5。

OpenAI官員表示尚未開始訓練GPT-5。該公司首席執行官薩姆·奧爾特曼在接受採訪時稱，OpenAI始終將安全性作為開發重點，在GPT-4發佈前曾耗費半年多時間進行安全測試。

“某種意義上，這就像對信徒佈道，“奧爾特曼説，“我認為我們是最早、最積極、最大聲討論這些問題的機構。”

暫停開發的呼籲與科技公司和初創企業大力投入生成式AI的普遍願望相沖突，這項技術能根據人類指令生成原創內容。去年秋天OpenAI推出具備長文本應答、編寫類人化計算機代碼等功能的聊天機器人後，生成式AI迅速引發熱潮。

微軟已將該技術應用於必應搜索引擎等產品。谷歌母公司Alphabet推出了競爭性系統，Adobe、Zoom和Salesforce等企業也相繼發佈先進AI工具。

“競賽從今天開始，“微軟CEO薩提亞·納德拉上月表示，“我們將快速行動，全力以赴。”

埃隆·馬斯克雖對人工智能表示擔憂，仍在特斯拉應用了部分AI技術。照片：吉姆·沃森/法新社/蓋蒂圖片社這種做法引發了新的擔憂，即快速推進可能在帶來實際益處的同時產生意外後果。人工智能的進步已經超越了許多專家幾年前認為可能達到的水平，這封信的組織者之一、未來生命研究所主席兼麻省理工學院物理學教授馬克斯·泰格馬克表示。

“將這種情況描述為軍備競賽是不幸的，”泰格馬克先生説。“這更像是一場自殺競賽。誰先到達那裏並不重要。這只是意味着人類作為一個整體可能會失去對自己命運的控制。”

未來生命研究所上週開始起草這封信，最初允許任何人無需身份驗證即可簽名。有一段時間，阿爾特曼先生的名字被添加到信中，但後來被刪除。阿爾特曼先生表示他從未簽署過這封信。他説，公司經常與其他人工智能公司在安全標準上進行協調，並討論更廣泛的擔憂。

“有些工作我們不做，因為我們認為我們還不知道如何使其足夠安全，”他説。“所以，是的，我認為有多種方法可以在多個方面放慢速度，這很重要。這是我們戰略的一部分。”

馬斯克和沃茲尼亞克先生都表達了對人工智能技術的擔憂。馬斯克週三在推特上表示，先進人工智能技術的開發者“不會理會這一警告，但至少已經説出來了。”

馬斯克先生同時也在特斯拉採用了一些AI工具用於公司的先進駕駛輔助功能。特斯拉上月宣佈召回約362,800輛配備其以"全自動駕駛測試版"名義銷售技術的車輛。美國最高汽車安全機構表示，該技術可能在極少數情況下違反當地交通法規，若駕駛員未能及時干預，可能增加碰撞風險。

Meta Platforms公司首席AI科學家Yann LeCun週二發推文表示，他未簽署公開信是因為不認同其前提假設。

Stability AI首席執行官Mostaque先生週三在推文中表示，儘管簽署了公開信，但他不同意六個月的暫停期。“這封信雖無強制力，但將開啓重要討論，有望為這個不透明的領域帶來更多透明度和治理。”

微軟拒絕置評，谷歌未立即回應評論請求。

Tegmark先生表示，許多公司面臨將先進AI技術融入產品的"瘋狂商業壓力”。六個月的暫停期將為行業提供"喘息空間”，而不會讓謹慎行事者處於劣勢。

公開信指出，暫停應公開宣佈且可核查，該領域所有關鍵參與者都應參與。“若無法迅速實施此類暫停，政府應介入並制定暫停令。“信中寫道。

作者們寫道，人工智能實驗室和專家可以利用這段時間制定一套針對先進AI設計的共享安全規則，並應由外部專家進行審核和監督。

“我認為我們不能承受一味冒進、不計後果的代價，“本吉奧先生表示，他因發明現代AI所基於的系統而獲得2018年圖靈獎。“我們確實需要花時間共同思考這個問題。”

——欲獲取更多《華爾街日報》科技分析、評論和頭條新聞，請訂閲我們的每週通訊。

聯繫迪帕·西塔拉曼，郵箱：[email protected]

本文刊登於2023年3月30日印刷版，標題為《馬斯克與專家呼籲暫停AI技術發展》。