科技高管警告：AI帶來的"滅絕風險"堪比疫情與核戰——華爾街日報

OpenAI首席執行官薩姆·奧爾特曼本月早些時候在參議院小組委員會作證後向新聞媒體發表講話。圖片來源：jim lo scalzo/Shutterstock科技公司高管和人工智能科學家們正在就AI發出警告，他們在週二的一份聯合聲明中表示，這項技術帶來的滅絕風險與流行病和核戰爭一樣大。

超過350人簽署了由人工智能安全中心發佈的一份聲明，該組織表示其致力於降低AI風險。

該組織表示：“減輕AI帶來的滅絕風險應該成為與流行病和核戰爭等其他社會規模風險同等的全球優先事項。”

簽署者表示，他們希望就AI最嚴重的風險展開討論。開發了ChatGPT的OpenAI公司首席執行官薩姆·奧爾特曼和該公司首席技術官米拉·穆拉蒂也在聲明簽署者之列。

其他簽署者包括微軟首席技術官凱文·斯科特；谷歌AI高管莉拉·易卜拉欣和瑪麗安·羅傑斯；以及聯合國前裁軍事務高級代表安吉拉·凱恩。Skype和Quora的領導者們也簽署了該聲明。

科技行業對AI表達了興奮之情，但人們也越來越擔心這項技術可能失控。自OpenAI發佈ChatGPT以來，批評人士加強了對AI監管的呼籲，稱這項技術對人類構成了難以估量的威脅。

近幾個月來，人工智能股票飆升，投資者押注於他們認為是新的計算時代。英偉達，這家開發人工智能技術的半導體公司，於週二成為首家市值達到1萬億美元的芯片製造商，加入了蘋果、微軟、亞馬遜和谷歌母公司Alphabet 的世界萬億美元公司行列。

包括埃隆·馬斯克在內的人工智能專家和科技高管在3月簽署了一封信，呼籲人工智能開發者暫停該技術的工作。他們表示，至少六個月的暫停期將給行業時間制定人工智能設計的安全標準，並遏制最危險的人工智能技術的潛在危害。

簽署者週二表示，儘管公眾已經認識到人工智能的風險，但還有更多挑戰需要討論。他們還希望“建立越來越多專家和公眾人物對高級人工智能最嚴重風險的共同認識。”

在線聲明為人工智能科學家、教授、高管和領導者提供了簽署的選項。

人工智能本質上是指計算機從大量數據中學習並隨後模仿人類反應的能力。

科技行業多年來一直在開發人工智能，但該技術在11月OpenAI發佈ChatGPT後變得更加普及。這款免費聊天機器人可以快速回答幾乎所有問題，讓用户生成工作和學校問題的答案。ChatGPT的答案有時是錯誤的。支持者表示，該技術有潛力改變行業並重塑部分勞動力。

ChatGPT的發佈引發了谷歌、微軟等科技公司競相推出類似技術的熱潮。

儘管行業領袖和科技高管們已警告過人工智能的危險性，但週二簽署聯名信的人士表示他們尚未探討最緊迫的風險。

拜登政府近月來指出AI對公共安全、隱私和民主構成威脅，但政府監管權限有限。比爾·蓋茨曾表示他認為AI需要合理監管，但也對該技術充滿期待。他未簽署週二的公開信。

網絡安全負責人認為AI能帶來顯著效益，但早期生成式AI的潛力與風險被過度誇大了。

聯繫記者Alyssa Lukpat請致信[email protected]

本文刊登於2023年5月31日印刷版，標題為《科技高管警示人工智能威脅》