OpenAI在首席科學家Ilya Sutskever離職後解散了關鍵安全團隊 - 彭博社

Sam Altman，OpenAI首席執行官。

攝影師：David Paul Morris/Bloomberg在德克薩斯州休斯敦喬治·布什國際機場的美國聯合航空登機口顯示的Microsoft Windows恢復屏幕，日期為7月19日。

攝影師：David Paul Morris/BloombergOpenAI已經有效地解散了一個專注於確保未來可能的超強人工智能系統安全性的團隊，該團隊的兩位領導人離職，其中包括OpenAI聯合創始人兼首席科學家Ilya Sutskever。

OpenAI現在將這個所謂的超對齊團隊更深入地整合到其研究工作中，以幫助公司實現其安全目標，該公司告訴彭博新聞。該團隊成立不到一年，由Sutskever和另一位OpenAI老將Jan Leike領導。

重新考慮該團隊的決定是因為最近一系列OpenAI的離職引發了關於公司在開發其人工智能產品時如何平衡速度與安全的問題。備受尊敬的研究員Sutskever，在週二宣佈離開OpenAI，此前曾與首席執行官Sam Altman就人工智能的快速發展問題發生衝突。

Leike 在社交媒體上發佈了一條簡短的帖子後立即透露了他的離職。 “我辭職了，”他説。據一位熟悉情況的人士透露，對於 Leike 來説，Sutskever 的離職是與公司發生分歧後的最後一根稻草，該人士要求不透露身份以便討論私人對話。

在週五的一份聲明中，Leike 表示超對齊團隊一直在爭取資源。Leike 在 X 上寫道：“在過去幾個月裏，我的團隊一直在逆風航行。” “有時我們為計算資源而苦苦掙扎，越來越難以完成這一關鍵研究。”幾個小時後，Altman 回應了 Leike 的帖子。Altman 在 X 上寫道：“他是對的，我們還有很多工作要做。” “我們致力於完成它。”

超對齊團隊的其他成員在最近幾個月也離開了公司。Leopold Aschenbrenner 和 Pavel Izmailov 被 OpenAI 開除了。《The Information》早些時候報道了他們的離職。據一位熟悉情況的人士透露，Izmailov 在離開之前已被調離團隊。Aschenbrenner 和 Izmailov 沒有回應評論請求。

John Schulman，這家初創公司的聯合創始人，其研究重點是大型語言模型，將成為 OpenAI 未來對齊工作的科學負責人，公司表示。另外，OpenAI 在一篇博客文章中表示，已任命研究總監 Jakub Pachocki 接替 Sutskever 擔任首席科學家。

“我非常有信心他將帶領我們快速而安全地朝着確保通用人工智能造福所有人的使命邁進，”Altman在週二關於Pachocki任命的一份聲明中説道。AGI，或通用人工智能，指的是在大多數任務上能夠表現得和甚至更好於人類的人工智能。AGI目前尚不存在，但創造它是公司使命的一部分。OpenAI還有員工參與公司各個團隊的AI安全相關工作，以及專注於安全的個人團隊。其中一個是於去年十月成立的準備團隊，專注於分析並試圖避免AI系統潛在的“災難性風險”。

超對齊團隊旨在應對最長期的威脅。OpenAI於去年七月宣佈成立了超對齊團隊，表示將專注於如何控制和確保未來比人類更聰明的人工智能軟件的安全性 —— 這是公司長期以來設定的技術目標之一。在公告中，OpenAI表示當時將把公司20%的計算能力用於該團隊的工作。

去年十一月，Sutskever是幾位OpenAI董事會成員之一，他們決定解僱Altman，這一決定引發了公司五天的風波。OpenAI總裁Greg Brockman因抗議而辭職，投資者反叛，幾乎所有這家初創公司約770名員工在幾天內簽署了一封信，威脅説要辭職，除非Altman被重新聘用。在一次引人注目的逆轉中，Sutskever也簽署了這封信，並表示後悔參與了Altman的罷免。不久之後，Altman被恢復職務。

在阿爾特曼離開並回歸後的幾個月裏，蘇茨凱弗基本消失在公眾視野中，引發了關於他在公司中繼續扮演角色的猜測。據一位知情人士透露，蘇茨凱弗也停止在OpenAI舊金山辦公室工作。

在他的聲明中，萊克表示，他的離職是因為與OpenAI在公司“核心優先事項”上發生一系列分歧，他認為公司沒有足夠關注與創造可能比人類更有能力的人工智能相關的安全措施。

在本週早些時候宣佈離職的一篇帖子中，蘇茨凱弗表示，他“確信”OpenAI將在目前的領導下，包括阿爾特曼，開發出“既安全又有益”的通用人工智能。

一位美國政府高級網絡安全官員抨擊了CrowdStrike Holdings Inc.，稱其因推送一個崩潰了全球企業和政府系統的有缺陷更新而犯下了“嚴重錯誤”。

“這對全球關鍵基礎設施運營造成了嚴重影響，”網絡安全和基礎設施安全局局長詹·伊斯特利在週六發表在LinkedIn上的帖子中説。“任何構建任何類型軟件的公司都應該將設計、測試和交付工作重點放在大幅減少缺陷數量上，”她説。