獨家:OpenAI研究人員在CEO被撤職之前警告董事會AI突破-消息來源 | 路透社
Anna Tong,Jeffrey Dastin,Krystal Hu

ChatGPT 製造商 OpenAI 的 CEO Sam Altman 參加了由參議院多數黨領袖查克·舒默(D-NY)在華盛頓美國國會大廈舉辦的一場面向所有美國參議員的兩黨人工智能(AI)洞察論壇,時間為2023年9月13日。路透社/朱莉婭·尼克辛森/文件照片
11月22日(路透社) - 在 OpenAI CEO Sam Altman 的四天流亡之前,幾名員工研究人員向董事會發了一封信,警告稱他們發現了一項可能威脅人類的強大人工智能發現,兩位知情人士告訴路透社。
這封此前未曾報道的信和人工智能算法是導致董事會罷免代表生成式人工智能的標誌性人物 Altman 的關鍵發展,這兩位消息人士稱。在他的勝利歸來之前的上週二晚些時候,超過700名員工威脅要辭職並加入支持者微軟(MSFT.O),以示對他們被解僱的領導的支持。
消息人士稱,這封信是導致 Altman 被解僱的董事會長列表中的一個因素。路透社未能查看這封信的副本。寫信的研究人員沒有立即回應置評請求。
根據一位消息人士的説法,長期執行官米拉·穆拉蒂在週三對員工提到了名為Q*的項目,並表示在本週末事件發生之前已經向董事會發了一封信。
故事發表後,OpenAI的一位發言人表示,穆拉蒂告訴員工媒體即將報道的內容,但她沒有評論報道的準確性。
ChatGPT的製造商在Q*(發音為Q-Star)上取得了進展,一些內部人士認為這可能是這家初創公司尋找超智能(也稱為人工通用智能AGI)的突破之一,據路透社報道。OpenAI將AGI定義為比人類更聰明的人工智能系統。
據一位知情人士透露,藉助龐大的計算資源,這個新模型能夠解決某些數學問題,但由於未經授權代表公司發言,該人士要求匿名。儘管只是在小學生水平上進行數學運算,但研究人員對Q*未來的成功非常樂觀,消息人士表示。
路透社無法獨立驗證研究人員聲稱的Q*的能力。
超智能
研究人員認為數學是生成式人工智能發展的前沿。目前,生成式人工智能擅長通過統計預測下一個詞來進行寫作和語言翻譯,對同一個問題的答案可能差異很大。但征服能夠進行數學運算的能力——在這裏只有一個正確答案——意味着人工智能將具有更強的推理能力,類似於人類智能。AI研究人員相信,這可以應用於新穎的科學研究,例如。
與只能解決有限數量操作的計算器不同,通用人工智能可以泛化、學習和理解。
據消息人士稱,在他們致信董事會的信中,研究人員提到了人工智能的實力和潛在危險,但沒有具體説明信中提到的確切安全顧慮。長期以來,計算機科學家一直在討論超智能機器可能帶來的危險,例如它們可能會認為摧毀人類符合它們的利益。
在這種背景下,阿爾特曼帶領努力使ChatGPT成為歷史上增長最快的軟件應用之一,並從微軟那裏獲得了必要的投資和計算資源,以接近超智能或通用人工智能。
除了在本月的演示中宣佈了一系列新工具外,阿爾特曼上週在舊金山的世界領導人聚會上透露他相信通用人工智能已近在眼前。
他在亞太經濟合作峯會上説:“在OpenAI的歷史上,這已經是第四次了,最近一次是在過去幾周內,我有幸在場,我們推開無知的面紗,將發現的邊界向前推進,能夠做到這一點是我一生中的職業榮譽。”
一天後,董事會解僱了阿爾特曼。
安娜·唐和傑弗裏·達斯汀在舊金山,克里斯特爾·胡在紐約;肯尼斯·李和麗莎·舒梅克編輯