奧特曼小作文否認OpenAI離職霸王條款，網友：他有前科_風聞

西風 發自 凹非寺

量子位 | 公眾號 QbitAI

奧特曼承諾的小作文，它來了，還一發發兩篇！

一篇短的，回應了離職霸王條款，也就是員工離職後説OpenAI壞話會被收回股權的事兒。

另一篇超長，講了OpenAI的整體安全戰略，回應了OpenAI前超級對齊負責人Jan Leike昨天的13條推文爆料：

OpenAI對AGI的安全治理，優先級不如推出“閃亮的產品”。

不過，這篇回應小作文不是從奧特曼自己發的，而是Greg Brockman發的。

明明是在Greg的賬號，署名確是Sam在前面，“Sam and Greg”。

衝着奧特曼這個發回應小作文的速度，昨天面對超級對齊團隊炮轟還顯得很淡定的奧特曼，看來也沒那麼淡定。

不過，這兩篇小作文發出後，很多網友並不買賬。

甚至有人這樣評論小作文的效果：

汗流浹背的CEO發了一條全力挽回聲譽的推文，從社區寵兒迅速跌落至聲譽崩塌。

奧特曼都説了啥？

不會收回股權

先來看第一篇，完整版如下。

關於最近有關OpenAI處理股權的問題：

我們從未收回任何人已有的股權，即便員工未簽署離職協議/不詆譭協議，我們也不會這麼做。你的股權就是你的股權，這一點毫無疑問。

在我們之前的離職文件中確實有一項關於潛在收回股權的條款；雖然我們從未實際執行過這一條款，但這種條款不應該出現在任何文件或溝通中。

這是我的責任，是我在管理OpenAI過程中為數不多的幾次真正尷尬的事情之一；我之前並不知道有這種情況，但我本應知道。

過去一個月左右，團隊一直在修訂標準離職文件。如果有任何前員工因簽署了這些舊協議而感到擔憂，可以聯繫我，我們會解決這個問題。對此我深感抱歉。

一句話總結：這事兒我不知道，大家放心不會收回你已有的股權。

看起來奧特曼回應的挺誠懇的，但網友看了一眼就表示：Jan贏了。

為啥？

有網友擺出了不相信奧特曼的理由。

首先，有網友爆料奧特曼在之前的公司也讓員工簽過反詆譭協議。

YCR HARC解散的時候，奧特曼讓每個人都簽署了一份保密和反詆譭協議，這樣才能保留自己使用的電腦。我覺得這很奇怪。我之前就買下了使用的那台iMac，所以我現在可以談論這件事。

其次，眾所周知，去年OpenAI內訌那會兒，有爆料稱奧特曼與當時的董事會其他成員私下談話，討論替換掉Helen Toner（OpenAI原董事會成員），就是因為Helen和別人合寫了一篇**隱晦批評OpenAI“煽動炒作AI的火焰”**的文章。

所以，網友覺得讓員工籤不能説壞話的協議，不然就收回股權，這事兒奧特曼不可能不知道，這符合他的風格。

退一步來講，就算奧特曼本人不知道這個條款，OpenAI知道吧？這個條款又不會憑空出現。離職的員工肯定知道吧？

就沒有人跟奧特曼投訴過？

OpenAI的安全戰略

再來看關於安全問題的回應。

感謝Jan為OpenAI所做的一切貢獻，即使他離開了，我們也相信他還會繼續為我們的使命做出貢獻。鑑於他的離職引發了一些問題，我們希望澄清我們對整體戰略的看法。

首先，我們提高了對AGI風險和機遇的認識，幫助世界更好地為AGI的到來做好準備。我們多次展示了深度學習擴展帶來的巨大潛力，並分析了這些潛力的影響。在國際上，我們率先呼籲對AGI進行治理，並在AI系統災難性風險評估方面開創了科學研究。

其次，我們正在建立安全部署愈發強大的AI系統所需要的基礎設施。確保一項新技術的安全並非易事。比如，我們的團隊為安全推出GPT-4付出了大量努力，自那以後，我們不斷改進模型行為和濫用監控，以應對部署中學到的經驗教訓。

第三，未來的挑戰將更勝以往。我們需要不斷提升安全工作，以應對每個新模型帶來的風險。去年，我們採用了Preparedness Framework，用來系統化實現這一目標的方法。

是時候談談我們對未來的看法了。

隨着模型愈發強大，我們預計它們將更深入地融入現實世界。用户將更多地與由多模態模型和工具組成的系統互動，這些系統不僅通過文本輸入輸出與用户對話，還能代表用户執行命令。

這些系統將對人們幫助巨大，並且可以安全地交付，但這需要大量基礎工作。包括在訓練過程中深入思考它們連接的內容，解決可擴展監督等難題，以及其他新型安全工作。我們尚不確定何時能達到我們的安全標準，推遲發佈也是可能的。

我們無法預見未來每一個情景。因此，我們需要緊密的反饋循環、嚴格的測試，每一步都要謹慎考慮，保證世界級的安全性以及安全和能力的平衡。我們將繼續進行不同時間尺度的安全研究，並與政府和利益相關者就安全問題合作。

目前還沒有已驗證的科學手冊可以指導我們走向AGI。我們相信基於經驗的理解可以指引前進的道路。我們努力實現AI系統巨大的潛力，同時減輕帶來的嚴重風險；我們認真審視我們扮演的角色，並仔細權衡反饋。

——Sam和Greg

看完後，網友一致認為雖然是Greg發的，但絕對是奧特曼寫的。因為看起來一大篇，但實質性的東西啥也沒説。

為啥要讓Greg發，有網友猜大概是因為……奧特曼現在特別脆弱，覺得有必要發出“Greg和我在一起，我發誓”這樣的信息，來表明自己並不孤單。

不過也有網友從中分析出，OpenAI的策略是通過測試、不斷的反饋來改進模型確保AI安全性，這其實和超級對齊團隊主張的預先給出證明的方法相悖，也難怪他們會分道揚鑣。

對於這兩篇回應，大夥兒怎麼看？

參考鏈接：

[1]https://x.com/gdb/status/1791869138132218351

[2]https://news.ycombinator.com/item?id=40400224

[3]https://x.com/sama/status/1791936857594581428

[4]https://news.ycombinawtor.com/item?id=40402091