親歷者揭秘 OpenAI 崛起的關鍵：興趣驅動的探索，而非目標導向的馬拉松_風聞

沿着 Scaling Law、卷模型性能，可能會走到「死衚衕」。

「底稿」對話欄目

誰在影響、定義我們的時代？他們做了什麼，如何思考？對話關鍵人物，記錄歷史底稿。

本欄目將持續推出。

文 | 黎詩韻

編輯| 鄭玄****

我們被倡導要想明白自己的目標是什麼、並做出計劃。然而，兩位人工智能研究者卻認為，這隻適用於普通的小願望。

一旦涉及過於高遠的、不確定能否實現的目標，比如打造 AGI（通用人工智能）、登月計劃等等——那麼根據興趣進行自由的、開放性的探索，才更能實現想要的。他們把這一觀點寫成了《為什麼偉大不能被計劃》一書。

在這本書出版的 2015 年，OpenAI 成立，它一開始就確定了實現 AGI 的目標。九年間，OpenAI 取得的巨大成功，似乎證明了人工智能界是一場「目標導向者」的勝利。**「OpenAI 看似是目標導向的，但實際上在內部，它有很多有趣的、開放性的探索。」**本書作者之一肯尼斯·斯坦利 (Kenneth Stanley) 告訴極客公園。

2015 年，他任美國中佛羅里達大學計算機科學系助理教授，和前博士生喬爾·雷曼（Joel  Lehman）一起合著了該書。第二年，他們進入產業界，加入 Uber AI 團隊。2020 年，他們又一起加入了 OpenAI，肯尼斯擔任 OpenAI「開放性研究團隊」負責人。

**OpenAI的CEO****Sam Altman 是他們這本書的推崇者。**他曾在一個公開場合提到，OpenAI 訓練模型時會設定指標，指標的上升讓人開心，「但對於找出一個新的研究範式，就不起作用了」。受書中觀點啓發，他願意嘗試更多新奇性探索，「我們願意耐心等待數月、數年，大多數時候它（探索）並不起作用，但當它起作用的時候、效果驚人地好。」

加入內部，肯尼斯和喬爾看到開放性探索如何塑造了 OpenAI 的成功。例如 ChatGPT 本是一個意料之外的項目，它曾是內部幾大方向中最邊緣的；碰巧撞上了谷歌的 Transformer 架構；而 Dario Amodei（前 OpenAI 研發副總裁、現 Anthropic CEO）提出 Scaling Law（縮放定律）是為了測試模型安全性、而非湧現智能等等。

隨着 2022 年底 GPT-3.5 發佈，全球人工智能行業開啓了激烈競賽。在二人看來，AGI 仍然是一個遙遠的、而非近在咫尺的目標，僅靠 Scaling Law 這個「踏腳石」還不夠。在這種情況下，開放性探索非常重要——而目前行業極具收斂的目標和計劃、以及激烈的競爭，反而可能讓研究走進「死衚衕」。

即便 OpenAI 也面臨挑戰，喬爾感覺到，一種緊張的氛圍開始在內部出現，開放性探索的空間也在縮窄。2022 年，他們離開了 OpenAI。隨着人工智能越來越強大，他們希望更多研究一些開放性命題，比如 AI 會如何影響人類和社會、如何從哲學角度看待 AI 等等。

目前，喬爾加入了一家研究虛擬生命的公司，而肯尼斯創辦了基於開放性系統的社交網絡 Maven、並獲得了 Sam Altman 的投資。他們都在開放性探索的路上繼續前進着。

以下為極客公園與肯尼斯、喬爾的對話實錄，經整理後發佈：

《為什麼偉大不能被計劃》一書的中英版 | 圖片來源：受訪者

01

**OpenAI 看似是「目標導向型」**的成功，實則是「開放性探索」的成功

極客公園：先從這本書的起源聊起，我很好奇你們十年前是怎麼想到提出「為什麼偉大不能被計劃」這個觀點的？你們最早研究人工智能的「開放性系統」，做了圖片孵化器、機器人迷宮等實驗，好奇哪些事實讓你們覺得這個觀點是成立的、並且可以應用到除了人工智能以外的其他領域？

**Kenneth：**最初的想法來自於人工智能領域的研究，也就是我們所説的「開放性系統」（Open-Endedness）。這種系統早已存在，比如生物的演進，在幾十億年中，從單細胞進化為各種各樣的動物。又比如簡單的發明創造，我們可能花了數千年，才創造了一個輪胎、空間站和計算機等等。

作為歷史學家和計算機科學家，我們希望用算法打造一個「開放性系統」，想了解它的工作原理，怎麼不斷創新、產生非常有趣的東西。所以我們做了「圖片孵化器」網站。這個 AI 系統沒有任何目標，人們隨機在上面將不同圖片進行「繁殖」，這些圖片會構成類似生物學「分支樹」的關係。

雖然每個用户都是從亂塗亂畫開始的，但漸漸我們看到了一些熟悉的、可辨認的圖片，比如蝴蝶、頭顱、行星、汽車等等。我們進而得出一些有意思的洞察，比如你孵化出了一張酷似車的圖片，但你最初並不是以此為目標的。而如果你以此為目標，你根本得不出這張照片。這是矛盾之處。遵循這樣的原則，我們提出了基於新奇性探索、而非目標驅動的搜索算法。

最後我們發現，這不僅適用於算法領域，也適用於個人和機構。每一個個人和機構都會設定目標，但這種目標驅動並不總是對我們的創造和發明奏效。Joel 和我覺得這個過程非常重要，值得公開説出來。我們試圖找到相關信息、並進行多次對話，這就是我們這本書想法的來源。

極客公園：可否理解為這本書的核心觀點是，無論在算法、個人還是組織層面，面對一個更遙遠的目標，制定計劃不如自由探索有效？

**Joel：**一般來説，普通的做法是我們樹立一個目標、制定計劃。但我們是不制定目標、只是去探索新奇的東西。比如迷宮裏的機器人，如果給它制定走出迷宮的目標，那它可能很難走出這個死衚衕。但如果不告訴它去哪裏、而是讓它自由探索，它會更容易走出迷宮。

肯尼斯和喬爾做的「圖片孵化器」網站，從亂塗亂畫中出現了一些熟悉的、可辨認的圖片 | 圖片來源：受訪者

極客公園：我注意到，在你們剛出完這本書不久的 2015 年，OpenAI成立了。這家公司從創立起就確定了一個非常偉大的目標，那就是實現 AGI，它的每個步驟都是圍繞這個目標進行。今天我們看到，OpenAI 似乎取得了成功。所以我想問，在你們這本書出版後的十年裏，OpenAI 的故事是否反而證明了「目的驅動模式」的成功？

**Kenneth：**非常好的問題。我認為非常重要的一點就是要注意到，OpenAI 雖然取得了一定的進展，但還沒有取得 AGI 的成功。另外，我們也要意識到，公司往往會向公眾講述目標，但這其實是它們一種敍述的手段，這並不意味着企業內部就是這麼推動工作的。

**如果你去看OpenAI的幕後，你會發現它們不僅僅是目標導向的，它們也有很多有趣的、開放性的探索。**實際上，ChatGPT 就是這樣一種開放性探索，它是在一個意料之外的項目。我並不認為 OpenAI 的工作人員最早就設立了要做 ChatGPT 這個項目（的目標），或者説預見到了它能取得如此巨大的成功。它們只是在探索過程中發現這個項目非常有意思，然後一步步更新迭代才有了今天的 ChatGPT。

我們書中也提到過，創新究竟該如何推進呢？其實就是我們從有趣的一些想法開始，那究竟它是否會將我們引導向最終 AGI 的成功呢？其實這並不一定，但這是非常重要的一步，它們最終都有可能帶來革命性的變化。

另外，它也能實現其他一些重要的成就，比如吸引更多的投資。我們知道 GPT-2 並沒有帶來巨大的革命性變化，但我們仍然要儘可能地宣傳，才能吸引更多投資來發展 GPT-3、GPT-4，並最終向 AGI 的目標前進。OpenAI 就是這麼做的，這正體現了我們書中的觀點。

**Joel：**OpenAI 看上去是一個目標導向型的成功，但其實 OpenAI 剛成立的時候，內部有嘗試很多不同的發展方向。比如當時他們非常看重強化學習，包括視頻、遊戲的強化學習，為此內部做了很多嘗試。

而且 GPT 背後的核心技術是 Transformer 架構，這是由谷歌推出的，所以 OpenAI 也是在谷歌這樣的巨人的肩膀上不斷發展的。如果回顧 10 年前、20 年前、30 年前、40 年前，沒有這麼多「踏腳石」的情況下，OpenAI 也不可能取得這樣的成功。

極客公園：你們定義了OpenAI看似是目標導向、但其實是自由探索式的成功。OpenAI 內部人士曾跟我們説，鋪墊 GPT 3.5 的幾個「踏腳石」都是隨機碰撞出來的，比如聊天機器人曾是內部最邊緣的項目、碰巧撞上了谷歌的 Transformer 架構、而 Dario 提出 Scaling Law 也不是為了智能湧現而是想測試模型是否安全……這是否跟你們瞭解的情況接近？

**Joel：**是的，這些隨機探索的確是非常重要的。尤其是 OpenAI，它很早就開始推進 Scaling Law 等嘗試，並且不斷在做選擇，這是非常正確的。

**Kenneth：**的確探索很多時候是隨機的、根據興趣進行的。但 Dario 提出 Scaling Law，這不僅是一個隨機的探索、這其實也是一個目標導向性的做法。

這背後是團隊從自己的興趣出發、做了很多嘗試，想要找到解決方案，最終提出了 Scaling Law 這個解決方案。這某種意義上也是一種目標導向。

極客公園：所以開放探索和目標驅動並不是彼此對立的，而是可以統一和融合的？

**Kenneth：**的確兩者是可以並存的，能夠從一方轉向另一方。但是在我看來，這其實也是一個非常困難的問題。什麼時候該進行轉向？什麼時候是目標導向、什麼時候是興趣導向？這非常微妙，很難去找到最佳的轉變時機。

極客公園：你們能夠看到OpenAI的內核其實是一個「開放性探索」的組織，這是當初吸引你們加入 OpenAI 的重要原因嗎？

**Joel：**哈哈，有許多原因。一個最主要的當然因為 OpenAI 是 AI 領域的前沿公司。另外，它的確一開始就是一家「開放性探索」的公司，雖然它們肯定有一些目標導向的元素存在。這與我的個人興趣也是相關的。所以確實很難拒絕這樣一份工作。

極客公園：那麼 Sam 有看過你們這本書嗎、他是否認同你們提出的「開放性探索」觀點？這是他招募你們進入OpenAI的原因嗎？

**Kenneth：Sam 非常喜歡我們書中的想法，我相信他是在觀看了我關於這本書的演講時接觸到這些想法的。**他曾在公眾場合提到，他受到了這本書的一些想法的影響。Sam 對這些想法是非常包容和開放的，我覺得他暴露在這些想法當中、他認為這些想法非常有意思。

當然，我在 OpenAI 也不僅僅是因為 Sam，內部很多人都有開放的想法。比如 Jeff Clune（前 OpenAI 研究團隊負責人），他在我們之前加入 OpenAI。他也覺得，開放性探索是一個有趣且值得投資的領域。我們在那個時候達成了共識，所以我們被僱傭了。

在我看來，這本書並不是 OpenAI 的工具書。但我相信，這一文化確實對他們有影響，開放性探索是非常重要的。

極客公園：Ken 當時是 OpenAI「開放性探索」團隊的負責人，當時 OpenAI 對你們的期待是怎樣的？有給你們制定了怎樣的目標嗎？

**Kenneth：**我們面臨的挑戰在於，幾乎任何一家公司都會感興趣設定目標。但如果我們探索的一些想法，並不完全是目標導向的、甚至會背離目標的話，我們肯定會面臨一些溝通上的挑戰。這有一些複雜，因此在日常的工作中，我們需要取得一個平衡。

有時候很難理解我們來自哪裏、僱傭我們幹嘛。他們可能會非常奇怪，覺得我們做的是非客觀性的一些東西。不過最終他們意識到，對於推動 AGI 來説，這些工作是非常有用的。這已經超出了傳統團隊的認識。

**Joel：**這裏面分為兩部分：一個層面是關於組織的架構，很多人會困惑我們的工作，所以我們要跟他們解釋我們在做什麼，並找到我們工作跟 AGI 目標的關聯度；另一方面是我們實際工作的開放性，要創造新的東西。

就像 Ken 説的，我們需要在公司內部找到一種開放性的方法，既要讓大家瞭解我們在做什麼，也要新奇探索、取得進步，這兩者的平衡是一種微妙的舞蹈。

極客公園：你們是否感受到，在「開放性探索」上，OpenAI 這樣的初創公司可能比科技巨頭做得更好？我曾聽説，Google 雖發明了 Transformer 架構，但沒有率先做出 GPT，是因為它的技術路線更目標導向——Google 更強調 Encoder（輸入），因為它可以解決更多具體業務問題；而 OpenAI 更強調 Decoder（輸出），因為它沒有那麼強的業務導向，更願意像無頭蒼蠅一樣做「開放性探索」，你們怎麼看？

**Joel：**我的理解是谷歌也有這種對話模型，也是很領先的。談到好奇、興趣、技術能力、率先應用於大眾等，我認為其中包含了不同的變量。谷歌是一個更大的機構，可能有更多的「橡皮章」、繁文縟節這些東西，而 OpenAI 可能更開放。

**Kenneth：**我只是想説，涉及到任何一個大機構的成功，都包含了很多要素。不過我有一點我同意，OpenAI 確實在探索方面做得更好、它有更大的意願去冒險，而谷歌可能在這方面更加謹慎和猶豫，比如在公眾面前展示技術，谷歌可能會慢一步。

這可以理解。因為谷歌作為一個大公司，在發佈東西之前，需要做很多嘗試和實驗。他們更不願意失敗，它對於風險更有顧慮。但這並不一定是確定的，只是我們的看法。

我們看到，谷歌注重強化學習和各種方法，OpenAI 也注重強化學習、並在不同領域下注，最終它們都取得了成功。

極客公園：距離你們當時寫這本書已經過去快 10 年了，中間你們還加入了 OpenAI、Uber 等科技公司，經歷了這些再看這本書，你們覺得書中哪些觀點仍歷久彌新？哪些需要變化更新？

**Kenneth：**回頭望，這已經是我們這本書出版的第九年了。關於建立目標，我們有過非常多的、激進的爭論，但許多事情隨着時間的推移得到了驗證。

正如你剛才提到的一些例子，有些人可能會認為有些目標是有效的。但在過去十年的時間裏，我們越來越發現，目標導向有時會讓人感到困惑，會讓你有盲點、抓不到其他機會、看不到更多的可能。我們認為十年後、甚至一百年後，這個觀點可能都不會過時。

在每一章中，我們都引入了一些歷史案例和引語，比如「行者無疆」——一個好的旅行者是沒有固定計劃的，他對於要到達哪裏並不太清楚——我不確定中國的哲學家老子是否在幾千年前提出了這種描述。這是一種哲學的觀點、一種經驗之談，並不是有很多科學證據，有時候聽上去是反直覺的、是一個離經叛道的東西。

社會中確實有一些問題，例如，整個社會的組織都在圍繞目標推動，並且把「目標是非常重要的」這種文化意識強加給我們。以教育為例，老師根據考試內容教學、學生根據考試內容學習，這就是目標對教育的影響。在書中，我們強調了目標的影響是無處不在的，我們需要去掙扎往前走。

再次強調一下，我們認為「偉大無法被計劃」這個觀點，是不會發生變化的。**如果我們的人生只是目標導向的話，將無法取得完整的幸福。**這也是為什麼我們這本書如此成功和受歡迎的原因。

02

****沿着 Scaling Law、****卷模型性能，可能會走到「死衚衕」

極客公園：雖然你們反對「目標導向」，但似乎目前全球人工智能界的目標都非常收斂且明確，一是追上 OpenAI 等公司、二是儘快實現 AGI，你們怎麼看這種現象？這種「目標至上」會是你們反對的嗎？

**Kenneth：**謝謝您的問題。我同意在目前的人工智能行業中，大家定了這兩個宏偉的目標，覺得「北極星」就在那兒、我們要朝着那兒走。不過回到我一開始説的，企業往往會對外有一套説辭，但它們內部可能並不是這樣做的。

我主要想談一談，我們到底離這樣的目標有多遠？如果説只差一個「踏腳石」、離得非常近，就像上世紀 60 年代制定登月計劃的時候、已經有很好的技術基礎，那麼我們可以通過制定目標去實現。

但問題在於，如果我們還需要很多個「墊腳石」、離目標還很遠，那設定目標可能會讓我們陷入困境、無法前進。歷史上有很多這樣的例子。比如在 2017 年，我們聽到有人説第二年就會有自動駕駛汽車上路，但其實不是這樣。

因此，單純採取目標導向的方法往往會無法實現目標，可能是因為目標設定的時間太早、或者太過雄心勃勃。很多人認為現在人工智能領域只差一個「踏腳石」，只需要擴大規模就可以了，這其實是過於簡單化了這個問題。但在我看來，真正核心的「踏腳石」還沒有被發現、我們並不僅僅差一個「踏腳石」。我們很可能正在陷入目標的陷阱和迷思之中。

**Joel：**的確我們現在處於一個「荒誕」的歷史階段，全球的科技公司都在追求 AGI，這種過於聚焦的目標是人類「革命性的時刻」。但我們要知道，AGI 的發展還要很長的時間。

現在許多人認為，只需要擴大規模、參數，有更多的數據和算力，就可以可發展人工智能。這對我來説有些無聊，或者説有些無趣。這並不是最核心的「踏腳石」，我相信還有其他的路徑和方法需要我們去探索。

極客公園：為什麼我們離 AGI 不只是「一步之遙」、不只差一個「踏腳石」？你們做出這個判斷的依據是什麼？

**Joel：**我們到底距離 AGI 有多遠，其實大家是有認知偏差的。就像自動駕駛一樣，並不太清楚到底需要多少個「踏腳石」。我們唯一確信的是，如果有一步之遙的東西，你必須要在那裏、你必須去做、必須去放大。

**Kenneth：**最近有一個類比，GPT-3 就像是一個孩子，GPT-4 像是高中生。但實際上，ChatGPT 更像是教科書中的知識，在某些方面，它可能超越了我們，而在其他方面，它可能不如我們。奇特之處在於，我們會感到某些東西非常接近了，但這不一定是 AGI。

但我們也不清楚究竟還要等待多久。我們甚至可能需要一位「愛因斯坦」的出現，才能達到下一個台階。

極客公園：這讓我想到你們在書裏提到，其實從單細胞到人類的進化過程中，重要的「踏腳石」不只是智力，還包括對稱性等。那麼對於 AGI 來説，Scaling Law 帶來的智能提升會是一個靠譜的踏腳石嗎？它能支撐多久？

**Kenneth：**智能這個詞很容易讓人困惑，因為它涉及許多方面。**Scaling Law 遵循一些普遍的原理，但它也會喪失一些東西。**比如在技術上，你必須將大量人類數據進行更好的壓縮和訓練，它不再是傳統意義上的智能、而是不斷提升的智能。我們最終可能會遇到一個瓶頸或死衚衕、會在訓練上遇到走不下去的時刻。

就像 OpenAI 在不斷擴大規模、增加參數，但它還是遇到了瓶頸（注：比如 GPT-5 處於難產狀態）。這也是為什麼我們需要新的踏腳石。

**Joel：**如果想要達到 AGI 那模糊的彼岸，有點像做一個賭注，很多明顯的路徑都必須要去嘗試。因為 AGI 可能不僅來自 AI，還可能來自數學、哲學和其他領域。

《神經語⾔模型的縮放定律》論文寫道，隨着模型⼤⼩、數據集⼤⼩和⽤於訓練的計算量的增加，語⾔建模性能平穩提升 | 圖片來源：OpenAI

極客公園：現在各大人工智能公司都在這一維度激烈競逐，而你們在書裏提到，競爭其實跟「開放性探索」相悖、因為它是極其收斂的目標。你們怎麼看待現在人工智能領域的激烈競爭？

**Kenneth：**這就是目標導向的悖論，它會使得我們更加盲目，對其他方法和路徑視而不見。像 OpenAI、Anthropic 和 Google 這樣的公司，它們存在激烈競爭，因為哪家如果落後了，就可能無法獲得更多資金，公司會受到生存威脅。

在這種競爭中，大家唯一的目標就是活下來。公司更傾向於繼續沿着既定路徑前進、擴大規模。如果這時候嘗試創新，會面臨失敗的風險、可能會被踢出局。所以創新往往會減少。我認為在這樣的競爭環境下，很容易進入死衚衕。

不過當這些企業遇到瓶頸時，他們可能會意識到需要轉向、進行更多開放性探索。

極客公園：這跟很多人的看法相反，一般我們認為激烈競爭會推動模型智能水平的提升、加速 AGI 的實現，但在你們看來反而會適得其反？激烈競爭會弊大於利嗎？

Kenneth：是的，這可能有些反直覺。雖然競爭會引發「軍備競賽」，使得模型性能有所提升，但過度的競爭會減少開放性的嘗試，使得創新更加聚焦和侷限、無法取得真正的進展。

極客公園：説了這麼久的「開放性探索」，那麼對於現在目標和路徑已經相對明確的人工智能企業來説，它們應該怎樣才能做好這件事？你們對於「開放性探索」有沒有一些建議？

**Kenneth：**我們會發現，很多公司太早就建立了一套體系，並且非常目標導向。如果一些探索在測試中表現不佳，他們就會放棄研究。我認為這會減少開放性探索的機會，是非常不利的。

對於 AGI 也是如此。當前的 Transformer 架構可能還遠遠不夠，甚至我們對神經網絡的運作機制還了解得不夠，目前仍有許多失敗的案例。我們並不清楚究竟還差多少步才能實現 AGI，因此我們需要多重的、開放性的探索。

在當前階段，對於 OpenAI 和其他公司來説，它們不僅需要改善現有的模型、更需要探索新的路徑，這兩件事需要同步推進。

03

離開 OpenAI，人工智能界還需要更多「開放性探索」

極客公園：不久前 Ken 接受了一個採訪，提到你離開 OpenAI 是因為「有一些的沮喪、有一些頓悟」，我好奇你的「沮喪」、「頓悟」是什麼？方便跟我們分享一下嗎？

**Kenneth：**讓我想一想，我並不是説我對 OpenAI 不滿意，而是我越來越意識到，我對人工智能的影響存在一些擔憂。現在有很多關於人工智能消極影響、安全以及文明終結的討論，這都是很明顯的一些問題。

我越來越感覺到，社會中存在一些對人工智能的不滿情緒、人們感到越來越多的失落，大家會追問生命的意義究竟是什麼？**比如，未來機器人可能有數百萬個非常好的想法，一秒之間就可以超越我們一生的成就、或者比我們個人多年的經驗更具智慧，那麼我們如何再去做有創意性的工作、並從中獲得成就感呢？**這是一個非常嚴重的問題。

我感覺我的工作，似乎在某種程度上加劇了人們的這種擔憂和焦慮。因此，我想思考人工智能未來的發展方向、解決它深層次的問題——我們究竟該如何改善人工智能，使其更好地為人類服務，促進人類之間的連接，而不是加劇競爭？

這是我最近非常關注的問題，我認為需要進行開放性探索，我相信這對人類社會會更有助益。基於這樣的原則，我成立了一家自己的公司，希望建立一種開放性的社交網絡。

極客公園：你創立了 Maven，它是一款基於開放性探索的社交產品，可不可以介紹下 Maven 是一個怎樣的產品？為什麼它能解決你提到的人工智能存在的問題？

**Kenneth：**你可能也注意到一些社交媒體存在的問題，比如信息繭房、對立觀點、不斷爭論的意識形態導向、甚至陰謀論等。那麼這些問題從何而來呢？實際上，這是因為這些系統的質量有問題。

幾十年前人們就曾説過，人們會產生各種各樣的觀點和內容，但很多內容是負面的或不好的。而現在的社交媒體過於關注內容的受歡迎程度。我們認為這種信息分發模式需要改進。

所以我創立了 Maven，這是一個基於內容質量來推薦的「開放性系統」。人們打分、評價，去找到好的內容。這種客觀的評價方式、而不是靠點贊排序，才能帶來更好的內容。

極客公園：我注意到 Twitter 的聯合創始人投資了你、Sam 也投資了你，為什麼 Sam 會決定投資你？他對你這次創業有沒有提出建議？

**Kenneth：**Sam 的確投資了我的公司。我寫完這本書之後，也想讓「開放性系統」被更多人使用，於是萌生了成立自己公司的想法。從職業發展的角度，Sam 給了我許多建議和見解。

從孵化投資人到 OpenAI 的 CEO，Sam 自己的職業發展就是非常了不起的跨越。他給我的建議是，我們不一定要沿着一份工作、一條道路前進，我們的職業發展也可以非常多元化。這給我很大的啓發。

極客公園：Joel 離開 OpenAI 的原因是什麼呢？

**Joel：**主要是我的職業發展追求跟它不再完全契合。最初加入 OpenAI 時，這家公司還處於比較基礎的階段，內部有機器人、人工智能等多個研究方向。然而，後來這家公司變得更加聚焦，我也注意到公司內部存在一些緊張的氛圍，這對開放性探索有一定限制。

正如 Ken 提到的，我們需要考慮到 AI 對社會的影響、一些哲學問題、還有如何利用人工智能讓個人更好發展等等，這些都是很有趣的研究角度。我希望能繼續研究，而 OpenAI 可能並不是發展這些興趣的最佳場所。

離開 OpenAI 後，我加入了一家研究虛擬生命（artificial life）的初創公司，現在還在繼續從事開放性系統的研究。

肯尼斯加入 OpenAI 時發佈的推文 | 圖片來源：X

極客公園：你們提到，即使是 OpenAI 這樣最頂尖的人工智能公司，隨着公司規模的擴大，它在開放性探索上的投入也開始變得緊張。你們對此有什麼擔憂嗎？

**Kenneth：**的確如此，資金的壓力還是非常明顯的，如果沒有明確的回報，管理層可能會減少開放性探索的投入。不過對於一些創新型的初創企業來説，應該還好。

像 llya（注：OpenAI 前首席科學家）剛剛離開了 OpenAI，成立了自己的公司。他説他唯一的目標就是實現 AGI，而且投資不是大問題。這表明即使沒有明確的回報，也能得到資金支持，許多研究人員都在進行各式各樣有趣的探索。

關於 OpenAI，有人説它現在變得更加商業化，我不太確定。不過內部肯定還有一些開放性探索的機會。因為商業化並不是 OpenAI 的最終目標，也不是很多 OpenAI 研究人員的唯一目標。

極客公園：Sam 有跟你們聊過這方面的困惑嗎？比如隨着公司規模變大，他是否感到開放性探索更難做了？

**Kenneth：**這是一個非常有趣的問題。我不太清楚 Sam 的腦袋裏在想什麼，因為他沒有跟我聊過這些。

極客公園：最終回到個人，你們是人工智能研究員和創業者、也是普通人。如果你們自己有一個看起來很遠大的、又很不確定的目標，你們會怎麼實現它？你們對普通人有什麼建議嗎？

**Joel：**作為一個研究者，有些東西可能是似是而非的。我們書中的一些想法並不一定直接帶來成功，有時需要我們慎重認真的看待和廣泛閲讀。

作為個人，我認為保持謙卑、開放探索的心態非常重要。因為偉大是不能被計劃的，但我們可以找到偉大中的亮色。

**Kenneth：**作為個人，你要保持均衡。比如當你過於專注於目標，生活可能就沒有那麼有趣。就像有人的目標是賺錢，但如果發現了其他有趣的機會，即使這個機會的收入並不高、也不在主流地帶，我也建議他嘗試。

作為研究者，事實上，我想都沒想過什麼東西會導致 AGI。我相信直覺。也就是説，我會遵循我的興趣行動，而這會引導我發現更多的有意思的東西。看起來我離目標更遠了，但實際上，興趣才會通往最終目標的實現。

*頭圖來源：受訪者

本文為極客公園原創文章，轉載請聯繫極客君微信 geekparkGO