OpenAI創始人：“我們的願景是AGI對全人類有益”_風聞

“我們建立了一種文化——真正關注細節，並努力確保細節正確，吸引那些想要以這種方式工作的人進行非常仔細的工程設計和科學研究。”

整理｜中國企業家雜誌

頭圖來源**｜**視覺中國

7月24日，OpenAI首席執行官山姆·阿爾特曼（Sam Altman，下稱“阿爾特曼”）上線了研發多年的加密貨幣項目世界幣（WorldCoin），再次引發廣泛關注。阿爾特曼正在像他宣稱的那樣，為人類在AI世界中更好生活不斷努力。

3個月前，山姆·阿爾特曼和OpenAI聯合創始人格雷格·布羅克曼（Greg Brockman，下稱“布羅克曼”）一起接受了美國播客的採訪。訪談中，兩位OpenAI的核心人物都闡述了自己的AI觀，此外，他們還探討了AI對各行各業的影響、安全問題以及他們在AI之外的投資佈局。

兩人在闡述OpenAI的願景時，不約而同地提出他們想要開發對全人類有益並安全的AGI（通用人工智能）。對熱議的AI安全問題，他們也承認了風險並表示在努力克服這些問題。另外，兩人還談到了在其他領域的投資，如阿爾特曼對清潔能源行業特別感興趣，而布羅克曼則是對醫療和教育行業頗感興趣。

以下是訪談的精彩觀點：

1.我們正在努力為全人類開發有益、安全的通用人工智能。

2.從根本上説，我們想的是為每個人提供這種技術，消除他們創造、完成新任務的障礙，並推動人類解決他們真正感興趣的問題。

3.我們不再只停留在擁有原始知識的階段，而是向第二階段前進——引導機器執行我們下達的任務，並根據社會價值觀進行操作。

4.我們建立了一種文化——真正關注細節，並努力確保細節正確，吸引那些想要以這種方式工作的人進行非常仔細的工程設計和科學研究。

5.我認為豐富清潔的能源不僅能解決氣候危機，還能帶來其他方面的好處，投資能源是比投資我能想到的任何其他單一投入更重要的一件事。為從根本上改變能源獲取成本提供資金，是一件偉大的事情。

6.AI對每個人來説都是生產力工具，將使我們最好的科學家變得更好，促進科學研究的進步。

未來3～10年，AI將影響哪些行業**主持人：**我們先從最基礎的問題開始，可以簡單介紹一下你們OpenAI的使命是什麼嗎？你們做所有決策的目的是什麼？

**阿爾特曼：****我們正在努力為全人類開發有益、安全的通用人工智能。**這是一個前所未有的項目，我清楚做這件事的困難程度，一路上我們會犯很多錯誤，但這是我們堅持的方向。我堅信AI將是人類迄今為止開發出的最具變革性的技術，在某種程度上，它將會幫助我們開發未來所有的技術，前景光明。

**布羅克曼：**大約在8年前，我們創辦了OpenAI，當時我真的相信人工智能會出現，也清楚要實現它需要很長時間，不過一想到我們有機會影響這項技術的發揮，就覺得很興奮。我們的願景是AGI對全人類有益，並且我們在嘗試用各種方式實現這一目標。

一開始我們有這樣的理想，但不知如何與實際行動結合起來，經過多年的努力，我們弄清楚瞭如何建構一個真正有用的系統，如何將我們的價值觀融入到這個系統中。在過去的幾個月裏，我們的技術慢慢成為主流，人們開始從我們的技術中獲得好處，我們感到很高興。這項技術仍然處於早期階段，要做的事情還有很多，不過我們堅信，應該讓每個人都參與其中**，獲得發言權。**弄清楚如何真正實現有效的全球治理，這與技術開發是同等重要的。

**主持人：**現在全球大約有10億人屬於經濟條件優越的中產階級，他們也正在自由地使用AI幫助自己工作和學習，那麼AI要如何造福剩下的70億人呢？

**布羅克曼：**我們開發的AI有一個重要特徵，那就是不設置訪問限制，每個人都能接觸和使用這項技術，將他們的偏好和反饋輸入到該系統中，用來改善他們的生活，這是我們開發這項技術的初衷。

現在有很多關於這項技術將如何發揮作用的問題。我們公司的結構比較特殊，是一家非營利性組織，因此，如果資本高度集中到OpenAI中，那它並不會由股東持有，而是歸公司所有，並最終向全世界分配。當利潤向全世界分配的時候，就可以考慮UBI（Universal Basic Income，全民基本收入），並以這種方式分配資源。從根本上説，我們想的是為每個人提供這種技術，消除他們創造、完成新任務的障礙，並推動人類解決他們真正感興趣的問題。

**阿爾特曼：****所有真正可持續的經濟增長都來自技術進步，而社會政治管理和文化，可以幫助我們實現技術進步。**因此，我們正在推進如何去幫助剩下的70億人，未來我們的技術還會更進一步，我相信技術是提升每個人生活質量的關鍵。

**主持人：**AI在教育領域可以帶來什麼助力？

**布羅克曼：**如果我沒有創辦一家AI公司，可能就會去開一家編程教育公司。試想一下，如果未來能夠為孩子們提供一位真正瞭解他們的老師，願意花時間去了解他們，知道怎樣去激勵他們，且這位老師是全天候免費服務的，這聽起來是不是非常棒。

你可以看看像可汗學院（Khan Academy，一家非營利教育機構）之類的機構，他們確實開始採用GPT-4並將其運用到課堂上，而且他們弄清楚瞭如何引導這項技術，使其成為一個有用的導師。如果孩子們對它提出“幫我做作業”的要求時，它會説“不，我不能這麼做”。並且還會試圖去弄清楚孩子們對什麼感興趣以及如何真正激勵他們去做更多的事情，現在我們正在進入何如充分使用它的階段。

**主持人：**很多人可能會説現在已經有了可汗學院，還有很多線上課程，而你們提出來的都還只是設想，並沒有實際的產品。你們覺得那些沒有受過教育的人還需要你們的產品嗎？

**布羅克曼：**我們目前接受教育的方式是通過那些聰明的人，他們教會我們知識和解決問題的方法，那未來，如果有一台機器可以做到比人還聰明，是不是會更方便。我們已經開發了很多虛擬助手，像Alexa（亞馬遜公司推出的智能助理）和Siri（蘋果推出的AI助理），但對於一些需要大腦思考的問題，目前做的還是不夠，我們需要更先進的技術去增強我們思考和解決問題的能力。

毫無疑問，像GPT-4的功能讓所有人都看到了，**我們不再只停留在擁有原始知識的階段，而是向第二階段前進——引導機器執行我們下達的任務，並根據社會價值觀進行操作。**所有這些技術都是我們正在研究和開發的。隨着技術使用規模的不斷擴大，下一階段的技術和產品測試將在未來幾年進行。

**主持人：**未來3～10年，AI將影響哪些行業？

**布羅克曼：**我覺得這項技術可以應用到法律行業，通過提供法律服務可以帶來很多好處。我最喜歡GPT-3的服務是一個名為Augrented的工具，它可以幫收到驅逐通知的租户瞭解裏面合同問題。因為該人羣中有很多人不一定有機會聘請律師，這項技術就可以幫助他們做原本無法做到的事情。這就是我們看到的非常有效的使用案例之一。

**主持人：**現在市場有一種説法是AI將人類的智力放大了，比如可以用GPT-4去寫一本書，你們對此怎麼看？

**阿爾特曼：**我十分贊同這種説法，這也是我們竭盡所能去推動的發展方向。我看到一條讓我印象深刻的推文，**有人説他從未想過自己會與像GPT-4這樣強大的智能共存。**你會發現，自己已經深入到了AGI領域，事實證明，**構建一個真正擅長放大人類意志並讓我們變得更強大的AI是完全有可能的。**這會讓我們的工作更加高效、更加出色。更重要的是，事實證明人們真的很喜歡它。對我而言，OpenAI最令我欣慰之處就是人們非常喜愛它的產品，並從中獲得各種意料之外的好處。

****“我們是一個非常追求真理的組織”******主持人：**你們OpenAI的整個團隊在研究和開發ChatGPT等AI產品時，有沒有遇到讓你們驚喜的時刻？

**布羅克曼：****第一個驚喜要追溯到2017年。當時我們產出了這篇名為《無監督情感神經元》的論文，不過並沒有得到太多關注。但這對我們來説，是真正的突破，我們確實需要追求這種範式。**我們訓練了一個模型來預測亞馬遜評論中的下一個字符，它能夠學習名詞在哪裏，動詞在哪裏，但更令人意想不到的是，它學會了最先進的情感分析和歸類，可以告訴你評論是正面還是負面的。我們從來沒有告訴機器這些語言的意義，它是通過執行此任務以某種方式弄清楚了它。機器學習並不完美，我們還有很長的路要走，現在還處於早期階段，但已經能夠開始解決問題了。

讓更多人感受到編程的樂趣對我來説是很有意義的。以前從未編程過的人能夠進入該領域，而那些本來就優秀的程序員可以完成更多創造性活動，達到這種能力和水平可以加速我們的編碼工作流程。

**主持人：**你能展開説説怎麼加速編碼嗎？

**布羅克曼：**編碼過程中，我們花費了大量時間來準確記住哪些庫可以執行你在尋找的功能，如何實施它們，以及參數到底是什麼。而你想構建一個系統或一個應用程序，這是個高級任務，以前的Copilot（輔助編程工具）只是樣板文件，它們只死記硬背。現在模型開始變得更好了，如果你不太瞭解某種特定的編程語言，或者你不清楚一組特定的庫，該模型會很樂意提供這些。而GPT-4的有趣之處在於，它能夠指出編碼的錯誤在哪裏，這些錯誤消息有時晦澀難懂，你得四處尋找答案，比如查看各種網站，嘗試從其他人所説的內容中拼湊出來，現在GPT-4就可以幫助你解決這些問題。

**主持人：**阿爾特曼，你感受到的驚喜是什麼？

**阿爾特曼：**我引用一段來自Noam Shazeer（Character.AI創始人）的話：“我們沒有解釋為什麼這些架構似乎有效，我們將這些成果歸功於上帝的仁慈。”這對我來説是一個反覆出現的主題，**我認為自己是一個經驗主義者，我相信如果某件事有效，你做得更多，它就會變得更好。**剛剛格雷格提到的“無監督情感神經元”是一個非常大的驚喜，現在的GPT-4所做的一些事情開始解釋為什麼AI應該發揮作用。我完全相信AI，我認為它會走得更遠。在我們創辦OpenAI之前，觀察到AlexNet（卷積神經網絡）結果時，我就感覺很神奇。

**主持人：**你們在只有幾百人的情況下，超越了世界最大的科技公司才能達到的水平，這需要付出很多努力，也還要一些運氣。我很想知道，是什麼力量推動你們實現這一目標的？OpenAI內部有主要領導者嗎？

**阿爾特曼：**我們做了很多事情，有些是有意為之，有些是幸運。其中一個重要因素是，我們建立了一種文化——真正關注細節，並努力確保細節正確，吸引那些想要以這種方式工作的人進行非常仔細的工程設計和科學研究。另一個原因是我認為我們是一個非常追求真理的組織，找到有效的方法並做更多的事情。

創立OpenAI時，我們與該領域存在的其他人工智能研究不同，他們有不同的激勵系統，要考慮的事情也很分散，而我們就做出了高度集中的冒險，做了當時被認為是難以想象的事情。我們將大部分資源投入到這個項目中，雖然有風險，但我們已經仔細研究了它，有信心可以做出成果。

**布羅克曼：**我的想法是從“第一原則”出發。在很早的時候，Ilya（OpenAI首席科學家）每天都會和我辯論一個小時左右。比如，我們就應該僱用誰討論了很久，是要聘請傳統的機器學習博士，還是僱用以前從未這樣做過的軟件工程師，抑或僱用介於這兩者之間的人？對每一個決定，我們必須看到它們的後果，然後我們會繼續學習更新。

我們無法提前知道一切，但可以從實踐中學習。就像我們開發的OpenAI-Five並不斷擴大其規模，在Dota2的遊戲比賽中，完全不落下風。（注：OpenAI-Five，一個可以玩Dota2遊戲的人工智能，Dota2是一款擁有大量狂熱粉絲的多人在線戰鬥競技遊戲。2018年，他們全力挑戰世界冠軍隊伍OG戰隊。）

這是我們第一個真正規模化的系統，隨着我們投入更多的算力，系統每週都會變得更好。我們的目標是耗盡現有算法的空間，以便我們可以進行新的算法開發，這就是我們真正想做的。當你試圖去追求這個方向時，另一個方向會拉着你向前進，並説這是有效的。對我們面前所看到的做出反應，持續更新、轉向、改變，從技術角度來看，這非常重要。

**阿爾特曼：**當時我們擴大了OpenAI-Five項目規模，基本上沒有人認為這能成功。事實上，你可以向AI系統投入任意數量的計算來達到所需的智力水平，並且這涵蓋了令人難以置信的計算範圍和智能程度，這就像一個驚人的科學發現。

**布羅克曼：**我們還研究了算法的進步，將最好的系統和最好的算法組合在一起，GPT-4等系統就誕生了。當我們思考這個問題時，就意識到如果將GPU的所有信息都輸入到新算法的供應鏈中，甚至是上傳到大規模數據處理系統中，那麼這是個大工程，任何一家公司都沒辦法單獨辦到。從某種程度上來説，這實際上是一個全人類的項目，需要很多公司參與進來。

****“AI對每個人來説都是生產力工具”******主持人：**阿爾特曼，有人在推特上給你發了一條推文：“你接下來要説的是我們應該監管人工智能。”你回答：“是的，我們應該監管人工智能。”所以你如何看待很多人都説“你們行動太快了”的觀點，在監管、全球治理或吸納人才方面你們還有什麼看法？

**阿爾特曼：**我理解大家的焦慮和恐懼，人們對於現在科技變化的速度感到害怕。我們也贊同謹慎行事，要加強對人工智能的監管，但是暫停研究是沒有意義的。

**我們真正需要做的是弄清楚什麼樣的監管方法、規則和安全標準能在混亂的現實背景下真正發揮作用。應該保持世界變化的速度相對穩定，而不是秘密構建AGI，然後在某個時刻立即公開它。**機構不會在一夜之間變得很好，他們應該是逐漸成為科技發展的一部分，為科學研究提供關鍵反饋，告訴我們什麼時候犯了愚蠢的錯誤，找到有巨大好處和潛在危害的領域，在風險低於預期時犯錯誤並吸取教訓。

**布羅克曼：**我們確實在努力解決這個問題。我們創辦OpenAI時，真正考慮的是如何開發安全的AGI，這決定是否造福於全人類。這裏存在兩個問題，一個是技術安全問題，另一個是社會安全問題，要確保人工智能技術被引導安全地使用。

我比較瞭解技術，所以我會專注於解決第一個問題。過去四五年我們已經開始部署，當GPT-3出現問題時，我們會按照GPT-3的分佈方式進行修補，使用過濾器和非模型級別的干預措施。現在我們的技術逐漸成熟，實際上能夠進行模型級別的干預，GPT-4能夠以自動化的方式理解模型中的結果，因此在安全過濾方面做得非常出色。

**主持人：**人工智能的批評之一是能源的使用。阿爾特曼你認為未來不僅會有無限的智能，而且會有無限的能源，你在Helion Energy（一家清潔能源公司）上進行了大量投資，能談談你投資它的原因以及你所期待的結果嗎？

**阿爾特曼：**我不認為AI的未來會有無限的智能或者能源，我認為應該是不斷下降的價格和不斷增加的豐富產品，我們是不可能達到無限這個程度的。我覺得這些對人工智能系統的能源批評是一種低俗批評。**我認為豐富清潔的能源不僅能解決氣候危機，還能帶來其他方面的好處，投資能源是比投資我能想到的任何其他單一投入更重要的一件事。為從根本上改變能源獲取成本提供資金，是一件偉大的事情。**Helion正在努力做到這一點，我希望明年能聽到好消息。

**主持人：**布羅克曼我們瞭解到你正在投資一些醫療保健、藥物開發等領域的公司，你是怎麼想的？

**布羅克曼：**OpenAI內部有一個基金，專門投資一些技術初創公司，像Ambience Healthcare（醫療領域的人工智能公司）這樣的初創公司實際上正在嘗試將AI應用到實際醫療活動中。甚至微軟也開始通過Nuance（人工智能軟件公司）來完成它在醫療保健行業的AI戰略。如果你考慮一下醫生所面臨的一系列問題，你會發現其中很多都是行政問題。我的父母都是醫生，我聽説過所有關於他們如何被迫用iPad與病人交談的故事。我們將進入這樣一個世界，查看Nuance即時轉錄的醫生信息，並在事後獲取醫生筆記，這樣就減少了醫生在面對患者家屬的解釋精力，醫生也能夠真正專注於患者的護理。

我們已經從推特上看到人們使用ChatGPT看病的好處了。還有人通過ChatGPT救了他狗狗的命，報道説他去看了獸醫，獸醫並沒有及時做出治療，網友焦急地將醫療記錄上傳到ChatGPT上。然而，ChatGPT非常肯定地説“我不是獸醫，你需要和獸醫談談”。不過也給他了一些建議和解釋，讓他有信心去找第二位獸醫。我認為這是一個非常有趣的例子，因為他確實指出了我們希望人工智能如何介入的問題。人類在醫學領域對醫生是非常依賴的，但人類也會犯錯誤，第一個醫生做出了一個錯誤的決定，可能會產生致命的後果。因此要弄清楚如何讓合適的人進行正確的監督。

**主持人：**你們正在通過OpenAI投資使用你們平台的公司，這會帶來改變嗎？是否有其他公司將使用你們的API（應用程序的調用接口）？很想知道使用AI讓所有行業變得更好的最佳方式是什麼？

**阿爾特曼：**我們現在看到，人們在各地調用OpenAI的API，並且隨着模型變得越來越智能，可以不斷提升產品和服務的能力，所以我們可以充滿信心地回答這個問題，這種情況將會繼續下去。

**主持人：**你們認為使用人工智能或現代人工智能技術將給3~10年內的科學研究帶來什麼助力？

**布羅克曼：**華裔數學天才陶哲軒最近説GPT-4加快了他的速度。陶哲軒是一位著名的數學家，他説用GPT-4來幫助他撰寫項目申報中的資金申領，可以帶來極大的幫助，解決一些單調乏味的工作。其實人們每天都會在一些單調重複的工作中花費大量的時間和精力。世界上最聰明的人正在花費他們大量的時間從事這項不太有創造性的工作，那真是太浪費了。AI可以幫助他們解決這些不太重要的繁瑣工作，讓人們有精力去做真正有價值的事情，他們也能取得更多成就。

**阿爾特曼：是的，我覺得AI對每個人來説都是生產力工具，將使我們最好的科學家變得更好，促進科學研究的進步。**最終，這些系統可以幫助我們儲存比人類大腦更豐富的知識，並發現新的聯繫、新的想法等。來源：中國企業家雜誌