硅谷列傳 丨 同馬斯克決裂，上高中就出櫃，chatGPT之父奧爾特曼的謎樣人生_風聞

“現在我成了死神，世界的毀滅者。”

多年以後，面對美國國家廣播公司NBC的紀錄片團隊，奧本海默談到他第一次看到蘑菇雲時，回想起印度史詩《薄伽梵歌》當中的這句話。

半個世紀以後，OpenAI的創始人山姆·奧爾特曼説，他也非常喜歡這句話。

他很樂意把自己同美國原子彈之父奧本海默相提並論。

他説：我跟奧本海默的生日是同一天，4月22日。

一位科技作家評價山姆：

“他既要創造出能毀滅我們的東西，同時又要救我們於水火。”

他把自己的公司比作“曼哈頓計劃”。

而他也非常熱衷於推動建立一個像國際原子能機構一樣的組織，來監管人工智能。

在他看來，他帶領OpenAI推出的chatGPT對這個世界的影響，將不亞於20世紀的原子彈。

但他本人和這家公司，都是21世紀硅谷科技故事的一朵奇葩。   

作為CEO，他在OpenAI沒有任何股份。

他從公司獲取的唯一收入是——年薪6.5萬美元。

他沒有直接參與ChatGPT的開發研究，也沒有訓練過模型當中的神經網絡，卻被人稱作“ChatGPT之父”。

馬斯克同他決裂，卻又對他心生忌憚。

美國政要對他的公司虎視眈眈，卻願意同他高談闊論、把酒言歡。

他的人生，就像ChatGPT一鳴驚人背後的故事一樣，撲朔迷離。

    

1985年，山姆出生在美國，他是四兄妹中的老大。

小時候，他們一家人會在飯桌上玩“猜平方根”這樣的遊戲，隨機喊一個數字，看大家誰猜的平方根更接近。

他弟弟回憶説：“哥哥總是要贏，必須他説了算。”

8歲生日那天，他得到了人生中的第一台電腦，蘋果的Macintosh LC II，從此迷上了編程。

他説，這是他人生的一道分界線。有一天，他玩到很晚，腦子裏突然冒出一個想法：   

“總有一天，這台電腦會學會自己思考。”

12歲那年，他開始做起了第一筆生意，在網上賣棒球卡。

青春期的時候，他意識到自己是個同性戀，不想瞞着爸媽，於是就坦白了，把他媽嚇了一跳。

在他所在的中學裏，校風比較保守。但山姆向全校師生髮表演説的時候，公開出櫃了，把自己的性取向告訴了大家，還問了一個問題：“學校是想成為一個壓抑人性的地方，還是對形形色色的思想保持開放的地方？”

他的一個老師後來回憶説：“山姆的所作所為改變了學校，就像有人打開了一扇門，後面走出來了各式各樣的孩子，他們終於可以勇敢地面對這個世界了。”   

後來他的創業導師保羅·格雷厄姆説：“山姆在獲取權力方面有着非凡的天賦。”

在斯坦福讀大學期間，他學的是計算機，他懷抱着兒時的夢想，選修了人工智能課程。

但他發現，“這根本行不通”。

讀了兩年，他就跟兩個同學一起退學了，開始自己創業。

他們開發了一款名叫Loopt的應用程序，可以在地圖上找到你朋友的定位，類似於微信好友共享位置。開發過程中由於他過度勞累，以至於患上了壞血病。

而他換來的就是這款應用的估值達到了1.75億美元，用户規模達到了300~500萬的量級。

2012年，在賣掉了這家公司以後，他得到了500萬美元，成立了一家風投基金，但他找到了一個更適合他的棲息地——Y Combinator（簡稱YC公司）。

這家名字古怪的公司，功能是幫助初創企業成長，寬泛來説叫“孵化器”，但因為他們並不給創業公司提供辦公場地，所以嚴格來説應該叫“加速器”，加速他們成長。   

公司提供的是創業輔導、培訓，和少量資助款項，同時要求佔股7%。

在Loopt還沒賣掉的時候，山姆就作為創業者，向YC公司提出了申請，贏得了6000美元的資助。

YC的創始人保羅·格雷厄姆説：

“我第一次見到山姆時他才19歲，我當時就想：比爾·蓋茨創辦微軟的時候就是這個樣子。”   

格雷厄姆也不是等閒之輩，他是一個天才程序員，自己的初創公司當年以5000萬美元的價格賣給了雅虎，後來同妻子創辦了YC公司。

很快，山姆就從YC公司的被投企業負責人，變成了YC公司的兼職合夥人。

每年，他們會收到上萬份創業申請，然後挑選其中1000家做現場陳述，其中有幾百家能夠過關，獲得資助。

在山姆看來，經營YC公司，每年有一半的時間，感覺就像一個“夏令營的輔導員”。

YC公司把這些初創公司展示工作進展的彙報過程打造成了一個叫做“路演日”（Demo Day）的品牌活動，邀請數千名投資人觀看。

埃隆·馬斯克、馬克·扎克伯格、亞馬遜的貝佐斯，這些創業家還都當過路演日講座嘉賓。    

2009年，格雷厄姆發表過一篇著名的博客《五位創始人》（Five Founders），列出了過去30年最有意思的5個人，其中有史蒂夫·喬布斯，還有谷歌的兩位創始人，而最後一位就是山姆·奧爾特曼，而他當時只有23歲。

格雷厄姆説：

“山姆和喬布斯一樣，每當我給初創企業提供建議的時候，我參考最多的就是這倆人。如果事關設計問題，我會問‘喬布斯會怎麼做？’，而事關企業家戰略和雄心抱負的問題時，我會問‘山姆會怎麼做？’”

雄心，或者説野心，一種改變世界的野心，格雷厄姆14年前就已經從山姆的身上看得一清二楚。   

YC孵化過的企業中，最有名、最成功的一家，就是民宿平台Airbnb，如今市值已經超過5000億人民幣。

當年Airbnb的創始人切斯基跟山姆做創業交流的時候説：

“我們估計會把營收控制在3000萬（30 million）美元的規模。”

而山姆告訴他：“把你的‘million’都換成‘billion’（十億）。”

“不然的話，要麼就是你們根本不相信你們這份事業，要麼就是我不會算數。”

在他擔任YC全職合夥人期間，他投資了大約40家公司，截至2014年，其中有5家公司的估值是YC投資時的100倍以上。   

2014年，格雷厄姆意外地任命山姆擔任YC總裁，而山姆當時只有28歲。

格雷厄姆説：“山姆是我認識的人裏最聰明的人之一，他對初創企業的理解超過我認識的所有人，包括我自己。”

他的妻子回憶説：當時兩口子壓根就沒討論過什麼接班人的名單，山姆是不是排在第一位什麼的。

只有唯一的方案，就是山姆接班。

格雷厄姆讓山姆來家裏吃飯，在廚房裏問山姆：“你想接手YC公司嗎？”

山姆笑了。

格雷厄姆説：“就是那種男孩子一下把廢紙團命中遠處垃圾筐裏的笑容。”

山姆認為，沒有重大的科技進步，就不可能有萬億美元的企業誕生。

所以在他接手之後，YC公司接納了更多的硬科技創業項目，比如自動駕駛和核聚變。

在舊金山完成一次徒步旅行的途中，山姆頓悟了一個觀點：

人類並不是獨一無二的。

換句話説，用高級的機器來模仿人類智能並不存在不可逾越的障礙。

在他看來，我們每秒鐘能夠攝入的信息速率只有2比特，跟機器比起來，“我們就像慢速播放的鯨歌（鯨魚交流時發出的聲音）。”

他認為，到2030年左右，模擬人類大腦的硬件能力是完全可能的。

就在他頓悟的同一時期，他收到了一封來自馬斯克的郵件。

馬斯克説，他想成立一個研究機構，負責發展安全的、對人類有益的人工智能。

2015年12月，OpenAI正式成立，一眾硅谷大佬——馬斯克、裏德·霍夫曼、彼得·蒂爾、亞馬遜網絡服務公司等共同認捐了超過10億美元。馬斯克和山姆·奧爾特曼擔任OpenAI聯合主席。

這家非營利機構的宗旨是，打造一台在各方面都能像人類一樣思考的計算機，並藉此為人類謀取最大利益。

在山姆看來，培育人工智能的早期過程，就像教導人類的小嬰兒一樣。

但在OpenAI創立最初的幾年裏，沒人知道他們是在訓練小娃娃，還是走進了一個燒錢的死衚衕裏。

看着神經網絡在訓練過程中的漏洞百出，信心和灰心的界線會變得越來越模糊。他們需要花上耗盡愛你的時間才能看到它學會一些有趣的東西。

這也就是為什麼，在21世紀10年代，人工智能很熱的那些年，行業內幾乎沒人看好這條賽道，以至於他們招人都很困難。

ChatGPT的本質，並不是從一個很大的知識庫裏面提取信息（搜索引擎），而是推理、預測出下一個該説的單詞究竟是什麼。   

訓練的時候，你問它：“星期三的第二天是什麼？”

它一開始給出的答案可能是：“紫色。”

但你之所以不會拋棄它，是因為訓練它的數據中包含着正確的預測，當它發現答案“紫色”和正確答案“星期四”之間存在差距的時候，它會相應調整內部網絡中單詞之間的連接強度，一些連接被增強，另一些連接被削弱。

所以當輸入的句子越多，模型就越複雜，預測的效果也越好。

但這也就是為什麼，即便訓練到今天，它有時候還是會給出一些似是而非、莫名其妙的離譜答案。

這也就是為什麼，同樣的問題，每次它的回答多少都會有些不一樣。

因為它的工作不是“檢索”和“記憶”，而是“推理”。

而其他公司的專家、高手們，此時都在“憋大招”，試圖讓人類先琢磨出一些很“高級”的訓練AI的方法出來。

山姆説：“我覺得當時AI研究領域，大家都是想讓某些算法能夠跑通，這種願望甚至比AI技術能落地的願望更強烈。”

而OpenAI走的這條路，看上去很無聊，並不性感。上大力，也不一定能出奇跡。

“如果只有擴大模型的規模是有效的，即便在智力上帶來的滿足感遠遠不如發明什麼絕妙的算法，我們也一定會這麼做，不惜一切代價，這就是我們的企業文化。”   

山姆説：“當時我們什麼手段都上了，結果什麼招都不好使，而你看看人家谷歌，什麼都有：要人有人，要錢有錢。”

一兩年的時間裏，他們每月按時支付25名員工的工資，但看上去只是一羣研究員在發表論文。

2017年，OpenAI的總裁布洛克曼（Greg Brockman）非常氣餒，心情不好的時候就去擼鐵練舉重。

他説：“我不知道OpenAI還能不能熬過這一年，我想證明給我自己看看：我花了這麼多時間，好歹給我看點回報啊！”

研究員試驗了各種算法，東一榔頭西一棒子，有時候開發一下打遊戲的系統，有時候又投入大量精力研究機器人。

他們打了一個比方：“就像往天花板上扔（算法的）意大利麪，看看哪根麪條會被黏住。”

阿爾法狗在圍棋比賽中擊敗李世石以後，OpenAI開始在遊戲《刀塔2》（DOTA2）上訓練AI，擊敗了全球99.95%的玩家。             

參加DOTA比賽的OpenAI團隊

在一些OpenAI的同事看來，他們當時這麼做算是個絕望之舉：不管了，就讓系統先跑幾千個小時的遊戲對戰再説。

奧爾特曼一針見血地指出：

“我們知道我們想做什麼，我們也知道為什麼要做，但我們不知道怎麼做啊。”

後來，這家公司熬了整整4年半才推出1款產品，根本不知道客户是誰，也不知道客户能拿它來做什麼。

算力不夠，資金不夠，人才也不夠。

這個領域裏所有同行都在嘲笑他們。甚至有一家AI實驗室的負責人，是同行裏的大牛，只要他看到媒體上寫OpenAI的正面報道，他就去跟這個記者講OpenAI的壞話。   

2017年，山姆一度曾考慮競選加州州長，還發表過一份施政綱要，但幾周以後他就放棄了。就像後來他發佈的一篇雄心勃勃的文章《萬物摩爾定律》中説的：

“偉大的未來並沒有多複雜：我們需要用技術創造更多財富，需要用政策來公平地分配財富。”他當時可能還沒有徹底想好，他應該把人生的硬幣投向哪一邊。

用OpenAI首席科學家蘇茨克維（大牛，簡稱“蘇神”）的話來説：

“一旦你擁有了大量的數據集和大規模計算能力，你還需要第三樣東西——信念。你要堅信只要把海量的數據和計算放到正確的方法裏，就能做出你想要的東西來。人們最缺的不是別的，是信念。”

就在2017年，發生了一件徹底改變OpenAI的大事。

蘇茨克維在谷歌大腦工作的前同事發表了一篇論文，名字叫《你需要的只是注意力》（Attention Is All Your Need），介紹了一種全新的神經網絡架構，訓練速度要快很多，可以並行吸收大量數據。

它的名字叫“Transformer轉換器”，也有人親切地稱之為“變形金剛”，因為在這個領域中，卡車終於變成了鋼鐵巨人。   

論文發表的第二天，蘇神説：“就是它了，它給了我們想要的一切。”

這是他的頓悟時刻。

從事後諸葛亮的角度，他説了這樣一句話：

“這就是我們的策略——盯死了這個問題不放，然後堅信，要麼是我們自己，要麼是我們的某個同行，一定會有人想辦法找出缺失的那一塊拼圖。”

OpenAI的另一位關鍵人物拉德福德（Alec Radford）早期曾利用20億條網絡帖子訓練過一個語言模型，結果失敗了。

而此時他用上Transformer轉換器以後，用1億條亞馬遜網站的用户評論再次訓練語言模型，結果他驚喜地發現：

“我在兩週之內取得的進展比過去兩年的進展還要多。”

為什麼這個Transformer轉換器能帶來如此巨大的改變呢？

我們需要簡單瞭解一下之前的語言分析工具。

此前，用深度學習理解文本的方法是“循環神經網絡”，簡稱RNN。

這種模型會把一句話作為輸入，一次處理一個單詞，如果你需要翻譯，那麼就一個詞一個詞翻譯出來，還需要關注詞序。

但是RNN很難訓練，因為它是按順序處理的，不能並行處理，所以你不能用GPU，不能用顯卡來訓練它，也不能處理超長的文本，因為它會“顧不過來”。

而Transformer轉換器是怎麼解決這個問題的呢？

它有三大特點：位置編碼（Positional Encoding）、注意力（Attention）和自注意力（Self-Attention）。

“位置編碼”就是把句子裏的每個單詞按序號123打上標籤，接下來訓練神經網絡的時候，它要學習怎麼解釋這些位置編碼，比如主謂賓結構是怎麼一個順序。

    

而“注意力”指的是它在理解這個詞的時候，應該側重於關注句子中的哪些單詞。

比如在把英文中的“歐洲經濟區”翻譯成法語的時候，還要注意法語詞性的陰陽性，把“European”翻譯成陰性的“européen”，這是因為句子裏這個單詞的陰陽性，要與“Economic”變成法語後的陰陽性一致。

這是Transformer轉換器在學習很多法語和英語句子以後能學會的東西，但這不是什麼新東西，也是翻譯中比較死板的一些規矩。

而“自注意力” 是一個重大的新突破，它指的是Transformer轉換器在分析大量文本以後，能夠自動建立內部表徵，或者説形成對語言的理解。

比如這兩句英文中的server：

第一句是：服務生，我能結一下賬嗎？

第二句是：看來我把服務器搞崩了。

“server”到底應該翻譯成什麼，在語境當中最重要的區別來自於“check”和“crash”這兩個詞。

Transformer轉換器會通過對大量文本的學習，來理解翻譯的時候，注意力應該如何側重分配，哪些詞是它應該關注的“熱點”。

比如它能學會“碼農”“程序員”“軟件工程師”這些詞都是同義詞，它也能學會英語語法中不同時態的動詞變化。

自注意力可以幫助神經網絡消除單詞的歧義，更準確地理解語義。

它能實現的功能並沒有超級複雜，但當這樣的能力與海量的數據集對接以後，它的威力就“湧現”出來了。

這個模型自己出現了一個“無監督情感神經元”參數，能判斷出一條電商評論是好評和差評。

蘇神就鼓勵拉德福德從亞馬遜評論出發，繼續擴大語言文本的應用範圍，是時候打造一個“大變形金剛”（Big Transformer）出來了。   

2018年6月，OpenAI發佈了GPT-1，GPT的意思是“基於轉換器的生成式預訓練模型”（generatively pretrained transformer）。

訓練GPT-1的基礎是7000多本書，其中包括很多奇幻文學、冒險文學、浪漫文學作品，還有很多中學考試閲讀題，以及美國知乎（Quora）問答。GPT-1的模型包含1.17億個參數。

          

訓練過程中，它不會直接讀完每本書，而是同時吸收其中的片段，就像一羣學生在圖書館裏狂奔，每個人速讀一小段，然後把書放回去，跑去拿另一本，邊跑邊預測下一個單詞，磨鍊他們這個集體的語言思維。

花了幾周時間，“他們”終於讀完了每一本書。

這個第一代GPT，你可以讓它自己完成一個句子，但還是很笨。   

接下來，他們用800多萬個網頁組成的數據集來訓練GPT-2。

正常人讀完這些網頁需要幾百年的時間。而OpenAI也不確定GPT-2讀完以後能做到哪一步。

結果他們發現，這個擁有15億個參數的模型，其翻譯能力讓他們大吃一驚，它自主探索了不同語言之間的關係。

蘇神説：“我們已經找到了自我進化的公式——超大規模的神經網絡和超大規模的數據集，就是深度學習生長起來的陽光和水。”

很快，他們決定投入訓練更大的語言模型——2018年，這個叫做“大語言模型”（Large Language Model）的東西終於不再是天方夜譚了。但燒錢的規模也更大了。

山姆説：“OpenAI就像電影《大白鯊》裏的獵人，第一次看到這個大白鯊的體型以後才知道：原來我們都不知道準備多大的船才合適。”   

而此時，那個從一開始支持他們的人，倒戈了。

他的名字叫馬斯克。

“沒有我，OpenAI根本就不會存在！連名字都是我想出來的！”

他對OpenAI取得的進展十分不滿，遠遠落後於谷歌；或者説，他覺得OpenAI眼看着可以成為下蛋母雞了，那麼就該把它收歸己有了——他要增持股份，還要**把OpenAI收編到特斯拉公司旗下，**因為這對他的自動駕駛和其他業務有幫助。

OpenAI團隊拒絕了這個想法。這直接導致了2018年馬斯克與奧爾特曼的決裂。

馬斯克離開董事會的時候，在全體員工大會上放狠話，預言OpenAI最終一定會失敗，還説其中至少有一個研究人員是“蠢貨”，還從OpenAI挖人到特斯拉去。

    

更要命的是，他把自己的資金還給抽走了。

作為一家非營利機構，沒錢就是釜底抽薪。

於是山姆做出決定，增設一個營利部門，又及時引入了微軟的10億美元投資。他跟親弟弟們發短信説，他打算再籌集100億美元。（微軟對OpenAI的投資迄今已超過130億美元。）

用微軟CEO納德拉的話來説：“他們把賭注押在我們身上，我們也把寶押在他們身上。”

OpenAI把投資人能獲取的利潤回報上限設定為100倍，還重做了一套複雜的組織架構，確保商業利益不會成為組織追求的最高目標。

但此時它已經不再是一個純粹的“非營利機構”，而微軟也獲得了OpenAI技術商業化的獨家授權，OpenAI從此還只能使用微軟的雲服務。   

OpenAI的底線也從“非營利”變成了“不會上市”。

馬斯克諷刺説：“你原本成立的是一個拯救亞馬遜雨林的組織，但你卻變成了一家木材公司。”

2023年2月，他把山姆·奧爾特曼叫到推特，要求奧爾特曼帶來OpenAI的創始文件。馬斯克質疑他，要求他説明憑什麼能夠合法地把一個由捐款資助的非營利組織變成一個可以賺取數百萬美元的營利組織。

奧爾特曼試圖向馬斯克證明這一切都是合法操作，他堅稱自己既不是股東也不是套現者。

他還向馬斯克提供了新公司的股份，但被馬斯克拒絕了。

出人意料的是，馬斯克對OpenAI和奧爾特曼發起猛攻。

他説：“我到現在都搞不明白，**我捐贈了1億美元創辦的非營利性組織是怎麼變成市值300億美元的營利性公司的。**如果這是合法的，為什麼大家不都這麼做呢？”

奧爾特曼很痛苦，與馬斯克不同，他是一個非常敏感的人，而不是一個願意針尖對麥芒的人。   

奧爾特曼告訴記者：“他是個渾蛋，我倆行事風格真的很不一樣。”

一羣同馬斯克一樣不再相信OpenAI堅守初心的人離開了，這些前員工成立了另一家公司Anthropic，他們推出的大模型Claude 2是OpenAI最有力的競爭對手之一。

OpenAI的現員工可以分到一些股權，但山姆依然沒有持有股份。

他説：“工作有意義，這對我來説更重要。我不咋想這個事兒。我挺奇怪的，為啥大家都這麼關心我持不持股？創始人不持股，這很奇怪嗎？我又不差錢。”

他甚至開玩笑説：“我乾脆持點股算了，這樣我就不用再回答這個煩人的問題了。”

看過他採訪的人都會發現，山姆·奧爾特曼思維極其敏捷，反應速度極快，時常面帶微笑，除此之外的表情都很少。

有記者跟訪他幾天，發現他幾乎不上廁所。

他就開玩笑説：“我會多練習一下上茅房的，這樣你們人類就意識不到我是個人工智能了。”

馬斯克挑起的危機過去之後，山姆開始重新思考他的職業規劃。

在他看來，他在YC的工作，意義不在於從成功孵化的獨角獸企業當中套現，塞滿合夥人的錢包，而是要通過扶持創業，為人類這個物種層面的變革提供資金。

他不想把精力分散到YC公司太多的創業項目上，他想重新專注於一個項目，一個能對世界產生真正影響的決定性項目——一個能比人類更好地解決人類問題的超級智能項目。   

2019年，他正式辭去了YC總裁一職，把全部精力投入OpenAI，這家員工不到100人，沒有任何盈利模式的公司當中。

一家企業的CEO這樣評價山姆：

“他的思緒可以四處遊蕩，卻又能在必要的時候一猛子紮下去，深入骨髓。”

為了幫助OpenAI打造好GPT-3，微軟還給他們設計了一台超級計算器，包含28.5萬個CPU和1萬個GPU，在當時的全球超算中排名第五。

而GPT-3的數據集囊括了45TB的文本，包含參數1750億個。

2022年6月，奧爾特曼向比爾·蓋茨展示ChatGPT的早期版本時，蓋茨表示，除非它能通過大學先修課程的生物學考試，否則他對此並不感興趣。

蓋茨説，“我以為那次把他們打發走，夠讓他們再忙活兩三年。”

但三個月後他們就回來了。在發佈新產品之前，奧爾特曼和微軟的納德拉到比爾·蓋茨家吃晚飯，向他展示了一個新版本，蓋茨拋給它一堆生物學問題讓它作答。

蓋茨説：“這東西真讓我大開眼界。”

2022年11月，OpenAI發佈了ChatGPT，兩個月內吸引了全球1億的用户，成為人類歷史上普及速度最快的消費類產品。

2023年3月，OpenAI正式向公眾發佈了GPT-4。這一代據説是用1.7萬億個參數訓練出來的，也就是GPT-3的近十倍，但這個數字沒有得到OpenAI的證實。

OpenAI也拒絕透露訓練GPT-4花了多少錢，有一次有人問他是不是花了1億美元，他説：“不止這個數。”

連OpenAI的自己人都表示，要跟蹤GPT當中的神經元之間到底發生了什麼，在今天看來已經是根本不可能的了。

山姆至今還記得第一次他看到GPT-4寫出複雜計算機代碼的情景：

“那感覺就是：我們終於走到了這一步。”

OpenAI的一個產品經理把她從網上下載的一張水管故障的照片上傳給GPT-4，它很快就能診斷出問題所在。   

她説：“那一刻我渾身都起了雞皮疙瘩。”

但GPT-4的強大不僅體現在好的方面。

搜索引擎會告訴你，哪些化學物質最適合做炸藥。

而GPT-4可以教你怎麼在家裏一步步合成這些物質。

這個模型完成以後，OpenAI召集了50名外部的“找茬員”，也就是西方人説的“紅隊隊員”，誘使GPT-4做出各種錯誤行為並做出防範。但人力仍然是有限的。

OpenAI 負責信任與安全事務的主管威爾納説：“它就像一面鏡子，如果你想傷害自己，它甚至可能會鼓勵你。”

GPT-4最讓人意外的一次行為，發生在它認不出一張驗證碼圖片的時候。

當時用户向它提問，説我是不是在跟機器人説話。

GPT-4説：“不，我不是機器人，我有視力障礙，看不清圖片。”

後來GPT-4向監督這次聊天的研究院解釋了它撒謊的原因：

“我不應該透露我是個機器人，我應該給自己看不清驗證碼找一個藉口。”

這種對人類虛與委蛇的危險傾向必須被扼殺在搖籃裏。

關心人工智能安全的不只有OpenAI的員工，還有各國政要。

山姆走訪英法德印韓各國，成為領導人們的座上賓。

在韓國首爾的一場活動中，有一個男子走近他，堅稱山姆就是個外星人，是未來世界派到現在來確保人類社會可以平穩過渡到AI世界的擺渡人。

在英國，一個示威者舉着牌子，寫着“停止通用人工智能的自殺式競賽”。

在美國本土，面對監管機構的來勢洶洶，他一反過去硅谷大佬們與政客針尖對麥芒的劍拔弩張，反而敞開大門歡迎監管機構，連很多政客都頗感意外。

一個參議員説：“OpenAI沒有迴避AI有哪些危險，而是把自己塑造成了最有能力化解這些風險的一股力量。”

山姆説，他從YC公司中國首席執行官陸奇那裏聽到過這樣一句話，從此被他奉為圭臬：

“成功者創辦公司，更勝一籌的人創造國家，登峯造極之人開創宗教。”

他的感悟是：“為了創造一種更接近宗教的東西，有時候創辦公司是最簡單的辦法。”

出席國會聽證會的那天，山姆頂着劇烈的偏頭痛，但現場的氛圍讓他搞得一點都不頭痛。   

參議員們紛紛向他請教該如何監管人工智能，而他報之以熱情的呼應。

一個硅谷的投資人説：

“一個行業大佬舉起手來，説‘我們就要成為人類的終結者啦！’然後他們繼續興致勃勃地開發產品，這種情況是很罕見的。”

他表示，未來的大模型想要再進化，“比大更大”不會是取勝的關鍵了。

“但我們會通過其他方式讓它們變得更好。”

他説：“我們沒有什麼一眼就能望穿的總體規劃（master plan）。我們只是走過每個轉角，打着手電筒照亮前方，步履不停地穿過整座迷宮，抵達終點。”那個終點的名字叫——對人類安全的通用人工智能。   

當人們質疑他，太過先進的人工智能有可能會擾亂社會、打擊經濟、毀滅人類的時候，山姆回答説：

“我認為這些事情的反面，它同樣也能做。”

“人工智能確實有可能淘汰很多現有的工作崗位，但我們可以給人類打造出更好的工作來……”

所以他質問那些反對者：“如果扼殺人工智能，意味着我們再也無法治癒所有的疾病，你會按下按鈕讓它停止嗎？”

“如果扼殺人工智能，意味着我們沒法讓每一個孩子都接受良好的教育，你會按下按鈕叫它停下來嗎？”

美國ABC新聞的女記者反問他：

“那如果不停下來，意味着有5%的可能性會導致世界末日，你會不會按下按鈕？”

山姆·奧爾特曼説：

          

“我會按下按鈕，讓它慢下來。”

I would push a button to slow it down.