OpenAI對人類毀滅的價值短路 | 路透社

OpenAI首席運營官布拉德·萊特卡普在新聞發佈會上講話，討論其在日本東京開設的首個亞洲辦公室，時間為2024年4月15日。紐約，9月16日（路透社Breakingviews） - 當投資者權衡OpenAI的估值時，他們可能會考慮謙遜的回形針。關於企業利潤最大化者構建一種機器人，其在生產辦公用品方面表現出色，以至於消滅人類的警示故事似乎有些牽強。但一個專注的資本家可能會做出承受這種風險的經濟理性決定。隨着OpenAI朝着一個融資的方向快速前進，這可能使其估值達到1500億美元，隱含的承諾是，足夠巨大的收益使得這種危險變得可以想象正在逼近。這本身突顯了增長的障礙。回形針的故事是這樣的。一天，ACME辦公用品公司的工程師們推出了一台超複雜的人工智能機器，目標只有一個：儘可能多地生產回形針。這種無與倫比的硅基智慧將這一任務推向極限，將地球上的每一個分子都轉化為回形針，並迅速結束了所有生命。

渴望利潤的OpenAI投資者，如微軟(MSFT.O)，可能被認為像ACME一樣，只重視短期收益，從而招致他們自己構建回形針最大化器的風險。OpenAI的首席執行官山姆·阿爾特曼表示，他意識到這種風險。他公司的結構旨在限制不良激勵，限制可供投資者獲得的利潤。這種保護現在值得一個星號：利潤上限被設定於2019年，為初始投資者帶來100倍的回報。OpenAI最初預計會隨着時間的推移降低這一回報。相反，該公司的最新融資現在依賴於改變這一結構，包括取消上限，路透社報道。這是一個令人矚目的概念。如果OpenAI的價值為1500億美元——比其最後的基準高出74%，根據彭博社的説法——那麼100倍的上限僅在150萬億美元的估值時才會生效，這超過了Alphabet的市場價值(GOOGL.O)、亞馬遜(AMZN.O)、蘋果(AAPL.O)、微軟和英偉達(NVDA.O)的總和。儘管聽起來很瘋狂，但在扭曲的人工智能世界中，這個數學計算實際上可能成立。假設Paperclip Maximizer替代每個美國公民的價值，大約3.3億人。這將意味着每個美國人的價值僅略高於45,000美元。這遠低於該國的人均GDP，更不用説農業部在2022年發現其同行機構對人類生命的統計價值為1100萬美元。這不是一個完美的對應關係，但這樣的數字表明，整體AI市場的價值可能會達到數千萬億。問題是，任何如此明顯危險的事物都會引發監管。競爭監管機構已經在審查OpenAI；白宮正在與行業領導者舉行會議。真正的滅絕級風險將會引發安全國家的強力介入。而且，無論如何，對於投資者來説，所有的炒作都有一個更糟糕的結果：人工智能可能毫無意義。在五月，谷歌備受期待的將人工智能加入搜索的舉措最終禮貌地 建議 用户在他們的比薩上放膠水。OpenAI可能並不比普通的回形針更危險。考慮到這種可能性，使得估值變得更加平淡無奇。關注 @JMAGuilford 在X上背景新聞

OpenAI，開發驅動聊天機器人ChatGPT的人工智能模型的公司，正在洽談以1500億美元的估值籌集65億美元，彭博社在9月11日報道。籌資的條款取決於公司是否改變其公司結構，根據該結構，它已將投資導向一個“限制利潤”的子公司，從而限制投資者的收益，路透社在9月13日報道。

想要獲取更多這樣的見解，請點擊 這裏 免費試用Breakingviews。

編輯：勞倫·西爾瓦·勞克林和香農·拉姆

Breakingviews路透社Breakingviews是全球領先的議程設定金融洞察來源。作為路透社的金融評論品牌，我們每天在全球範圍內剖析重大商業和經濟故事。來自紐約、倫敦、香港及其他主要城市的約30名記者組成的全球團隊提供實時專家分析。在 https://www.breakingviews.com/trial 註冊我們的全服務免費試用，並在Twitter上關注我們 @Breakingviews 以及在 www.breakingviews.com。所有表達的觀點均為作者個人意見。