人工智能最初是拯救人類的夢想然後大型科技公司接管了 - 彭博社

Parmy Olson

一個代表ChatGPT虛擬助手的符號，安排在拉脱維亞里加，時間是2024年8月16日，星期五。過去兩年中，谷歌的Gemini、Meta AI和OpenAI的ChatGPT等先進生成AI工具的公開發布加劇了人們對數百萬工人可能被取代的擔憂。攝影師：彭博社/彭博社 這篇文章是“至高無上的：AI、ChatGPT與將改變世界的競賽”的編輯摘錄，出版日期為2024年9月10日，由聖馬丁出版社，麥克米倫的一個部門，以及在英國的潘麥克米倫出版。

在點擊此文章的鏈接並閲讀這幾句話後，你可能會半心半意地想知道這些文字是否是人類寫的。別擔心，我並不生氣。兩年前，這個想法甚至不會出現在你的腦海中。但今天，機器正在生成文章、書籍、插圖和計算機代碼，這些內容似乎與人類創作的內容無法區分。

彭博社觀點工作並不能證明半點減息的合理性。通貨膨脹呢？對於歐洲央行的降息者來説，音樂和文字同樣重要金絲雀碼頭的債權人需要鋼鐵般的神經印度在貿易協議內比在外面更好還記得喬治·奧威爾的反烏托邦未來中的“小説寫作機器”和他的“作詩機”寫的流行音樂嗎？這些東西現在存在了，變化發生得如此之快，以至於讓公眾感到眩暈，讓我們懷疑今天的一些辦公室工作人員在未來五到十年是否會有工作。數百萬白領專業人士突然顯得脆弱。才華橫溢的年輕插畫師在想他們是否還應該去藝術學校。

值得注意的是，這一切發生得如此之快。在我撰寫科技行業的15年中，我從未見過像人工智能在過去兩年中那樣迅速發展的領域。2022年11月ChatGPT的發佈引發了一場創造全新類型人工智能的競賽，這種人工智能不僅僅是處理信息，而是生成信息。當時，人工智能工具只能生成奇怪的狗的圖像。現在，它們正在生成逼真的唐納德·特朗普的照片，皮膚毛孔和紋理看起來栩栩如生。

許多人工智能開發者表示，這項技術承諾通往烏托邦的道路。其他人則認為它可能導致我們文明的崩潰。實際上，科幻場景讓我們忽視了人工智能通過延續根深蒂固的偏見、威脅整個創意產業等更隱蔽的方式對社會造成的傷害。

在這股無形力量背後，是那些掌控人工智能發展並競相增強其能力的公司。由於對增長的無盡渴望，他們在產品上偷工減料，誤導公眾，使自己成為人工智能的高度可疑管理者。

歷史上沒有其他組織像今天的科技巨頭那樣積累如此多的權力或觸及如此多的人。Alphabet Inc.的谷歌為90%的地球互聯網用户進行網絡搜索，而微軟公司的軟件被70%的計算機用户使用。ChatGPT的發佈引發了一場新的人工智能熱潮，自2022年11月以來，六大科技公司的市場估值增加了驚人的6.7萬億美元——Alphabet、亞馬遜公司、蘋果公司、Meta平台公司、微軟以及最近的英偉達公司。

然而，這些公司都不滿意。微軟一直在爭奪谷歌1500億美元搜索業務的一部分，而谷歌則希望獲得微軟1100億美元的雲業務。為了打這場戰爭，每家公司都借鑑了其他人的想法。深入挖掘一下，你會發現，人工智能的現實時刻實際上是由兩個人書寫的：山姆·阿爾特曼和德米斯·哈薩比斯。

一個是身材瘦弱、性格温和的創業者，三十多歲，穿着運動鞋上班。另一個是四十多歲的前國際象棋冠軍，痴迷於遊戲。兩人都是極具智慧、迷人的領導者，他們描繪的人工智能願景如此鼓舞人心，以至於人們以近乎宗教般的熱情追隨他們。兩人之所以能走到今天，是因為他們對勝利的執着。阿爾特曼是世界上出現ChatGPT的原因，而哈薩比斯則是我們如此迅速獲得它的原因。他們的旅程不僅定義了今天的競爭，還包括了未來面臨的挑戰，包括在如此少數現任者控制下，如何引導人工智能的倫理未來這一艱鉅的鬥爭。

哈薩比斯在2010年創立DeepMind時冒着科學嘲笑的風險，這是世界上第一家致力於構建與人類一樣聰明的人工智能的公司。他希望對生命的起源、現實的本質和疾病的治療進行科學發現。他説：“解決智能問題，然後解決其他一切。”

幾年後，阿爾特曼創立了OpenAI，試圖構建相同的東西，但更專注於為人類帶來經濟繁榮、增加物質財富，並幫助“我們所有人過上更好的生活，”他告訴我。“這可以是人類迄今為止創造的最偉大的工具，讓我們每個人都能做出超出可能範圍的事情。”

他們的計劃比熱情的硅谷夢想家們更為雄心勃勃。他們計劃構建一種強大到可以改變社會的人工智能，使經濟和金融領域變得過時。而奧特曼和哈薩比斯將獨自成為其恩賜的傳播者。

在他們追求構建人類最後發明的過程中，兩人都在思考如何控制這種變革性技術。起初，他們認為像谷歌和微軟這樣的科技巨頭不應該完全主導它，因為這些公司優先考慮利潤而非人類的福祉。因此，多年來，他們在大西洋兩岸都在努力尋找新穎的方式來構建他們的研究實驗室，以保護人工智能並使仁慈成為其優先事項。他們承諾將成為人工智能的細心監護人。

但兩人也都想成為第一。為了構建歷史上最強大的軟件，他們需要資金和計算能力，而他們最好的來源就是硅谷。隨着時間的推移，奧特曼和哈薩比斯最終決定他們還是需要這些科技巨頭。隨着他們創造超級智能人工智能的努力變得越來越成功，以及奇怪的新意識形態從不同方向衝擊他們，他們妥協了自己的崇高目標。他們將控制權交給了那些急於向公眾銷售人工智能工具的公司，而幾乎沒有監管機構的監督，這帶來了深遠的後果。

這種 人工智能中的權力集中 威脅到減少競爭，並預示着對私人生活的新侵擾以及新的種族和性別偏見形式。讓一些流行的人工智能工具生成女性的圖像時，它們默認會讓她們穿着暴露；要求生成逼真的首席執行官時，它們會生成白人男性的圖像。當要求生成罪犯時，一些系統會生成黑人男性的圖像。為了拯救這些刻板印象，谷歌在2024年2月發佈了一款圖像生成工具，但它的補償措施過於粗糙， 然後將其關閉。這些系統有望被編織進我們的媒體信息流、智能手機和司法系統，有時對它們如何塑造公眾輿論缺乏應有的關注，這要歸因於對倫理和安全研究的相對缺乏投資。

阿特曼和哈薩比斯的旅程與兩個世紀前的情況並沒有太大不同，當時兩位名為托馬斯·愛迪生和喬治·威斯汀豪斯的企業家展開了戰爭。每個人都追求着為數百萬消費者提供電力的主導系統的夢想。兩人都是從發明家轉變為企業家，並且都明白他們的技術終將為現代世界提供動力。問題是：誰的技術版本會勝出？最終，威斯汀豪斯更高效的電力標準成為了世界上最受歡迎的標準。但他並沒有贏得所謂的電流戰爭。愛迪生的更大公司——通用電氣贏得了這場戰爭。

隨着企業利益推動阿特曼和哈薩比斯釋放出更大更強的模型，技術巨頭們成為了贏家，只不過這一次比賽是為了複製我們自己的智能。

現在世界陷入了混亂。生成性人工智能承諾使人們更高效，並通過像ChatGPT這樣的工具將更多有用的信息帶到我們手中。但每項創新都有代價。企業和政府正在適應一種新的現實，在這種現實中，真實與“人工智能生成”的區別變得不可預測。公司們在人工智能軟件上投入資金，以幫助取代員工並提高利潤率。而能夠進行新層次個人監控的設備也在不斷湧現。

我們走到這一步，是因為兩位試圖為善而構建人工智能的創新者的願景最終被壟斷力量所磨滅。他們的故事充滿理想主義，但也充滿天真和自我——以及在大型科技公司和硅谷的泡沫中保持倫理規範幾乎是不可能的。阿特曼和哈薩比斯在人工智能的管理上糾結不已，知道如果我們要阻止其造成不可逆轉的傷害，世界需要負責任地管理這項技術。但他們無法在沒有世界上最大科技公司資源的情況下鍛造出具有神力的人工智能。以增強人類生活為目標，他們最終賦予了這些公司的權力，使人類的福祉和未來陷入了企業霸權的鬥爭之中。

在2014年將DeepMind出售給谷歌後，哈薩比斯和他的聯合創始人們花了數年時間試圖將自己轉變為一個非營利組織。他們希望保護自己日益強大的人工智能系統，避免其被一個科技巨頭單獨控制，並致力於創建一個由獨立傑出人士組成的董事會，其中包括像巴拉克·奧巴馬這樣的前國家元首，以監督其使用。他們甚至設計了一項新的法律章程，優先考慮人類福祉和環境。谷歌起初似乎同意這一計劃，並承諾向其實體提供數十億美元，但其高管們卻在拖延創始人們。最終，谷歌收緊了對DeepMind的控制，使得這個曾經專注於“解決智能”以幫助治癒癌症或應對氣候變化的研究實驗室，現在主要集中於開發其核心人工智能產品Gemini。

山姆·阿爾特曼也進行了類似的轉變，他創立OpenAI的初衷是為了造福人類，“不受財務義務的束縛。”在過去的七年裏，他一直在擺脱這一承諾，將他的非營利組織重組為“有限利潤”公司，以便能夠從微軟獲得數十億美元的投資，實際上成為該軟件公司的產品部門。現在，他據説正在尋求再次重組，以便變得更加投資者友好，並籌集數十億美元。一個可能的結果是：他將削弱確保OpenAI服務於人類最佳利益的非營利董事會。

在ChatGPT發佈後，我被這兩位創新者從人道主義願景中轉變的情況所震撼。誠然，硅谷對改善世界的宏偉承諾在其公司提供上癮或平庸的服務時，往往看起來像是一種騙局，而其創始人們則成為億萬富翁。但阿爾特曼和哈薩比斯從創始原則中轉變的情況更令人不安。他們都在努力構建人工通用智能，或超越我們腦力的計算機。這帶來的影響是巨大的。而他們的轉變現在為當今的科技巨頭帶來了新的影響力和權力。我們其他人將要發現其代價。

更多來自彭博社觀點：

想要更多彭博社觀點？請使用 OPIN <GO>。或者訂閲我們的每日通訊。