OpenAI首席執行官Sam Altman與AI悲觀論者Eliezer Yudkowsky的Twitter爭執解釋 - 彭博社
Ellen Huet
OpenAI標誌排列在北京一台筆記本電腦上，2023年2月24日星期五。中國人工智能股票的上漲顯示出進一步降温的跡象，媒體報道稱當局禁止訪問OpenAI的ChatGPT服務。Bloomberg隨着科技行業朝着越來越令人眼花繚亂的人工智能技術邁進，人類面臨一個無法迴避的問題：這是好消息還是壞消息？
在硅谷，有一小羣但實力強大的人認為這可能是非常非常糟糕的消息——如果人工智能處理不當，可能會在幾十年內消滅人類。也有一羣人認為我們的人工智能未來將是令人驚歎的——帶來無數未來的能力、豐富和烏托邦。
本週在《彭博商業週刊》特寫中，我深入探討了科技行業中認為自己正在拼命拯救世界免受殺手威脅的派別。這個故事涉及到一種稱為有效利他主義的慈善哲學和人工智能悲觀主義的結合，主角包括Sam Bankman-Fried、Elon Musk、Peter Thiel，以及令人難以置信的哈利·波特。它還有一個不良的底層——性虐待指控和末日宗教的氣息。
在過去幾年裏，硅谷對未來人工智能的巨大風險的痴迷已經變成了一場激烈的爭吵。目前，這種分裂正在在線上兩個人之間展開：人工智能理論家Eliezer Yudkowsky和OpenAI首席執行官Sam Altman。自2000年代初以來，Yudkowsky一直在警告人工通用智能可能與人類價值觀“不一致”，並可能決定消滅我們。他積極努力説服他人將防止人工智能啓示錄作為一項優先任務——足以説服Musk認真對待這一風險。Musk於2015年與Altman共同創立了非營利性OpenAI，旨在創建更安全的人工智能。
在過去幾年中，OpenAI採用了營利模式，並推出了更大、更快、更先進的人工智能技術。該公司已經籌集了數十億美元的投資，Altman為人工通用智能（AGI）的進展歡呼雀躍。“在我們邁向AGI水平系統的過程中，將會有一些可怕的時刻和重大的顛覆，但好處可能是如此驚人，以至於克服巨大的挑戰是非常值得的，”他在十二月份發推文説。 發推文。
與此同時，Yudkowsky表示，他幾乎已經失去了對人類負責任地處理人工智能的所有希望，他在上個月的一個 播客中説。在OpenAI成立之後，由於其致力於推動人工智能發展的承諾，他説他在深夜獨自哭泣，並想到，“哦，這就是人類將選擇做的事情。我們不會超越。我們甚至在最後時刻也不會更加優雅。”
考慮到這一背景，當Altman最近 發推文説Yudkowsky“比任何其他人都做得更多以加速AGI的發展”，並且可能有一天“應該因他的工作而獲得諾貝爾和平獎”時，這似乎就是火上澆油。以某種方式來看，他在戲弄Yudkowsky，説這位人工智能理論家在試圖阻止他最嚴重的恐懼時，實際上加速了它的到來。（Yudkowsky表示他不知道Altman是否在戲弄他；Altman拒絕置評。）
這就是它。兩位AI思想家之間的某種晦澀、內部鬥爭，但它突顯了這些天你將看到的許多AI新聞中潛在的全有或全無、拯救或毀滅的背景。
再説一遍，也許這場爭執並沒有我們想象的那麼嚴重。上個月，Altman在推特上發了一張自拍照，照片中他一邊是Yudkowsky，另一邊是埃隆·馬斯克的前女友、加拿大歌手Grimes。所以無論AI是否會在20年內殺死我們，至少目前，每個人仍然可以一起在派對上玩耍。
重要新聞
英特爾已經開始大規模擴建德國的新生產線，以幫助重新平衡東亞製造業的集中度，但糟糕的經濟狀況迫使這家芯片巨頭推遲了其馬格德堡工廠的建設，因為它尋求額外的德國政府補貼。
充分充電
FTX的崩潰暴露了許多數字資產平台缺乏保險，以及在重建加密行業信任面前的漫長道路。
Salesforce推出了一項2.5億美元基金用於生成式AI初創公司 — 這是該軟件巨頭迄今為止最大的一筆投資 — 因為該公司試圖進入AI領域。
韓國的火箭科學家已經轉向一個簡單的互聯網搜索服務，以找到他們可以模仿的發動機因為該國正努力建立太空計劃。
**WeWork，這家長期陷入困境的工作空間租賃公司，**正在就籌集數億美元現金進行談判。
更多來自彭博社的信息
收聽：《Foundering: 約翰·麥菲故事》是一個全新的六集播客系列，追溯硅谷偶像的生活、神話和自我毀滅。在Apple上免費訂閲，或在Spotify或其他播客平台收聽。
觀看：《未來與漢娜·弗萊》探討壽命延長、情感敏感的計算機等在這個彭博原創節目中的潛力。
在您的收件箱中獲取彭博科技週刊：
- 網絡公告涵蓋黑客和網絡間諜的陰影世界
- 遊戲進行中報道視頻遊戲業務
- 開機蘋果獨家報道、消費者科技新聞等
- 屏幕時間近距離觀看好萊塢和硅谷的碰撞
- 聲音片段播客、音樂行業和音頻趨勢報道