有效利他主義(EA)與山姆·奧爾特曼、山姆·班克曼-弗裏德 - 彭博報道
Caroline Hyde
山姆·奧特曼
攝影師:Win McNamee/Getty Images在一個最近的十二月夜晚,紐約市的一家酒吧裏,皮特布爾的歌聲從音響系統中傳出,一羣志同道合的年輕人就道德和人類未來進行了激烈的辯論。有效利他主義者的當地社區正在舉行他們的“年終慶祝活動”。
看起來有效利他主義者似乎沒有什麼可慶祝的。因為在過去兩年裏,一個名叫山姆的人再次成為了一個非凡科技故事的主角,並且似乎成了有效利他主義哲學的一種指控。這一次不是加密犯罪分子山姆·班克曼-弗裏德,而是人工智能行業的超級明星山姆·奧特曼。
對於那些自稱為有效利他主義者的人來説,這真是一段不平凡的經歷,這種哲學從做好事變成了如何儘可能賺取更多的錢來捐給拯救世界的事業。在2022年8月,該運動的聯合創始人威廉·麥卡斯基爾的暢銷書一經問世,就一度風光無限,但隨後在幾個月後隨着班克曼-弗裏德的垮台,炒作迅速瓦解。
這位加密貨幣企業家曾是有效利他主義的最知名的倡導者之一。在班克曼-弗裏德的公司垮台後,麥卡斯基爾基本上保持了沉默。
閲讀更多: 什麼是有效利他主義,它與人工智能追求有什麼關係
但 EA 的聚會仍在繼續,對許多人來説,關注的重點仍然是如何做到最大的善。這就是本月早些時候在東村酒吧的主要談話話題,與會者品嚐着純素小吃,喝着啤酒。
Rachael Woodard 對兩位 Sams 中的任何一個都不感興趣。她住在布魯克林的布什維克區,和八個 EA 朋友住在一起,她説她有時會感到不知所措,試圖決定如何在世界上做到最大的善。她正在實踐80000 小時項目 —— 把職業生涯中的那麼多時間用來解決世界上最緊迫的問題 —— 但她不確定自己的角色是否確實產生了最大的影響。
這個團體中的人特別關心動物 —— 肉類工業和工廠養殖。在 EA 的其他領域,人們擔心的是人工智能對人類的威脅。
EAs 和 OpenAI 的董事會成員對 AI 的緊張關係,導致 Altman 被解除首席執行官職務,而 Altman 對 AI 更持樂觀態度,這給 EA 運動帶來了新的打擊。Altman 通過重新任命自己為首席執行官並解除了大部分董事會成員而贏得了這場戰鬥。
在這一事件之後,億萬富翁風險投資家和 OpenAI 投資者 Vinod Khosla 在 X 上嘲笑“無知的錯誤應用的 EA 宗教與對 AI 的真正願景”。哈佛大學教授史蒂文·平克稱 EA 為“狂熱”,並表示它已經迷失了方向。
那麼這些所謂的狂熱成員怎麼樣了?嗯,他們中的許多人仍在為 AI 愁眉苦臉。
加里森·洛夫利是一位熱情洋溢、愛穿夏威夷襯衫的成員,他描述了他正在撰寫的一篇關於人工智能被忽視風險的論文。他接着描述了過去幾年對於EA來説是多麼不同尋常,以及這讓他感覺自己就像是一家獨角獸初創公司的早期僱員。這種熱情、媒體關注和籌集的資金。
一些與會者承認他們對EA的抨擊感到沮喪,這是由一個自稱為有效加速主義者的團體推動的,但大多數人都是理想主義者,他們希望創造一個更美好的未來 —— 如果機器人不先殺了我們。