埃隆·馬斯克等行業領袖敦促人工智能實驗室暫停訓練模型 - 彭博社
Jake Rudnitsky, Rachel Metz
人工智能專家和行業領袖，包括埃隆·馬斯克、加州大學伯克利分校計算機科學教授斯圖爾特·拉塞爾以及蘋果公司聯合創始人史蒂夫·沃茲尼亞克，呼籲開發者暫停訓練強大的人工智能模型。
業內超過1,100人簽署了一份請願書，呼籲暫停訓練比OpenAI的ChatGPT最新版本更強大的人工智能系統，以便制定共享的安全協議。
“最近幾個月，人工智能實驗室陷入了一場失控的競賽，開發和部署越來越強大的數字智能，甚至連它們的創造者都無法理解、預測或可靠控制，”一封發表在未來生命研究所網站上的公開信稱。“強大的人工智能系統應該只有在我們確信它們的影響將是積極的，風險可控的情況下才能開發。”
在過去幾個月推出了一系列人工智能項目之後，這一呼籲出現了。這些項目令人信服地執行人類任務，如撰寫電子郵件和創作藝術。微軟公司支持的OpenAI本月發佈了其GPT-4，這是其AI聊天機器人的重大升級，能夠講笑話並通過像律師資格考試這樣的測試。
這也凸顯了馬斯克和OpenAI之間持續存在的緊張關係。這家非營利性研究實驗室成立於2015年，馬斯克與同為OpenAI首席執行官的山姆·阿爾特曼共同擔任聯合主席。當時，OpenAI的目標是“以最有可能造福整個人類的方式推進數字智能，不受需要產生財務回報的限制。”
馬斯克，管理着包括特斯拉在內的多家公司，於2018年離開了OpenAI的董事會。他批評了這個組織，該組織在2019年創建了一個盈利部門，稱其已成為一個“由微軟有效控制的封閉源、最大利潤公司”，並且“已經遠離了道德之路”。據《The Information》報道，馬斯克還在考慮創建一個競爭對手研究實驗室。與此同時，在最近一期與科技記者卡拉·斯威舍的播客中，阿爾特曼表示馬斯克是一個“混蛋”，同時指出他認為馬斯克“對人類未來的樣子感到非常緊張”。
阿爾特曼——他的名字出現在星期二晚上籤署名單上——沒有簽署請願書，OpenAI發言人漢娜·王説。“我認為重要的是指出，在GPT-4完成訓練後，我們花了超過六個月的時間對模型的安全性和對齊性進行調整，”王説。
谷歌的母公司Alphabet Inc.和微軟等公司正在利用人工智能增強他們的搜索引擎，而摩根士丹利一直在利用GPT-4為其財富顧問創建一個聊天機器人。
開發者應該與政策制定者合作，建立新的人工智能治理系統和監督機構，信中稱。如果主要參與者不立即同意公開、可驗證的暫停，呼籲政府介入人工智能系統的發展。
“AI研究和開發應重新聚焦於使當今強大、最先進的系統更準確、安全、可解釋、透明、穩健、對齊、值得信賴和忠誠，”它説。
加拿大人工智能研究機構Mila的創始人兼科學主任Yoshua Bengio根據該機構的聲明簽署了請願書。Stability AI的創始人兼首席執行官Emad Mostaque也表示他簽署了該請願書。
“我們已經看到了GPT-4和其他大型模型的驚人能力。製造這些模型的人自己也説過，它們可能對社會甚至人類構成存在威脅，而且沒有計劃完全消除這些風險，”Mostaque説。“是時候把商業優先考慮放到一邊，為了所有人的利益暫停一下，評估而不是匆忙走向不確定的未來。”
未來生命研究所是一個尋求減輕與強大技術相關風險的非營利組織，以馬斯克基金會作為其最大的捐助者。
“名單上所有頂級簽署者都經過了獨立驗證，”該機構發言人Anthony Aguirre説。“對整個名單進行驗證超出了我們的能力。”
人道技術中心的發言人表示，該中心執行主任Tristan Harris簽署了這封信，目前正在採取措施防止虛假簽名。新的簽署者現在需要經過人工審核才能上網站，所有列出的知名簽署者都經過了直接溝通的審查，發言人在一封電子郵件中説。