陳根：AI大咖聯合聲明“警惕AI滅絕人類”_風聞

文/陳根

日前，人工智能安全中心（Center for AI Safety CAIS）發佈了一份由350位人工智能領域的科學家與企業高管聯名簽署的《人工智能風險聲明》，其內容主旨為“降低人工智能導致人類滅絕的風險，應該與流行病及核戰爭等其他社會規模的風險一起，成為全球優先事項。”

這封公開聲明，彙集了當今世界最權威的人工智能專家、核科學家、流行病學家等專家學者的意見，可以説已經將人工智能帶來的風險進行了最全面的梳理。簽署者中包括OpenAI首席執行官山姆·奧特曼、DeepMind首席執行官戴米斯·哈薩比斯和Anthropic首席執行官Dario Amodei三位AI公司高管；也包括被稱為AI教父的傑夫瑞·辛頓，與他同為“AI三巨頭”之一且同獲圖靈獎的約書亞·本吉奧；一同簽署公開信的還有兩位中國科學家，中國科學院的自動化研究所人工智能倫理與治理研究中心主任曾毅、清華智能產業研究院助理研究員詹仙園。

人工智能威脅論

人工智能技術的發展對社會科技的進步起到的推進作用不言而喻。但是，就在人工智能取得突破性進展的同時，其負面作用及給人類帶來的心理壓力也日益凸顯。比如，越來越多的學生利用人工智能寫作業、寫論文，導致抄襲變得難以界定；犯罪分子利用其開發新的黑客攻擊方式，竊取敏感數據進行勒索。

人工智能還將對人類工作方式帶來重大的衝擊。預計到 2030年，將會有7500萬至3.75億人需要重新去尋找工作。這不僅對經濟造成史無前例的影響，還將對人們的心理造成從未有過的壓力。據報道，美國有61%的受訪者認為人工智能正在威脅着人類的未來。當傑夫瑞·辛頓被問到“你認為可以想象的最壞的情況是什麼”，他回答：“完全可以想象，人類只是智能進化的一個過渡階段。”

理性看待人工智能發展的利與弊

當越來越多的人開始認為“人工智能將有可能比我們更聰明”時，對無節制人工智能技術開發的廣泛擔憂，也就不無道理了。雖然以ChatGPT為代表的尖端人工智能大多還是根據訓練數據中的模式進行復制學習，但是，它的學習能力和成長速度可以説是用“突飛猛進”尚不足以形容其發展的速度之快。

目前，越來越多的立法者、倡導團體和科技行業內部人士都開始對AI 聊天機器人傳播錯誤消息和取代人類工作的可能性提出警告。Center for AI Safety 主任 Dan Hendrycks更是指出，全社會還應協力解決其他類型的AI風險，如算法偏見或誤導消息。當然，在這個風險管理的過程中，只關注當前的危害是魯莽的，忽視它們也同樣是魯莽的。因為跟其他的新生事物一樣，人工智能的快速普及有機遇也有風險。人們在利用它好的一面的同時，也必須警惕可能帶來的風險。只要善加利用，並防範風險，就能“為我所用”。