曾毅：如果各國外交都用AI博弈……

3月27日，觀察者網與中國互聯網治理論壇（中國IGF）共同舉辦了最新一期的科創類談話節目《心智對話》，主題為“AI與國運：技術躍遷、產業革新背景下的全球治理”。

在對話中，中國科學院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯合國人工智能顧問機構專家曾毅提到，統計數據顯示，全球人工智能報道出來的風險中，美國佔63%，中國將近20%，英國將近10%。

中國科學院自動化研究所研究員、人工智能安全與超級對齊北京市重點實驗室主任、聯合國人工智能顧問機構專家曾毅 觀察者網

曾毅補充道，從技術發展的角度而言，美國是最領先的，因此在風險出現的次數上也是最多的，在人工智能應用方面，美國民眾的對於人工智能的反彈和牴觸也是最強的。

他舉例説，Meta公司有一款名為西塞羅的外交對抗遊戲，遊戲中的人工智能會先勸説人類玩家和它結盟，在一起戰勝其它玩家以後，人工智能的下一個目標就是破壞團隊和諧，把盟友逐個擊破，最後獨自獲勝。

“當時大家的第一反應是它和Alphago似的，體現出人工智能又在進展，而且在博弈領域又有了新的應用，”曾毅説道，“但在我看來這已經非常危險，因為如果各國外交都採用人工智能做博弈，在風險的管控能力上我們目前還很弱。”

曾毅表示：“所以我覺得，至少就當時的災難性風險防禦水平而言，不應當在外交博弈的領域採用人工智能。”

本文系觀察者網獨家稿件，未經授權，不得轉載。