國家就戰場上的人工智能展開辯論以下是一些要點-彭博社

來自包括美國、中國和韓國在內的60多個政府官員本週在海牙舉行會議，討論在軍事領域使用人工智能的倫理和法律後果。

軍事領域的負責任人工智能（REAIM）峯會在一個以審判違反戰爭規則者而聞名的城市舉行，這是首次舉行此類會議討論人工智能在安全領域的作用。這是一次首次嘗試，旨在彙集政府官員、政策制定者、軍事人員和行業人士，考慮潛在規範人工智能在國防技術中的使用方式。

REAIM峯會的小組成員。來源：Martijn Beekman/Reaim兩天的廣泛討論導致60多個國家簽署了一份“行動呼籲” —— 這是為一個仍處於萌芽階段的領域制定規範的第一步。

以下是一些要點：

時間壓力

發言人強調了制定規定的速度需求。“從規範、提升技能、問責等方面都有巨大的空白需要填補，與此同時，技術正在飛速發展，” 斯坦福大學網絡政策中心國際政策主任、前歐洲議會議員Marietje Schaake説。

埃德·克羅南堡，荷蘭外交官兼REAIM峯會特使，表示儘管這次會議在OpenAI推出ChatGPT聊天機器人之前就已經籌備了很長時間，但最近人工智能在公共領域的進展突顯了規定需要出台的速度。“發展速度如此之快，尤其是商界的例子，以至於社會很難跟上，更不用説討論立法了，” 他説。

倫理工程

除了法規外，參與者表示，防禦公司擁有自己的道德準則並讓其指導他們的開發準則至關重要。

以瑞典國防公司 Saab AB 為例，該公司多年來一直在使用人工智能。首席技術官Petter Bedoire在接受採訪時表示：“我們已經開始在道德上不敏感的領域進行工作。我們目前的工作方式是基於人道主義法律和一些開發準則的解釋。我們確保我們的工程師瞭解哪些領域是安全的，哪些領域需要非常小心。”

人類擁有最終責任

在峯會上的討論中，人類應在任何自主武器系統中扮演的持續角色是核心問題。“關鍵在於誰對使用這些系統負有最終責任，”Kronenburg説，“以及你希望如何規範這一點。”

在呼籲行動中，出席峯會的外交和國防部長髮布了一份聲明，也承認了在軍事中部署人工智能時人類應承擔的責任。

REAIM峯會上的聲明。來源：Martijn Beekman/Reaim“在行業中，我認為在軍事中，人類掌握有意義的控制將加強您的自動化系統而不是削弱它，”國際特赦組織秘書長Agnes Callamard告訴彭博社。“有些人對有意義的人類控制的門檻可能有所不同。我們可以討論這一點，但我認為大家普遍感覺這是正確的切入點。”

人權組織警告稱，關於在衝突中使用人工智能的會議和當前的討論過於集中在烏克蘭戰爭的背景上。“由於烏克蘭，這裏的每個人都認為自己是好人，” 卡拉瑪爾説。“這未能理解，在政治動盪的時代，國家可能會轉變。”