不要害怕戰爭中的人工智能，害怕自主武器-彭博社

真正的傢伙們不可愛。

攝影師：Oli Scarff/Getty Images

毫無疑問，人工智能將改變戰爭，以及幾乎所有其他事物。但這種變化是末日式的還是進化式的？為了人類的利益，讓我們希望是後者。

技術創新一直在改變戰爭。自戰車、馬鐙、火藥、核武器以及如今的無人機出現以來，情況一直如此，正如烏克蘭人和俄羅斯人每天展示的那樣。

我最喜歡的例子（因為它很簡單）是19世紀的科尼格格拉茨之戰，普魯士人擊敗了奧地利人，從而確保德國從柏林而不是維也納統一。普魯士人主要獲勝是因為他們有後裝式槍，可以在地面上快速裝填，而奧地利人有前裝式步槍，他們在站立時裝填得更慢。

Bloomberg觀點哦，加拿大，你的經濟比你想象的要好富人開始比窮人再次生更多的孩子抖音需要在能夠獲得最高價格時出售英偉達對思科 —— 無論用哪種指標看，都是一個泡沫如果人工智能類似於那種技術，美國或中國，爭奪該領域的領導地位，可能希望在短暫的時刻獲得軍事優勢。然而，作為一種軍事技術，人工智能看起來不太像後裝式槍，更像是電報、互聯網甚至是電力。也就是説，它不是一種武器，而是一種將逐漸改變一切，包括戰鬥的基礎設施。

它已經在做那個。美國的衞星和偵察無人機現在捕獲瞭如此多的信息，以至於沒有人類的軍隊能夠快速分析所有這些信息，以便及時為烏克蘭人提供有關俄羅斯軍隊行動的有用提示。因此，人工智能承擔了這項工作。在這方面，士兵就像使用人工智能指導他們瀏覽大量X射線數據的醫生。

下一步是將人工智能應用於各種機器人中，例如，作為戰鬥機飛行員的自動僚機。人類仍然會駕駛噴氣式飛機，但她將被一羣使用傳感器和人工智能來發現並——在飛行員的許可下——消滅敵方防空或地面部隊的無人機包圍。如果它們的命運是如此，這些機器人甚至不會在這個過程中在乎自己是否會毀滅。通過這種方式，人工智能可以拯救生命，節約成本，並讓人類集中精力處理任務的更大背景。

關鍵細節是這些機器人在殺死之前仍然必須尋求人類授權。我認為我們永遠不應該相信算法具有足夠的背景意識來判斷，比如説，穿便衣的人很可能是平民還是戰鬥人員——即使人類在區分這兩者方面也是臭名昭著的糟糕。我們也不應該讓人工智能評估執行任務所需的人員傷亡是否與戰略目標相稱。

因此，存在的問題實際上並不是關於人工智能本身。關於這個問題的作者保羅·夏爾在新美國安全中心提出，作者認為，這主要是關於我們人類授予機器的自主程度。算法會幫助士兵、軍官和指揮官，還是取代他們？

這也不是一個全新的問題。在人工智能出現之前，冷戰期間，莫斯科建立了“死亡之手”系統，其中包括一個名為“周界”的系統。這是一個完全自動化的程序，用於在克里姆林宮的人類領導人在襲擊中死亡後發動核打擊。其目的顯然是説服敵人，即使成功的第一次打擊也會導致相互確保毀滅。但人們不禁想知道，如果“周界”出現故障並錯誤發射會發生什麼。

因此，問題在於機器自主決策的程度。在核武器的情況下，賭注顯然是生死攸關的。但對於所有其他“致命自主武器系統”（LAWS），即官方稱之為殺人機器人的系統，賭注仍然非常高。

也許算法會做出正確的決定並最大程度地減少死亡；這就是為什麼一些防空系統已經使用人工智能——它比人類更快、更好。但代碼也可能失敗，或者更加惡毒地被編程為最大化痛苦。你是否希望俄羅斯總統普京或哈馬斯部署殺人機器人呢？

作為技術上最先進的國家，美國在某些方面以良好的榜樣帶頭，但在某些方面則沒有。在其2022年核態勢評估中，美國表示將始終在制定發射決策時“保持人類‘在迴路中’”。俄羅斯和中國都沒有做出類似的聲明。去年，美國還發佈了“關於人工智能和自主權負責軍事使用的政治宣言”。得到52個國家的支持，呼籲對LAWS進行各種“保障”。

然而，不是因為他們的禁令。這就是美國在國際法中經常扮演的角色，可以發揮更具建設性的作用。試圖全面禁止自主殺手機器人的《關於某些常規武器的公約》，旨在限制諸如地雷之類的有害殺傷技術。但美國是那些反對禁令的國家之一。它應該支持禁令，並讓中國以及其他國家也這樣做。

當然，即使全世界對LAWS説不，人工智能仍會帶來新的風險。它將加速軍事決策，以至於人類可能沒有時間評估情況，在極端壓力下要麼犯下致命錯誤，要麼屈服於算法。這被稱為自動化偏見，當人們讓他們的汽車GPS把他們引導到池塘或懸崖邊時，這種心理就會起作用。

但是，自從智人在矛上綁上石尖以來，軍事創新的風險也在增加。到目前為止，我們大多學會了如何管理新的危險。只要我們人類，而不是我們的機器人，繼續做出最終和最重要的決策，我們仍然有希望與人工智能一起進化，而不是與之一起滅亡。

更多來自彭博觀點：

• 世界瀕臨崩潰嗎？請問青銅時代的人們：安德烈亞斯·克盧斯
• 如果你認為第三次世界大戰是不可想象的，請閲讀這篇文章：奈爾·弗格森
• 如果美國停止資助烏克蘭會發生什麼？：哈爾·布蘭茲

想要更多彭博觀點嗎？OPIN<GO>。或者您可以訂閲我們的每日新聞簡報**。**