以色列使用人工智能系統規劃致命軍事行動 - 彭博社

以色列國防軍已開始使用人工智能來選擇空襲目標並組織戰時後勤，隨着佔領領土和主要競爭對手伊朗之間的緊張局勢升級。

儘管軍方不會就具體行動發表評論，但官員表示，現在他們使用了一個人工智能推薦系統，可以處理大量數據以選擇空襲目標。隨後的襲擊可以通過另一個名為“火力工廠”的人工智能模型迅速組裝，該模型使用有關軍方批准的目標的數據來計算彈藥負載，優先級和分配成千上萬個目標給飛機和無人機，並提出一個時間表。

儘管這兩個系統都由人類操作員監督，他們會審查和批准單個目標和空襲計劃，但根據以色列國防軍官員的説法，這項技術仍未受到任何國際或國家級別的監管。支持者認為，這些先進的算法可能超越人類能力，並有助於軍方減少傷亡，而批評者警告稱依賴日益自主的系統可能導致潛在的致命後果。

“如果人工智能的計算出現錯誤，而且人工智能無法解釋，那麼我們該責怪誰犯了錯誤？”希伯來大學國際法講師、前軍事法律顧問塔爾·米姆蘭説。“你可以因為一個錯誤而消滅一整個家庭。”

以色列的鐵穹防空系統攔截了從加沙市發射的火箭，時間是5月10日。這個已經服役十多年的系統是以色列在戰爭中早期採用基於人工智能技術的例子。攝影師：Majdi Fathi/NurPhoto/Getty Images軍方對人工智能的操作使用細節仍然被列為機密，但軍方官員的聲明表明，以色列國防軍通過加沙地帶定期的衝突中獲得了有爭議系統的戰場經驗，在那裏，以色列經常對火箭襲擊進行空襲。2021年，以色列國防軍將加沙地帶的為期11天的衝突描述為世界上第一場“人工智能戰爭”，並稱其利用人工智能來識別火箭發射架並部署無人機羣。 以色列還在敍利亞和黎巴嫩進行襲擊，瞄準據稱是運往伊朗支持的真主黨等民兵組織的武器。

最近幾個月，以色列一直在就伊朗的鈾濃縮問題發出幾乎每日的警告，誓言絕不允許伊朗在任何情況下獲得核武器。如果兩國陷入軍事對抗，以色列國防軍預計，伊朗在加沙、敍利亞和黎巴嫩的代理人將進行報復，為以色列自埃及和敍利亞50年前發動的突襲引發了“贖罪日戰爭”以來的第一次嚴重多線前線衝突鋪平了道路。

以色列國防軍官員表示，像Fire Factory這樣的基於人工智能的工具是為這種情況量身定製的。“以前需要幾個小時的事情現在只需要幾分鐘，再加上幾分鐘的人工審查時間，”負責軍隊數字化轉型單位的Uri上校在特拉維夫的以色列國防軍總部發表講話時表示，出於安全原因，只能使用他的名字的第一個字。“在同樣數量的人員的情況下，我們做得更多。”

這些官員強調，該系統旨在進行全面戰爭。

1973年10月，約旦河西岸的以色列炮兵在贖罪日戰爭期間。攝影師：Jean-Claude Francolon/Gamma-Rapho/Getty Images 擴展情報？

以色列國防軍長期以來一直在使用人工智能，但近年來，隨着尋求將自己定位為全球自主武器領導者，它已將這些系統擴展到各個單位。其中一些系統是由以色列國防承包商建造的；另一些系統，比如針對成千上萬小時錄像進行訓練以識別人員和物體的StarTrack邊境監控攝像頭，則是由軍隊開發的。總體而言，它們構成了一個龐大的數字架構，專門用於解釋大量的無人機和閉路電視錄像、衞星圖像、電子信號、在線通信和其他軍事用途的數據。

處理這些信息洪流是由軍隊的8200部隊運行的數據科學和人工智能中心的目的。該中心位於情報部門內，那個部隊是許多該國科技百萬富翁的所在地，包括Palo Alto Networks Inc.的 Nir Zuk和Check Point Software Technologies Ltd的創始人 Gil Shwed，他們在創立成功的初創公司之前都在那裏服過義務兵役。據一位發言人稱，該中心負責開發了“改變了以色列國防軍整個目標概念的系統”。

這些工具的秘密開發方式引起了嚴重關注，包括半自主系統和完全自動化殺戮機器之間的鴻溝可能在一夜之間被縮小。在這種情況下，機器將被賦予定位和打擊目標的能力，人類完全被從決策位置中移除。

“只需一個軟件更改，它們就可以從半自主變為完全自主，”Stop Killer Robots的自動決策研究員凱瑟琳·康諾利説，Stop Killer Robots是一個由包括人權觀察和國際特赦組織在內的非政府組織組成的聯盟。以色列表示，他們沒有計劃在未來幾年內取消人類監督。

Fire Factory軟件來源：以色列國防軍另一個擔憂是人工智能的快速應用超過了對其內部運作的研究。許多算法是由私營公司和軍方開發的，他們不公開專有信息，批評者強調算法如何得出結論的缺乏透明度。以色列國防軍承認了這個問題，但表示軍方人員會仔細審查輸出，其軍事人工智能系統會留下技術線索，使人類操作員能夠重現它們的步驟。

“有時候，當你引入更復雜的人工智能組件，比如神經網絡之類的時候，理解‘它的腦袋裏想了什麼’，就是用比喻的方式説，是相當複雜的。然後有時候我願意説我對可追溯性感到滿意，而不是可解釋性。也就是説，我想要理解對我來説關鍵的關於這個過程的內容並監控它，即使我不理解每個‘神經元’在做什麼，”Uri説。

以色列國防軍拒絕談論面部識別技術，這項技術受到人權組織的強烈批評，儘管它表示已經停止將人工智能整合到招募軟件中，因為擔心可能會對女性和來自較低社會經濟背景的潛在學員進行歧視。

一些專家認為，將人工智能整合到戰場系統中的主要優勢在於減少平民傷亡。倫敦國際戰略研究所的研究員Simona R. Soare表示：“我認為，正確使用這些技術可以帶來效率和效果上的好處。在良好的技術參數下，可以實現非常高的精度。它可以幫助你處理許多需要在戰鬥中迅速應對的事情，而這在最好的時候都很困難。”

她補充説：“當然，也有很多事情可能會出錯。”

倫理關切

儘管以色列領導人已經概述了他們要將國家建設成“人工智能超級大國”，但他們對細節保持模糊。國防部拒絕就其在人工智能上的投資金額髮表評論，軍方也不會討論具體的國防合同，儘管它確認Fire Factory是由以色列國防承包商Rafael開發的。進一步使局勢變得模糊的是，與核武器競賽時期不同，那時泄露武器能力細節是威懾的關鍵因素，自主和人工智能輔助系統正在秘密地由政府、軍隊和私人國防公司開發。

“我們可以假設美國人甚至中國人，甚至可能還有其他幾個國家在這些領域也擁有先進系統，”以色列國家安全研究所的高級研究員利蘭·安特比説。但與以色列不同，“據我所知，他們從未展示過操作使用和成功。”

目前，沒有任何限制。儘管經過了十年的聯合國贊助的談判，但沒有建立任何國際框架來確定當計算機誤判時，誰對平民傷亡、事故或意外升級負責。

“還有一個問題是測試和這些系統所訓練的數據，”來自“停止殺手機器人”聯盟的康諾利説。“除非這些系統已經在人身上接受過訓練和測試，否則你怎麼知道系統會有多精確和準確呢？”

正是出於這些擔憂，希伯來大學的法學講師米姆蘭認為以色列國防軍應該專門將人工智能用於防禦目的。在軍隊任職期間，米姆蘭手動審查目標，以確保襲擊符合國際法。這讓他明白，無論技術如何，“總有一個你需要基於價值做出決定的時刻。”

“而為此，”他説，“我們不能依賴人工智能。”