李長亮：人工智能軍事化應受國際公約約束

美國企業家馬斯克日前聯合26國的116名科學家和企業家，向聯合國發表公開信，呼籲禁止發展和使用人工智能武器，並對其展開嚴格監督。信中提到，發展人工智能武器，會帶來人類軍事史上第三次戰爭革命，導致武裝衝突進入前所未有的規模，且在演變速度上超越人類的理解和控制範圍。

所謂人工智能武器，是指致命自主武器系統，很多科幻電影中出現的戰爭機器人就屬於此類。它與普通武器根本的區別是，不需要人類的直接監督和決策，能夠自動鎖定目標並使用潛在武力予以致命打擊。人工智能武器有利的一面顯而易見：將其投入到戰場，會降低成本以及保護軍事人員的生命安全。

但人工智能武器不利的一面也很可怕——一個簡單的程序，就會將其改裝成屠殺平民的恐怖機器，其危害性遠遠超過了常規武器。軍火是暴利行業，基於人工智能技術，自主化武器會給殺傷屬性帶來質的變化，必定會誘使軍火行業鋌而走險。

目前世界上還沒有嚴格意義上的人工智能武器，人類的監督和決策在武器使用過程中仍必不可少。比如在戰場上發揮了極高軍事應用價值的遠程武裝無人機，雖然高度自動化，集成控制、定位、圖像處理等多種尖端技術，也需要配備專業的軍事技術人員進行操作。但隨着人工智能技術的爆發式發展，技術問題不會再是發展人工智能武器的壁壘，美國的雷神等公司可能已經掌握或正在開發相關技術。

戰爭是政治和外交的極端暴力手段，是違揹人類和平發展願望的，但在目前的人類文明發展階段，產生戰爭的根源還存在，因此軍事的發展是一個主權國家必不可少的投入。其中武器的發展，是矛和盾不斷交替進化的過程，在製造利矛的同時，要考慮其可能為敵所用的後果，要有盾牌予以應對，比如針對導彈的反導技術等等。

如果在技術上無法對某些危害極大的武器進行限制，就需要戰爭法規公約進行制約，保護交戰人員和平民免遭不必要的非法傷害，減少戰爭的殘酷性。到今天為止，國際社會已經締結多個針對武器使用的條約：1925年簽訂的《日內瓦議定書》禁止在戰爭中使用化學武器和生物武器;1968年由59個國家簽訂的《不擴散核武器條約》限制核能軍事化應用;1972年簽訂的《關於禁止發展、生產和儲存細菌(生物)及毒素武器和銷燬此種武器的公約》制約細菌毒素武器;1980年簽訂的《禁止或限制使用某些可被認為具有過分傷害力或濫殺濫傷作用的常規武器公約》限制潛在大殺傷力武器;同樣，針對人工智能武器，美國國防部在2012年發佈指令，允許半自主武器系統使用武力，但要限制其自主程度。這意味着美國政府不反對武器智能化，但要確保所有武器在人類絕對控制下。

任何武器都具有潛在的危險性，哪怕一把匕首，都會傷人性命。關鍵是看它在誰的手裏，是用來維護和平，還是用來屠殺生靈。比如核武器，其對世界的威脅是毀滅性的，僅僅冷戰期間，美國和蘇聯擁有的核彈就足以毀滅地球若干次。但在當初國力基礎薄弱的中國，正是因為原子彈的試驗成功，大大增強了國防戰力，提高了在世界格局中的話語權，為世界和平作出了巨大貢獻。

世界並不太平,和平需要守護。我國應在保證安全、遵守國際公約的前提下，發展人工智能技術在軍事領域的應用，增強我國戰力，這也符合我軍的強軍目標。正義之師的戰鬥力越強，對世界和平做出的貢獻就越大。(作者是中科院自動化所學者)