經濟學人：人工智能正顛覆傳統戰爭，一場新軍備競賽或將開啓_風聞

大數據文摘出品

**來源：**Economist

**編譯：**趙偉、楚陽、武帥

今年閲兵的兩個大殺器——DF-17和DF-41被廣泛關注，然而文摘菌卻從三個無人作戰方隊中，看到了一絲不尋常。

無人作戰與人工智能的發展密不可分。據《經濟學人》報道，美國國防部在2月份的第一份AI戰略文檔中宣佈：“人工智能即將改變未來戰場”，2018年夏季，五角大樓成立了聯合人工智能中心（JAIC），今年3月，國家人工智能安全委員會首次會議開幕。

在2020年度預算中，五角大樓在人工智能上投入了近10億美元，而涉及無人駕駛和自主能力的預算更是高出了四倍。

在越南，美軍初試用“算法”打仗

1970年的Igloo White行動被認為是未來戰爭的預演。

海軍戰機在叢林中低空俯衝，將一些設備丟入下方樹冠中。

這些設備，有些是用來監聽游擊隊的腳步聲或卡車的點火聲的麥克風，另有一些是記錄地面微小振動的地震探測器，這其中最新奇的是嗅覺傳感器，它可以嗅出人類尿液中的氨。

這些成千上萬的電子器件及時地將捕獲的數據回傳到無人機和電腦上。數分鐘之內，戰機就將地毯式轟炸由算法指定的網格區域。

美國試圖以上面這些方式來切斷從老撾到越南的胡志明小道，然而並未取得成功，據説越南人訓練猴子將這些傳感器全部破壞了。在這些行動中，美軍每年花費約10億美元（約合今天的73億美元），每摧毀越方一輛卡車需花費10萬美元（約合今天的73萬美元），然而這些並未有效阻止越北勢力的滲透。

但是將“算法”用於戰爭的魅力並未因此褪色。用傳感器收集數據，再用比以往處理能力更強的算法進行處理，並根據處理結果比敵人更快地採取行動這一戰略，成為世界各大國家的軍事思想核心。如今，人工智能（AI）的發展讓這種觀念更加深入人心。

機器的崛起

類似的事情也在中國發生：中國希望在2030年之前在人工智能方面領先世界；而俄羅斯的總統弗拉基米爾·普京則有一句名言“誰成為這一領域（人工智能）的領導者，誰就會成為世界的統治者”。

AI是一個廣義且模糊的術語，涵蓋了從1950年代最初的規則遵循系統到現代的基於概率的機器學習（計算機通過自學來解決任務）的各種技術。矛盾的是，如果任由人工智能技術以當前的速度和形勢發展下去，那麼很可能因為人工智能自身的不透明性而使得現代戰爭的局勢撲朔迷離。

深度學習是一種特別流行且有效的機器學習方法，涉及多層模仿大腦的神經網絡，其目前已被證明非常擅長處理各種任務，例如翻譯、圖像識別和遊戲（參見圖表）。

賓夕法尼亞大學的Michael Horowitz將AI比作內燃機或電力，來説明其用途的廣泛。他將人工智能在軍事的應用分為三類：一種是允許機器在無人監督的情況下運行，另一種是處理和解釋大量數據，第三種是協助甚至直接指揮和控制戰爭。

就戰場而言，自動化的吸引力是顯而易見的——機器人比人類更便宜、更堅強且更易進行擴展。但是，一台能夠在戰場上運動甚至戰鬥的機器必須擁有足夠的智能來執行任務，不夠智能的無人機無法在戰鬥中長期存活；更糟糕的是，一個無知的持槍機器人很可能釀成一場事故。

所有的這些都要求人工智能賦予機器必要的技能，包括一些簡單技能——感知和導航，以及其它更高級的技能，例如與其他軍事人員進行合作。

結合了這些能力的智能機器可以完成個人無法完成的任務。倫敦國王學院的Kenneth Payne介紹説：“在模擬空戰中，人工智能系統已經勝過了經驗豐富的軍事飛行員。”

今年二月，美國國防部高級研究計劃局（DARPA）的“藍天思維”部門（blue-sky-thinking branch）對能夠在“高威脅”環境下協作的最強大的六個無人機羣進行了最新測試，這其中甚至包括無人引導的情形。

儘管如此，大多數此類系統的智能都表現出了狹窄而脆弱的特性——在定義明確的環境中能很好地執行一項任務，但在不熟悉的環境中很容易失敗。

因此，現有的自動武器要麼是可攻擊雷達的巡航導彈，要麼是用於防禦艦船和基地的速射炮。這些武器都很有用，但不是革命性的，也沒有用到近年來出現的高級機器學習技術。

需要不斷提高的“智能”武器

不要認為AI只能做一些戰場上的苦力活，機器人，殺手亦或者是任何事物，都必須對它們“看到”的東西作出反應。

但是對於許多諸如間諜飛機和衞星這樣的軍事平台，關鍵是要發回原始數據，這些原始數據只有經過處理才可能變成有用的情報。現在，這種情報比以往任何時候都多，僅在2011年，美國的大約11,000架的無人機就發回了超過327,000個小時（約合37年）的影像。

其中大部分的數據都還來得及進行處理。所以説，人工智能在軍事中的第二個主要應用就是處理數據。斯坦福大學的年度AI進步指數顯示，在基於實驗室的測試中，截止2015年，算法在圖像分類中的性能已經超過了人類，並且在2015年至2018年之間，算法在一項更艱鉅的任務——圖像分割（從單個圖像中挑選出多個對象）中的性能更是幾乎翻了一番。

計算機視覺遠非完美但也可以為人所運用。人類的視覺系統對一些細微變化並不敏感，而計算機視覺則不然。比如在一項研究中，改變熊貓圖像中0.04％的像素（人類無法察覺），系統就會誤判為長臂猿。

儘管存在種種弱點，但五角大樓在2017年2月得出的結論是，深度學習算法“可以以接近人類的水平執行”。據此，其成立了“Algorithmic Warfare” （算法戰爭）團隊，代號Project Maven（專家項目），通過使用深度學習和其它技術來識別物體和可疑行動。該項目最初是用來處理在針對伊斯蘭國的戰爭中拍攝到的影像，現在的應用則更為廣泛。這樣操作的目的是產生“可操作的”情報，常以導彈轟炸或特種部隊破門而入而告終。

一位瞭解Project Maven的內部人士説，就節省時間和提供新見解而言，目前該項目對分析師的好處仍然微不足道。例如，可以看到整個城市的廣角相機會發送大量誤報。他説：“這些系統的本質是高度迭代的。” AI進展迅速，Project Maven只是冰山一角。

退役的英國皇家空軍少將、現任職於英國Earth-i公司的Sean Corbett表示，該公司通過應用一系列衞星的機器學習算法，可以在數十個基地識別不同型號的軍用飛機，其準確率超過98％（參見主圖）。他説：“接下來的明智之舉就是開發出一種可以自動判別物體是否正常的算法。”隨着對那些基地的不斷觀察，該軟件可以將常規部署和非正常行動區分開來，並提醒分析師注意其重大變化。

當然，算法是“雜食動物”，你可以餵給它任何類型的數據，而不僅僅是圖像。去年12月，英國情報機構軍情六處(MI6)負責人Alex Younger爵士表示：“大量數據與現代分析技術的結合，將使現代世界變得透明。” 2012年，美國信號情報機構-美國國家安全局(NSA)泄露的一份文件描述了這樣一個項目（可放心地稱之為“天網”）：將機器學習應用於巴基斯坦的移動手機的數據上，從而挑選出可能是恐怖組織信使的人。

​

例如，誰在過去的一個月裏從拉合爾去過邊境城鎮白沙瓦，並且比平時更頻繁地關閉或更換手機？2016年之前指揮英國聯合部隊，現已退役的Richard Barrons爵士説到：“以前，通常是指揮官提出問題，情報機構收集實體資料來尋找答案，而現在答案就在雲端。”

實際上，所討論的數據並不總是針對敵人。JAIC的第一個項目既不是武器也不是間諜工具，而是與特種部隊合作，以預測其“黑鷹”直升機的發動機故障。該算法的第一版已於4月交付。空軍在指揮控制機和運輸機上進行的測試表明，這種預測性維護可以將計劃外的工作減少近三分之一，可能會讓五角大樓目前用於維護的780億美元經費有大幅度的削減。

AI如何影響戰爭決策

然而，獲取情報只是前提條件，關鍵是根據情報做出的決策。因此，AI改變傳統戰爭的第三種方式是入主決策層。

小到排級決策，大到國家首腦決策，AI都可以參與。 “北方之箭”（Northern Arrow）是以色列一家AI公司UNIQAI的產品，它可以通過處理大量數據來幫助戰爭指揮官部署戰鬥，這些數據通常包含敵方位置、武器類型、地理位置和天氣狀況等信息。

在傳統的戰爭中，通常需要花費半天或一天的時間查看相關的地圖和圖表來處理這些數據。算法所需要的數據既來自於書本或手冊，如坦克在不同海拔高度的行駛速度，也包括對經驗豐富的指揮官的採訪。然後算法會為那些忙碌的決策者提供選項，並附上理由。

像“北方之箭”以及美國的CADET這樣的“專家系統”平台，其遠快於人類的思維速度。在一次測試中，人類需花費16個小時，而CADET只需要兩分鐘。但是，它們傾向於採用算法上簡單明瞭的規則遵循技術。從歷史標準來看，這就是AI，但大多數專家系統採用的是確定性算法，也就是説輸入相同的話，輸出也相同。這種感覺，對於那些用過世界上第一台通用電子計算機ENIAC所生成的炮兵射擊表的士兵來説，是再熟悉不過的了。

現實世界裏，隨機性常常會妨礙人們做出正確的決策，因此許多現代人工智能系統將規則遵循系統和隨機性結合起來，從而應對更加複雜的決策情形。DARPA的實時對抗智能和決策軟件RAID可以用來預測未來5小時內敵軍的位置、動向甚至可能的情感狀況。該系統基於一種博弈論思想，將問題簡化為更小的遊戲，從而降低了對計算能力的要求。

在04到08年間的早期測試中，RAID表現出比專業人員更準確且快速的執行力。在巴格達（注：伊拉克首都）兩個小時的戰鬥演練中，一支隊伍要與RAID或其他人為敵，而RAID不到一個小時就準確地分辨出了敵友。該軟件的設計者之一Boris Stilman指出，為了模擬伊拉克叛亂分子而參與其中的退役上校們“非常害怕”這個軟件，以至於“他們不再互相交談，而是用手勢來代替”。RAID正在不斷改進以供軍隊使用。

最新的深度學習系統神秘莫測。2016年3月，由DeepMind開發的深度學習算法AlphaGo擊敗了圍棋界最好的棋手之一李世石。比賽過程中AlphaGo幾步極富創造性的走棋令專家團隊感到困惑不已。次月，中國軍事科學院就這場比賽舉辦了研討會。軍事創新專家Elsa Kania談到：“對中國的軍事戰略家而言，AlphaGo勝利的啓示是：在圍棋這種類似於戰爭博弈的遊戲中，人工智能的謀略較之於人類可能更勝一籌。”

從AI遊戲技能中學習戰爭

2018年12月，由DeepMind構建的另一算法AlphaStar擊敗了《星際爭霸Ⅱ》的頂級人類選手MaNa和TLO。不同於圍棋，《星際爭霸Ⅱ》是一款即時戰略而非回合制的遊戲，玩家的信息隱蔽性和移動自由性較圍棋更高。許多軍官希望AI玩遊戲的天分可以移植到軍事上來，從而在軍事史上書下濃墨重彩的一筆。五角大樓中負責開發商業技術的國防創新部主任Michael Brown表示，利用AI實現“戰略推理”是他們的重點研究方向之一。

然而，若算法聰明到人類無法理解的地步，勢必會引起法律、倫理和信任方面的問題。人類的戰爭法則要求人們對相稱性（如平民傷亡和軍事利益之間）和必要性等概念作出一系列判斷。而不能解釋目標被選擇的原因的算法很可能並不遵守這些法則。就算它遵守戰爭法則，人類也不可能相信這一看起來就像是魔力8號球所做出的決策。（注：魔力8號球（Magic 8-Ball）是一個隨機出答案的玩具，通常有20種答案，搖一搖就隨機出現一種。）

英國皇家空軍指揮官Keith Dear説道：“當人工智能應用於軍事戰略，並計算出多種相互作用的概率推論，然後給出一個我們並不理解的行動方案時，我們該怎麼做呢？”他舉了這樣一個例子：AI可能會建議資助Baku的一場歌劇以應對俄羅斯對摩爾多瓦的軍事入侵—這是一種超現實的策略，很容易迷惑己方軍隊，更不要説敵人了。然而，這可能是AI掌握了一系列政治事件的結果，而這些事件不會立即被指揮官所察覺。

即便如此，他預測人們還是會接受可信性和效率之間的權衡。“即使在當今技術的限制下，AI也可能通過‘大規模近實時模擬’支持甚至取代現實世界的戰爭決策”。

這並不像聽起來那麼牽強附會。Richard Barrons爵士指出，英國國防部購買了一個模擬複雜軍事環境的仿真軟件，而它其實是全球超人氣競技網遊《堡壘之夜》的軍事版本。這款軟件是由一家遊戲公司Improbable和以飛行模擬器聞名於世的加拿大航空電子設備公司CAE聯手打造的，其所使用的開放標準使得從實時天氣數據到秘密情報的信息都可以加載到軟件中。Richard爵士表示：“只要有充足的數據、移動數據的網絡和處理數據的雲計算，它就將徹底改變指揮和控制的方式。這將成為從國家安全委員會到戰術指揮官的單一集成命令工具。”

戰爭最終會無人化嗎？

西方國家的政府堅持認為，人類將“參與所有循環”，監督事物，但就連他們自己的官員也不相信這一説法。

指揮官Dear表示：“目前來看，從戰術制定到戰略決策，人類都正在逐漸跳出這一循環圈子。Kania女士表示：“中國也認為未來的戰爭會超出人們的認知能力。”未來出現的已不僅僅是自動化武器，而且會是自動化的戰場。戰爭一經打響，縱橫交錯的AI系統會迅速鎖定從導彈發射器到航空母艦等不同目標，然後設計出快速而精確的打擊方式，以最有效的順序摧毀它們。

這種規模的戰爭會帶來怎樣的後果還未可知。Zachary Davis 在最近為美國勞倫斯• 利弗莫爾國家實驗室（the Lawrence Livermore National Laboratory）所寫的一篇文章中指出，精準快速的打擊“可能會增加突然襲擊的風險，從而破壞穩定。”同樣地，AI也可以用來檢測突然襲擊的信號進而幫助防禦者抵擋此類攻擊。或者，就像美國在20世紀60年代在越南叢林中大肆散佈傳感器一樣，這樣的計劃可能會以昂貴而欠考慮的失敗告終。然而，沒有哪個大國敢冒落後於對手的風險，從這個層面上講，是政治而不僅僅是技術在起作用。

2016年，美國的大型科技公司在AI上投資了200億到300億美元，而五角大樓在AI方面的支出只是其中的一小部分。雖然許多美國公司樂於和軍方談合同，如當前亞馬遜和微軟正在競爭國防部的100億美元雲計算合同，但其他公司則對此十分謹慎。（注：美國國防部在2018年推出了名為“聯合企業國防基建”（簡稱JEDI）的100億美元的雲服務合同）而在2018年6月，谷歌頂着4000名員工反對捲入“用於戰爭的技術”的壓力錶示要於年底退出飽受爭議的軍事項目Maven，儘管這個項目足足價值900萬美元。

中國具有人口優勢，人口優勢帶來了數據優勢，美國前國防部副部長羅伯特•沃克(Robert Work)今年6月警告稱，如果數據是人工智能的燃料，那麼中國可能擁有相對於世界其它地區的結構性優勢。JAIC總幹事Jack Shanahan在8月30日表達了他的擔憂:我不希望看到的未來是，我們的潛在對手擁有完全由人工智能支持的力量，而我們沒有。