美國五角大樓2019年終獲“差評”，拖了人工智能的後腿
【文/觀察者網特約記者 譚婧】
“顛覆性技術”和“高度關注”依然是2019年評價AI的兩個關鍵詞。雖然工業界落地艱難，但是，軍事界熱情不減。作為軍事大國，美國的目標非常清晰。推動美國頂尖人工智能研究走向新的技術突破，促進科學新成果的發現、增強經濟競爭力、鞏固國家安全。
僅憑12個月的角力難分勝負，但是年度評估非常必要。花了美國納税人這麼錢，坐落在美國華盛頓波托馬克河畔的五角大樓，2019年工作做的怎麼樣？
《國防授權法（2019）》（National Defense Authorization Act for Fiscal Year 2019）有細則特別提到，對人工智能進行專項研究，確定美國國防部在人工智能、機器學習等技術方面的競爭力。因此，第三方諮詢機構蘭德公司（RAND Corp.）受命於此。在2019年年末，他們對五角大樓的人工智能態勢進行了獨立、審慎的評估，出具一份重量級的報告《蘭德諮詢：美國國防部人工智能態勢分析》。
一、人工智能是五角大樓的機會
報告開篇聚焦三個本質性問題。五角大樓目前在人工智能中的現狀如何？五角大樓相關的人工智能處於什麼狀態？哪些內部行動，外部參與以及潛在的立法或監管行動可能會增強五角大樓在人工智能中的地位？這三個問題拷問五角大樓的靈魂報告對於五角大樓目前態勢的判斷，成為一面鏡子，意在推動該機構深刻反思。
《報告》的分析框架分為“六大”維度，從六個不同的角度“照進”五角大樓要面對的現實。
（一）組織，從五角大樓的執行層的視角提出，包括遠景、戰略、組織結構和承諾的資源。
（二）進展，技術的研究、開發、原型、驗證、確認、測試和評估。
（三）應用，技術採購、部署和生命週期管理，重新設計概念和流程，以充分利用技術。
（四）創新，內部創新文化和引進外部創新或創新者的機制。
（五）數據，數據作為資源、數據治理和支持基礎設施，數據的利用。
（六）人才，五角大樓需要和培養和增長人才的機制。
眾所周知，企業界的算法生而用於商業用途，比如谷歌廣告推薦，優步打車路徑規劃。這些不是五角大樓所直接期望的用途，再加之目前算法存在一定的“手工打磨的性質”。簡而言之就是模型的質量需要高質量的數據，而數據標註需要花費大量的人力物力。此前也有百度公司的AI科學家在論壇中戲稱“需要有多少智能，就需要配套多少人工。”所以，直接擴展企業AI的用途到軍事上，並不是一件容易的事情。《報告》觀點與業界觀點一致，並做出提示，需要謹慎的策略和執行，同時在基礎設施和支持方面進行大量投資。
儘管不可缺少謹慎的態度，但是，在《報告》看來，人工智能的技術進展，對美方，尤其是五角大樓這樣的機構意味着機會。
《報告》站在積極的視角，鼓勵五角大樓應該探索、尋求機會，特別強調利用好企業級人工智能、任務支持類人工智能和操作類人工智能（enterprise AI， operational AI and mission-support AI）這三類技術的新進展，尤其關注“驗證、確認、測試和評估（verification， validation， testing， and evaluation，VVT&E）”的應用。
《報告》進行深入的調研，自然也充分理解了人工智能現在面臨的短板，算法在很多應用中缺乏魯棒性，不可能一蹴而就地找到大規模應用的爆發點，並給出戒驕戒躁的風險提示，也就是要對人工智能技術的性能提升不要心急，要付出耐心。——“對於五角大樓來説，在從演示到大規模部署的過程中，保持對性能和時間表的現實預期是很重要的。”
不僅如此，除了保持對人工智能這一新興技術正確的認知與態度，《報告》也做出了預判，明確指出了繼續投資的方向。“為了確保成功，還需要對基礎設施和設備以及識別、驗證、測試和評估進行持續的配套投資。儘管離確保人工智能應用程序的性能和安全還差得很遠，特別是在涉及安全關鍵系統方面。儘管這不是隻有美國國防部一家機構面對的獨特問題，但它是對美國國防部產生重大影響的關鍵性問題。”
二、像對待核武器技術一樣對待人工智能。
《報告》給予人工智能技術高度的評價，以今天的人工智能技術比做五十年前的核武器技術。並建議，“建立美國五角大樓研究人工智能和機器學習的中心，整合該領域專業知識和能力。就像過去確保五角大樓在核武器方面的技術優勢一樣。”
眾所周知，人工智能是屬於貴族的遊戲。科技巨頭亞馬遜公司，在2018年末股東信中已經將這一結論表達得非常清楚——“強化學習（機器學習重要分支之一）具有陡峭的學習曲線和眾多的發展方向，這在很大程度上決定了它的效果，到目前為止，除了資金最充足和技術最先進的機構外，其他所有機構都無能為力。只有具有好奇文化和強烈願意為客户嘗試全新事物的企業才能達成……”
由此，上桌需要大籌碼。只有最具實力的國家、企業、組織、機構才有資格。五角大樓擁有人工智能應用的天然場景當然不能例外，是人工智能“重點實施單位”。例如，《國家安全戰略》(NSS)有史以來第一次將人工智能列為優先事項，以及2020年研發預算的優先事項，並推動國防部成立人工智能中心（JAIC），設立人工智能國家安全委員會，加大美國國防高級研究計劃局(DARPA)對人工智能的投資力度。
毫無疑問，這是“美國政府”的意思，盡一切努力讓人工智能的地位在美國五角大樓不斷地增強，沒有人會對此視若罔聞。
蘭德公司高級信息科學家丹妮爾•塔拉夫（Danielle Tarraf）表示，深度學習的成功目前是建立在海量、有標籤的數據集能夠使用的基礎之上。在五角大樓整個機構範圍內追求人工智能的發展，將要求五角大樓從根本上將其現有文化，轉變為數據驅動的文化。
文化至關重要，戰略也只是文化的早餐。這一在企業界通行的理論，在軍事管理機構也同樣適用。《報告》敦促五角大樓進行文化層面的轉變，可以説是從根本上要將五角大樓扭轉為“數字化”的思維方式。
另外，《報告》強調，美國五角大樓需要一個集中、專注、資源豐富的組織來推動人工智能和機器學習的應用研究中心。該中心應協調各部門的研究，並與企業和高效實驗室保持聯繫，向通報這些進展對國防企業的影響。”
可以看出，一個名為“某某人工智能中心”的機構的存在，就是要做全美人工智能的研究信息中樞。這又是從組織結構層面要求五角大樓進行轉變。面對變革，越是龐大、紀律性強的機構越是滯後。一個靈活、優秀的先遣部隊對於機構整體變革會有良好的示範帶頭作用，可以被視為創新的發動機。一般這類機構的建立一開始就會給予高度的授權，以及豐沛的資源。因為他們將創造“明天”。
三、人工智能，五角大樓“天下第一考”？
2019年，美國國防部在人工智能方面獲得了諸多政策與資源支持。五角大樓究竟是“地主家的傻兒子”還是“江山代有才人出”，人工智能無疑是五角大樓的一場大考。
首先，曾任美國五角大樓副部長帕特里克•沙納漢(Patrick Shanahan)在一份備忘錄中宣佈成立聯合人工智能中心(JAIC)後，五角大樓要求國防創新委員會(DIB)科學和技術小組委員會安排在2019年1月、3月和4月舉辦系列圓桌會議和公眾聆聽會議。
2019年伊始，美國國防部發布人工智能發展細則，確定將把人工智能引入軍隊訓練等多個領域。
2019年1月16日，位於美國華盛頓特區的國家情報總監辦公室發佈了《使用機器增強智能的策略計劃》(Augmenting Intelligence using Machines)。該計劃使情報機構能夠從根本上改變其產生情報的方式，軍事情報理所當然包括在內。
2月，特朗普簽署行人工智能總統行政命令，又稱《美國人工智能倡議》，強調繼續在對美國經濟和國家安全方面，人工智能發揮領導力，將人工智能全球進化（global evolution）的方式塑造為符合美國價值觀、原則。這是影響人工智能在美國發展的里程碑事件。
在特朗普簽署行政命令的同時，五角大樓發佈了人工智能戰略的非機密摘要。該戰略概述了提高人工智能能力、擴大人工智能影響、培養人工智能勞動力、積極與盟友和合作伙伴進行接觸以及在軍事、倫理和人工智能安全上發揮領導作用的五個方面的戰略方法。該戰略還將聯合人工智能中心指定為“五角大樓人工智能戰略的重點”，以“加速交付人工智能能力，擴大人工智能的全局性影響，同步五角大樓人工智能活動，擴大聯合部隊優勢”。
當地時間2月11日，美國總統特朗普簽署人工智能行政命令。
2019年3月，美國國家安全委員會(NSC)舉行了首次全體會議。
2019年5月3日，美國國防創新委員會發布了軟件採購和實踐(SWAP)研究報告。
2019年6月，美國國家人工智能研發戰略計劃更新。
2019年7月12日，美國五角大樓於發佈了其數字現代化戰略。其目標是通過雲計算、人工智能、命令、控制和通信和網絡安全的優先計劃來支持美國國防戰略的實施。
2019年8月9日，美國國家標準與技術研究院(NIST)發佈了人工智能計劃，作為對特朗普的回應。
2019年9月6日，美國能源部宣佈成立能源部人工智能與技術辦公室。
2019年10月最後一天，美國國防創新委員會提出了人工智能原則，並在季度公開會議上投票批准了該原則。
2019年11月4日，美國國家安全委員會發布了關於人工智能的臨時報告。
2019年美國國防授權法案簽署成為法律。該法案包含兩項關於人工智能的立法，第238條和第1051條，立法成立人工智能國家安全委員會。
回顧過去三年，美國五角大樓對自主能力產生了濃厚的興趣。這種興趣體現在美國國防科學委員會(DSB)的反制自主任務小組、現已解散的美國海軍研究諮詢委員會(NRAC)、美國陸軍科學委員會(ASB)多個機構目前正在開展的研究項目上，比如“人工智能在戰場上的應用”。同時，人工智能也滲透到美國空軍科學顧問委員會(SAB)諸多研究中。
回望更久遠的歷史，美國五角大樓結緣人工智能並非始於過去幾年。五十多年前，DARPA就一直支持人工智能研究。美國海軍研究辦公室，美國空軍科學研究辦公室和美國陸軍研究實驗室也在支持人工智能研究方面有着悠久的歷史。
四、“六大槽點”獲差評
人工智能受到五角大樓自上而下的重視，但是面對一種新技術，美國人也是在摸索中前進。在尚且無法判斷之時，勤奮的工作未必能取得優異的成績。
《報告》結論認為，美國五角大樓的人工智能態勢在各個方面都受到了重大挑戰，並嚴苛地指出工作中存在的“六大槽點”。
一、五角大樓沒有人工智能願景，並缺乏相關的基準和指標，並且內部溝通不暢。
二、五角大樓內部對人工智能投資缺乏共識，五角大樓的收購戰略在多大程度上支持人工智能發展仍不清楚。
三、五角大樓牽頭髮展AI的部門權責受限，缺乏長期預算承諾，缺乏五年戰略路線圖，沒有明確的目標，沒有制定路線圖。
四、五角大樓內部的創新可能會受到現有實踐和流程的阻礙，而現有管理及流程限制五角大樓引入外部創新。
五、整個美國國防部內部系統缺乏互用性（interoperability）帶來諸多問題。不能收集和存儲好數據、數據的訪問受限、有的數據不能追溯，涉及外部供應商的數據所有權含糊不清。
六、在人才方面，五角大樓缺乏定義和跟蹤AI人才的明確機制，難以發展和培養AI人才。
《報告》繼續它的批評，特別指名點姓地評價了牽頭部門——聯合人工智能中心（JAIC），強調五角大樓需要一個集中、專注、資源豐富的應用研究中心來推動人工智能和機器學習的發展，而目前的牽頭部門難堪當重任。該中心曾在《國防部人工智能戰略總結》中被指定為執行美國國防部戰略的重點部門，並有望吸引和培養一支世界級的人工智能團隊。然而，聯合人工智能中心2019年表現平平，毫無亮點。
《報告》坦誠地討論了研究人員評估工作的侷限，“我們（蘭德諮詢的研究人員）沒有采訪美國國家級實驗室和情報機構。也沒有采訪美國政府資助的研究和發展中心，以及美國大學附屬的研究中心。儘管根據研究的既定目標對受訪者進行了系統的選擇和接觸，但仍存在樣本偏差的可能性。例如美國國防工業基地，我們本想在那裏撒一張更大的網，但由於能力所限，無法採訪。”
言下之意，如果評估工作做得再徹底一些，五角大樓槽點會更多。
另外，蘭德諮詢公司對五角大樓目前在人工智能領域的投資項目進行了定量的評估工作，但這部分資料並不允許公開。
最後，《報告》毫不留情面給出的決定性結論是，“儘管我們看到了一些積極的跡象，但是，評估結果是，國防部在人工智能中的態勢，在被評估的所有方面都受到了顯著的挑戰。”
除了批評與否定，《報告》提出了一系列建議，包括內部行動、外部參與以及潛在的立法，以及監管行動提出了11項戰略建議。要求五角大樓明確使命，促進人工智能的應用，制定一項五年戰略路線圖以實現擴展人工智能用途，並要求五角大樓推進人工智能平台的測試和驗證實踐，擴展與學術界和工業界的合作。
綜上所述，《蘭德諮詢：美國國防部人工智能態勢分析》全面和徹底的，對五角大樓進行了不留情面地批評，從領導層到執行層，從文化到管理，以“差評”為美國國防部2019年人工智能的工作畫上句號，但是，人工智能是一場全球性的技術變革，風起雲湧之中，這場沒有硝煙的戰鬥並不會因為新年的鐘聲響起而停止。
本文系觀察者網獨家稿件，未經授權，不得轉載。