美國間諜希望利用人工智能作為對抗中國的工具，如果技術可以信任-彭博社

美國情報機構正在面臨一個艱鉅的新挑戰：確保人工智能對美國間諜安全。

國家情報總監辦公室的一個部門正在與公司和學院合作，幫助利用快速發展的人工智能技術，這可能為美國提供對抗中國等全球競爭對手的優勢。挑戰在於確保它不會打開通往國家最高機密的後門，或生成虛假數據。

“情報界希望利用現有的大型語言模型，但有很多未知因素，”管理國家情報總監辦公室項目之一（名為孟加拉）的數據科學家蒂姆·麥金農説。“最終目標是能夠信任地使用模型。”

可靠性和安全性的關注是美國更廣泛的 軍事 和情報活動的一部分，旨在利用人工智能的力量並與中國競爭，中國計劃在2030年成為該領域的全球領導者。這也推動了華盛頓地區 與人工智能相關的招聘 的激增，因為政府及其承包商正在接受這一新興技術。

最緊迫的擔憂集中在大型語言模型上，它們使用大規模數據集來驅動工具，例如 OpenAI公司的 ChatGPT，以提供對用户提示和問題的詳細回應。

閲讀更多： 大型語言模型的工作原理，使聊天機器人清晰

“情報界對人工智能持健康的懷疑態度和各種熱情，”戰略與國際問題研究中心情報、國家安全和技術項目主任艾米莉·哈丁（Emily Harding）説道，她舉例説分析人員能夠處理大量信息的能力，但對當前模型的可靠性表示懷疑。

“這是一個處於早期有用性階段的工具，”她説。

中央情報局首席技術官南德·穆爾錢達尼（Nand Mulchandani）認為，人工智能有可能通過消化大量內容並發現人類難以辨別的模式來提高生產力。他還將其視為一種應對中國在情報人員配備方面的數量優勢的方式。

南德·穆爾錢達尼攝影師：亞歷克斯·王/蓋蒂圖片社“人類很棒，但難以擴展，”穆爾錢達尼在一次採訪中説道。“利用科技來擴展人類是明智的商業舉措。”

閲讀更多關於美國國家安全和人工智能的內容：
* 美國海軍將測試人工智能系統以追蹤太平洋中的中國潛艇 * 中情局利用人工智能工具與中國展開競爭 * 拜登的國家安全局提名人警告人工智能帶來的安全威脅正在增長 * 五角大樓敦促人工智能公司更多地分享其技術信息

美國間諜機構已經開始嘗試他們自己的人工智能程序。據彭博新聞報道，中央情報局正在準備推出類似於ChatGPT的功能，這將使分析人員更好地訪問開源情報。

美國情報部門對人工智能的吸引力部分源於其潛力，即在每天收集的海量數據中區分信號和噪音，以及開發創造性的問題解決方式，一位情報分析人員在談論內部事務時表示。然而，該分析人員表示，存在影響和干擾人工智能模型的方法，這帶來了新的風險。

威脅，干預

麥金農表示，人工智能容易受到內部威脅和外部干預的影響。這些威脅可能是人類試圖欺騙系統透露機密信息 —— 試圖“越獄”模型。或者相反：一個受損的系統“試圖引誘人類透露不應該透露的信息，”他説。

麥金農的孟加拉計劃 —— 縮寫為偏見效應和顯著生成式人工智能限制 —— 由情報高級研究項目局負責，這是一個鮮為人知的機構，隸屬於國家情報總監辦公室。孟加拉計劃已經從包括亞馬遜公司的一個部門在內的公司那裏獲得了輸入，但麥金農拒絕透露是否正在與任何特定公司合作。

該程序旨在通過開發處理潛在偏見或有毒輸出的方式來減輕人工智能的一些風險，比如“幻覺”，即程序捏造信息或提供不正確的結果，這並不罕見。

“現在只有少數幾個模型是公開可用的，但它們將變得更普遍，它們的訓練方式可能存在偏見，”麥金農説。“如果有一個受損的模型，我們希望能夠對抗它。”