美國間諜應該利用私人人工智能模型,國家安全局的研究主管表示 - 彭博社
Katrina Manson
一位美國高級間諜官員表示,情報機構應該利用商業可用的人工智能來跟上外國對手,這些對手也會採用同樣的方法,同時要確保解決隱私風險以及對快速發展的技術濫用的更廣泛關注。
“情報界需要找到一種方法,利用這些大型模型而不違反隱私權,”吉爾伯特·赫雷拉,國家安全局研究主任,在一次採訪中表示。“如果我們想要實現人工智能在其他應用中的全部潛力,那麼我們可能需要依靠與工業界的合作伙伴關係。”
赫雷拉表示,他希望NSA能夠使用在開放互聯網上訓練的大型商業人工智能模型,引用了可以訪問大量數據的公司,如Meta的Facebook、Alphabet Inc.的Google和Microsoft Corp.,後者還擁有GitHub,被軟件開發人員用作代碼存儲庫。
他承認使用商業可用的人工智能模型存在將潛在有偏見的算法引入機密間諜任務的風險。他表示,情報需求可以得到滿足,而無需訪問用於訓練和開發模型的美國人和公司的基礎數據。
“如果我們使用一個在世界上訓練過的模型,那麼我們將無法訪問數據,我們只會得到決策樹,這將產生我們想要的信息,”他在範德堡大學舉辦的現代衝突峯會間説道,
國家安全委員會和國家情報總監辦公室並未立即回應有關評論的請求。
在副總統卡瑪拉·哈里斯週四會見了谷歌母公司Alphabet、微軟、OpenAI公司和Anthropic的首席執行官後,Herrera發出了警告,並表示白宮支持減輕人工智能技術潛在危害的努力。哈里斯表示,企業必須與政府合作,確保制定保護公民權利和隱私、防止虛假信息和詐騙的安全措施。
華爾街公司已經開始採用一些人工智能技術。上週,摩根大通公司推出了一個旨在解讀美聯儲訊息並發現潛在交易信號的人工智能模型。
即使依賴商業人工智能被證明是可行的,Herrera的提議也可能破壞國家情報總監辦公室2020年的指導方針,即美國間諜機構應“對任何人工智能模型的迭代、版本和更改負責,並識別和減輕‘不良偏見’。”
Herrera警告稱,美國仍然需要找到解決問題的方法,因為對手將會利用商業人工智能。他表示,那些利用大數據集的人將具有優勢,引用了中國大量視頻監控攝像頭和其他數據寶庫的例子。中國表示希望到2030年成為人工智能領域的世界領導者。
“情報界使用公開訓練信息的問題是我們必須處理的問題,否則我們將無法使用人工智能的能力,”赫雷拉説。“這將使我們處於一種境地,對手將能夠充分利用這項技術,而我們卻無法做到。”
赫雷拉表示,私營公司的算法模型可能對NSA在編碼和評估機密信息的報告撰寫工作中有用。
“所有這些都必須以尊重公民自由和隱私的方式進行,”赫雷拉説。“這是一個棘手的問題。”