俄羅斯和朝鮮黑客利用人工智能增強網絡攻擊行動 - 彭博社

俄羅斯、朝鮮、伊朗和中國支持的對手被發現正在將大型語言模型納入其工具包。

攝影師：Andrey Rudakov/Bloomberg據微軟公司週三發佈的一份報告稱，國家黑客正在利用人工智能改進其網絡攻擊。

研究人員發現，俄羅斯、朝鮮、伊朗和中國支持的對手被發現正在將大型語言模型（如OpenAI的ChatGPT）納入其工具包，通常是在其網絡攻擊行動的初期階段。一些組織正在利用這項技術改進其釣魚郵件、收集漏洞信息並解決自己的技術問題。

這是迄今為止最大的跡象，表明長期困擾企業和政府的國家支持的網絡間諜組織正在根據公開可用的技術（如大型語言模型）改進其戰術。安全專家警告稱，這樣的演變將幫助黑客收集更多情報，在試圖欺騙目標時提高其可信度，並更快地侵入受害者網絡。OpenAI週三表示已終止了與國家支持的黑客相關的賬户。終止了賬户。

“威脅行為者和防禦者一樣，正在研究人工智能，包括LLM，以提高他們的生產力，並利用可獲得的平台來推進他們的目標和攻擊技術，”微軟在報告中説。

據該公司稱，尚未發生包括LLM技術在內的重大攻擊。

微軟已向ChatGPT背後備受關注的初創公司OpenAI投資了130億美元。

使用人工智能進行網絡行動的黑客組織包括俄羅斯支持的Forest Blizzard，該組織最近侵入了微軟高管的電子郵件。朝鮮的Velvet Chollima組織冒充非政府組織來監視受害者，中國的Charcoal Typhoon黑客主要專注於台灣和泰國，也利用了這樣的技術，微軟表示。與伊朗伊斯蘭革命衞隊有關的一個組織利用LLM創建了欺騙性的電子郵件，其中一個用於誘騙知名女權主義者，另一個偽裝成國際發展機構。

微軟的發現出現在專家和公眾對人工智能可能給世界帶來的嚴重風險日益關注的背景下，包括虛假信息和失業。2023年3月，包括主要科技公司的知名領導人在內的一千多人簽署了一封公開信，警告人工智能可能對社會造成的風險。超過33,000人簽署了這封信。