網絡安全主管擔憂人工智能攻擊及在美國的濫用問題——彭博社

一項新調查顯示，近四分之一的網絡安全主管表示，他們的公司在過去一年中遭遇過人工智能驅動的攻擊，這項調查凸顯出人工智能風險已成為決定性挑戰。

總部位於特拉維夫、專注於網絡安全、人工智能、數據、金融科技和數字健康的風險投資基金Team8的報告指出，人工智能攻擊的數量很可能被低估，因為它們往往難以與人類主導的攻擊區分開來。該調查詢問了約110名首席信息安全官，他們既表達了對人工智能惡意使用的擔憂，也寄望於它能提升網絡防禦能力。

信息技術和數據分析公司Elastic的首席信息安全官曼迪·安德烈斯在Team8調查的聲明中表示：“我們已經目睹了人工智能驅動攻擊的影響——尤其是那些極具説服力且難以識別的複雜釣魚攻擊和深度偽造活動。很明顯，我們正處於人工智能軍備競賽的初期階段，而目前攻擊者已搶佔先機並佔據優勢。”

報告稱，人工智能攻擊最顯著的例子包括利用人類信任的深度偽造、語音克隆和即時冒充策略。但Team8表示，人工智能還可用於增強和加速攻擊，並可能很快演變成無需人工干預即可行動的自主武器。

“它們能以自動化方式大規模利用漏洞，“Team8戰略總監諾亞·亨説，“還能借助人工智能更快地編寫惡意軟件。”

近40%的首席信息安全官（CISO）指出，保護那些為用户處理任務的所謂AI代理是一個尚未解決的網絡安全難題。報告提到，這些AI代理可能被攻擊者欺騙或採取錯誤行動。幾乎同樣比例的CISO表示，他們擔心員工使用AI的安全問題。“這是因為很少有企業能妥善處理，“Team8指出，“如今的CISO面臨兩難抉擇：要麼限制訪問並扼殺創新，要麼允許無管控的使用並承受未管理的風險。”

調查顯示，在利用AI加強網絡防禦方面，77%的CISO預計，自主AI代理取代人力的首個實例將是安全運營中心經驗不足的分析師。這些中心負責檢測和應對組織的安全事件。

“AI的核心在於速度和規模，“曾領導美國國家安全局和網絡司令部、現為Team8運營合夥人的邁克·羅傑斯表示，“從攻擊者的角度看這有利，但這也正是我們幫助防禦者所需的。”

CISO們提到的問題也反映了計算機系統漏洞等反覆出現的老問題。

報告稱，超過40%的受訪者表示，“關鍵"漏洞中有逾40%未能在解決期限前修復。多數受訪者認為，未修補漏洞的原因是人員或時間不足。部分網絡安全負責人表示補丁不可用，或修復系統可能導致公司運營減速。

Team8的調查還發現，約60%的首席信息安全官所在組織傾向於選擇"最佳組合"網絡安全工具，而非整合式平台。這一發現標誌着多年趨勢的轉折——過去企業為減少供應商數量、控制成本，通常會從一家大型公司採購多種網絡安全產品套裝。

“雖然平台化方案曾承諾提供簡便性和規模效益，但許多CISO發現其廣度往往以犧牲深度為代價。“Team8表示。