聊天機器人的崛起讓網絡安全專家們趕緊應對人工智能黑客攻擊 - 彭博社

攝影師：克里斯·拉特克利夫/彭博社 必讀：

• 深度偽造色情受害者 得知 沒有法律可以打擊它• Okta 稱黑客竊取了數據 所有客服用户• DP World 稱 個人員工數據在澳大利亞遭到盜竊

網絡安全角度

三年前，一位名叫克里斯蒂娜·利亞加蒂的工程師聯繫了微軟公司，因為她越來越擔心人工智能容易遭到黑客攻擊。現在，她正在與這家科技巨頭合作，帶領一項工作來解決這個問題。

利亞加蒂和她在Mitre的團隊的想法是對所有人工智能可能被攻破的現實方式進行分類。他們有一個如何着手的藍圖：2013年，Mitre繪製了黑客攻擊計算機或幾乎任何在線事物的主要方式。結果是一個被稱為Att&ck框架的矩陣，列出了今天網絡安全實踐中被認為至關重要的主要策略和技術。每當發現一種新的方法，他們就會更新這個框架。

對人工智能做同樣的事情“要複雜得多”，Liaghati説，但他們仍在努力。她説，新的漏洞不斷出現。

問題在於，CISO和其他安全官員並不完全瞭解人工智能黑客風險，許多公司部署複雜的人工智能系統，卻並不完全瞭解可能出現什麼問題，Liaghati説。

大型語言模型的出現，可以生成新穎的文本和圖像，進一步強化了Mitre工作的必要性。最近幾個月，學者、安全研究人員甚至大學生都在揭露由LLM驅動的聊天機器人和其他功能中的漏洞。

這一舉措是因為來自世界各地的間諜和網絡防禦機構敦促人工智能系統提供商制定更好的安全實踐，以避免潛在的災難性黑客攻擊。

週一，來自美國、英國、加拿大、澳大利亞、德國等國的政府機構發佈了指南，主張安全“必須是整個人工智能系統構建週期的核心要求”，從設計和開發到部署、運行和維護。

“我們希望能夠倒帶時間，從互聯網的開始就將安全性融入其中，”國家安全局網絡安全主任Rob Joyce在發佈指南時説。“我們今天有這個機會，需要抓住機會。”

國家安全局最近成立了自己的人工智能安全中心。喬伊斯在一份聲明中告訴彭博社，美國的對手正在探索人工智能技術，以增強他們的能力和行動，並補充説，對於國家和全球安全來説，保護在商業和國防中越來越多地使用的人工智能系統至關重要。

麻省理工學院諮詢了微軟的團隊，Liaghati説微軟擁有世界上最大的數據集之一，用於研究人工智能系統如何受到攻擊。她的團隊隨後在GitHub上發佈了一個基本的Excel電子表格，她將其比作攻擊的原始畫布，而不是完整的攻擊圖片。

接下來的一年，麻省理工學院推出了一個名為Atlas的人工智能黑客框架的網站版本。它跟蹤從操縱訓練數據到在影響其準確性的機器學習模型中設置後門的一切。麻省理工學院開發了一個名為Arsenal的插件，以幫助測試人工智能系統是否容易受到攻擊。

她説，從最初得到微軟和其他十幾個組織的參與，這一努力現在已經擴大到大約一百個團體。她拒絕透露參與者的名稱，但表示它們包括幾個致力於分享關鍵基礎設施安全信息的行業組織，涵蓋信息技術、金融、健康、國防和空間。

甚至還有一個Slack頻道，其中有多個主題討論新技術以及它們是否值得納入。

“每個人都在努力評估目前的風險，”她説。

本週我們學到了什麼

羞愧是真實的。體重減輕和噩夢也是真實的。但他們以前的同學發佈的照片卻不是。在今天發佈的一篇《商業週刊》封面故事中，Olivia Carville和我詳細描述了一位長島男子如何製作了前高中同學的深度偽造裸照並在網上發佈的情況。文章還詳細介紹了一些年輕女性最終如何確定了她們的網絡騷擾者，以及她們對得知沒有法律保護她們免受這種網絡騷擾的沮喪。這種沮喪是全世界的女性共同的。根據AI照片公司Everypixel Group的數據，自2022年4月以來已經制作了超過150億張深度偽造圖像。專家表示，其中90%是色情圖像，而且不再僅僅是名人的圖像。在我們的報道中，我們調查了數千張顯然是從毫不知情的年輕女性社交媒體賬户上盜取或者在iPhone上拍攝的照片，然後經過篡改上傳到網站上。很多時候，上傳這些照片的人會惡意地將他們的帖子描述為“致敬”。監管深度偽造或者由AI生成的網絡騷擾是棘手的。法律在努力跟上技術飛速發展的步伐，導致美國出現了令人困惑的法律補丁。長島案件是美國法院審理的最早的令人恐懼的深度偽造事件之一，但肯定不會是最後一個。--Margi Murphy

我們正在閲讀什麼

• DP World稱個人員工數據在澳大利亞遭到盜竊。
• 聯邦官員在伊朗親信團體聲稱已經黑入賓夕法尼亞水務局後展開調查。
• 一家印度初創公司是如何黑入全球的。
• 神秘黑客組織瞄準以色列，展現出超常的能力。
• Instagram的算法向關注兒童的成年人提供有害視頻混合。

釣魚行動

從你下次的科技會議帶回一個紀念品吧！

**有新聞線索嗎？**你可以聯繫Katrina Manson，郵箱：[email protected]。Margi Murphy的郵箱是[email protected]。你也可以使用我們的SecureDrop安全、匿名地發送文件。

更多來自彭博社

獲取科技日報和更多彭博科技週刊，直接發送到你的收件箱：

• 遊戲開始進行視頻遊戲業務的全程播放
• 啓動電源獲取蘋果獨家新聞、消費者科技資訊等
• 銀幕時光近距離觀看好萊塢和硅谷的碰撞
• 聲音片段報道播客、音樂行業和音頻趨勢
• 問答AI回答關於人工智能的所有問題