微軟曝光利用工具繞過生成式AI防護的黑客組織——彭博社

微軟確認的黑客組織據點分佈於伊朗、英國、香港和越南。

攝影師：d3sign/Moment RF/Getty Images

微軟公司表示，已鎖定一批來自美國境內外的不法黑客，他們繞過了生成式人工智能工具（包括該公司Azure OpenAI服務）的安全防護，用以製作包括名人非自願親密圖像及其他色情內容在內的有害信息。據該公司披露，這些黑客從公開渠道竊取客户登錄憑證，利用其訪問Azure OpenAI等生成式AI服務——該微軟雲產品允許客户使用OpenAI模型。黑客隨後篡改了AI產品的功能權限，並將訪問權轉售給其他惡意組織，同時提供製作有害內容的具體操作指南。

微軟確認的黑客據點分佈於伊朗、英國、香港和越南。據稱他們隸屬於一個被微軟命名為Storm-2139的全球網絡犯罪集團，另有兩名成員位於佛羅里達州和伊利諾伊州，但微軟表示暫不公開其身份以免干擾刑事調查。這家軟件巨頭稱正在準備向美國及海外執法機構提交刑事轉介文件。此次行動正值生成式AI工具濫用引發廣泛擔憂之際，不法分子利用該技術偽造公眾人物及普通民眾的非法圖像，並製作兒童性虐待材料。儘管微軟和OpenAI等公司明令禁止此類行為並採取技術攔截措施，但惡意組織仍可能通過非授權訪問實施犯罪。

“我們非常重視人工智能的濫用問題，深知虐待性圖像對受害者造成的嚴重且持久的影響，”微軟數字犯罪部門助理總法律顧問史蒂文·正田在週四的博客中表示，“微軟始終堅持通過平台內置的強大AI安全措施保護用户，並確保我們的服務免受非法及有害內容侵害。”

正田在博客中提到，此次行動源於微軟去年12月向弗吉尼亞東區法院對10名“無名氏”提起的訴訟，旨在獲取更多關於該黑客組織的信息並瓦解其活動。

法院已裁定允許微軟查封黑客使用的關鍵網站。該公司表示，配合上月解封的法律文件，此舉引發該黑客組織內部恐慌並導致成員互相指責，微軟藉此成功識別出部分成員身份。

微軟未透露受影響名人具體信息。