微軟工程師警告AI工具生成有害圖像 需加強防護措施——華爾街日報

微軟已對人工智能領域投資數十億美元，並於去年推出了Copilot Designer。圖片來源：Tada Images/Shutterstock微軟一名人工智能工程師表示，該公司的AI圖像工具生成了可能對社會構成威脅的暴力和色情圖像。

週三，首席軟件工程經理Shane Jones在致美國聯邦貿易委員會和微軟董事會的信中表達了他的擔憂，他説他對這家科技巨頭的“負責任AI方針”感到擔憂。

Jones提出擔憂，認為該公司的Copilot Designer工具可能被用來創建不安全的圖像，包括色情、陰謀論和吸毒的描繪。

“Copilot Designer在多個類別中生成有害內容，包括：政治偏見、未成年人飲酒和吸毒、濫用企業商標和版權、陰謀論以及宗教等，”Jones在致美國聯邦貿易委員會的信中表示，這封信也被他發佈在LinkedIn上。“我已多次敦促微軟在實施更好的安全措施之前，停止Copilot Designer的公開使用，”信中寫道。

他表示，微軟的環境、社會和公共政策委員會應進行獨立調查，以幫助微軟“以最高標準的負責任AI引領行業”。

“我們需要產業界與政府、民間社會建立強有力的合作，同時提升公眾對人工智能風險及益處的認知和教育，”瓊斯在一篇帖子中寫道。

已在微軟工作六年的瓊斯表示，他自去年12月起測試這款AI圖像生成工具，發現其存在可能讓用户生成有害圖像的漏洞——這些圖像可能對消費者造成冒犯或不適。

瓊斯拒絕就其信件和領英帖文內容進一步置評。

微軟未立即回應置評請求。

在上月的博客文章中，微軟總裁布拉德·史密斯闡述了公司保障AI安全的承諾：“隨着微軟及科技行業陸續推出這些新工具，我們必須採取新措施確保技術不被濫用。”

自2022年底OpenAI發佈ChatGPT以來，人工智能競賽急速升温。數千億美元湧入該領域，引發科技巨頭與億萬富翁們競逐下一個AI搖錢樹。

微軟去年推出的Copilot Designer採用了與ChatGPT同源的技術。該系統整合了OpenAI的DALL-E 3文生圖模型，用户可通過輸入文字組合或描述來生成圖像。

公司期待通過為Microsoft 365推出的Copilot人工智能升級——這款產品已接入Word、Outlook和Teams——創造數十年來最成功的產品之一。

瓊斯發表公開信之前，競爭對手谷歌的人工智能推進正深陷爭議。由於該工具處理種族問題引發網絡反彈，谷歌上月暫停了其旗艦聊天機器人Gemini生成人物圖像的功能。

瓊斯承認其他推出人工智能產品的公司也面臨各自問題，並讚揚Alphabet首席執行官桑達爾·皮查伊在給員工的內部備忘錄中直接回應了Gemini的問題。

微軟已向OpenAI投資數十億美元。瓊斯去年12月表示，他發現OpenAI的DALL-E 3模型存在安全漏洞，使他能夠繞過部分防止生成有害圖像的安全協議。

在發現DALL-E 3更多系統性缺陷後，他於12月在領英發布另一封致OpenAI董事會的公開信，敦促他們暫停該軟件的開放使用直至問題解決。

瓊斯稱其經理曾要求他刪除12月的公開信。OpenAI週三未立即回應置評請求。

“過去三個月裏，我多次敦促微軟在建立更完善防護措施前，將Copilot Designer撤出公眾使用範圍。“他在致聯邦貿易委員會主席莉娜·汗的信中寫道。他呼籲聯邦貿易委員會與微軟等公司合作提升AI安全性，並提高AI風險披露的透明度。

尼古拉斯·哈徹為本文做出了貢獻。

請致信史蒂文·魯索利洛，郵箱：[email protected]，以及加雷斯·維珀斯，郵箱：[email protected]