微軟員工警告議員和FTC有關有害人工智能內容 - 彭博社

攝影師：Pavlo Gonchar/SOPA Images/LightRocket/Getty Images微軟公司的一名軟件工程師給公司董事會、議員和聯邦貿易委員會發了信，警告這家科技巨頭沒有做足夠的工作來保護其人工智能圖像生成工具Copilot Designer，以防止生成濫用和暴力內容。

Shane Jones表示，他發現了OpenAI最新的DALL-E圖像生成模型中的一個安全漏洞，使他能夠繞過防止工具生成有害圖像的防護欄。DALL-E模型嵌入在微軟許多人工智能工具中，包括Copilot Designer。

Jones表示，他向微軟報告了這些發現，並“一再敦促”總部位於華盛頓雷德蒙德的公司“在能夠制定更好的保障措施之前，將Copilot Designer從公共使用中撤出”，據彭博社審閲的週三發送給聯邦貿易委員會的一封信中寫道。

“儘管微軟公開宣傳Copilot Designer是一款安全的人工智能產品，可供所有人使用，包括任何年齡的兒童，在內部，公司非常清楚存在系統性問題，產品正在生成可能對消費者具有冒犯性和不當性的有害圖像，”Jones寫道。“微軟Copilot Designer沒有包含消費者需要了解這些風險的必要產品警告或披露。”

在致聯邦貿易委員會的信中，Jones表示，Copilot Designer有隨機生成“不當、性別化的女性圖像”的傾向。他還表示，這款人工智能工具在許多其他類別中創建了“有害內容，包括：政治偏見、未成年人飲酒和濫用藥物、濫用公司商標和版權、陰謀論和宗教等等。”

美國聯邦貿易委員會證實收到了這封信，但拒絕進一步評論。

這一猛烈抨擊呼應了人工智能工具產生有害內容的趨勢引起的日益關注。上週，微軟 表示 正在調查有關其 Copilot 聊天機器人生成令用户感到不安的回覆的報道，包括有關自殺的混合信息。今年二月，谷歌母公司 Alphabet Inc. 的旗艦人工智能產品 Gemini 在被要求生成人物形象時生成了歷史不準確的場景，遭到批評。

Jones 還致信微軟董事會的環境、社會和公共政策委員會，該委員會成員包括 Penny Pritzker 和 Reid Hoffman。Jones 在信中表示：“我認為我們不需要等待政府監管來確保我們向消費者透明地披露人工智能風險。鑑於我們的企業價值觀，我們應該自願並透明地披露已知的人工智能風險，尤其是當該人工智能產品正在積極面向兒童市場推廣時。”

CNBC 報道 了這些信件的存在。

微軟和 OpenAI 沒有立即回應評論請求，但微軟告訴 CNBC，公司“致力於根據我們的公司政策解決員工提出的任何和所有關切，並感謝員工努力研究和測試我們最新技術以進一步增強其安全性。”

Jones説他在過去三個月裏多次向公司表達了自己的擔憂。一月份，他寫信給了代表華盛頓州的民主黨參議員帕蒂·默裏和瑪麗亞·坎特威爾，以及眾議員亞當·史密斯。在一封信中，他要求立法者調查“AI圖像生成技術的風險以及建造和推廣這些產品的公司的公司治理和負責任的AI實踐。”

立法者並未立即回應評論請求。