谷歌向澳大利亞監管機構報告關於人工智能深度偽造恐怖內容的投訴規模 | 路透社

Byron Kaye

2025-03-06

雙子座標誌在2024年5月20日的插圖中可見。路透社/Dado Ruvic/插圖/檔案照片悉尼，3月6日（路透社） - 谷歌已通知澳大利亞當局，全球範圍內收到超過250起投訴，稱其人工智能軟件被用於製作深度偽造恐怖主義材料。

字母表公司(GOOGL.O)這家科技巨頭還表示，根據澳大利亞電子安全委員會的説法，它收到了數十份用户報告，警告其AI程序雙子座被用於創建兒童虐待材料。根據澳大利亞法律，科技公司必須定期向電子安全委員會提供有關減少傷害努力的信息，否則面臨罰款。報告期涵蓋2023年4月至2024年2月。

自從OpenAI的ChatGPT在2022年底引起公眾關注以來，全球監管機構呼籲建立更好的保護措施，以防止人工智能被用於促進恐怖主義、欺詐、深度偽造色情和其他濫用行為。

澳大利亞電子安全委員會稱谷歌的披露為“全球首個洞察”，揭示用户可能如何利用該技術製作有害和非法內容。

“這強調了開發人工智能產品的公司在生成此類材料時，構建和測試保護措施的有效性是多麼重要，”電子安全專員朱莉·因曼·格蘭特在一份聲明中表示。

在其報告中，谷歌表示收到了258份關於使用Gemini製作的涉嫌AI生成的深度偽造恐怖或暴力極端內容的用户報告，以及另外86份關於AI生成的兒童剝削或虐待材料的用户報告。

根據監管機構的説法，它沒有説明驗證了多少投訴。

一位谷歌發言人表示，它不允許生成或分發與促進暴力極端主義或恐怖、兒童剝削或虐待或其他非法活動相關的內容。

“我們致力於擴大我們的努力，以幫助確保澳大利亞人在網上的安全，”發言人通過電子郵件表示。

“我們提供給eSafety的Gemini用户報告數量代表了全球用户報告的總量，而不是確認的政策違規行為。”

谷歌使用了圖像匹配系統——一種自動將新上傳的圖像與已知圖像匹配的系統——來識別和刪除使用Gemini製作的兒童虐待材料。

但監管機構補充説，它沒有使用同樣的系統來剔除使用Gemini生成的恐怖或暴力極端材料。

監管機構已對 Telegram 和 Twitter（現已更名為X）處以罰款，因其報告中存在不足。X已失去了一次上訴，關於其61萬澳元（38.2萬美元）的罰款，但計劃再次上訴。Telegram也計劃對其罰款提出挑戰。路透社每日簡報通訊提供您開始一天所需的所有新聞。註冊這裏。