谷歌接逾250投訴 AI軟件被用於深偽有害內容 | 聯合早報

谷歌已通知澳大利亞當局，稱從全球收到超過250起投訴，反映人工智能軟件被用於製作深度偽造素材。

路透社報道，澳大利亞電子安全委員會稱，谷歌的披露是“全球首個洞察（world-first insight）”，揭示用户如何利用AI製作有害和非法內容。

谷歌在報告稱，公司從2023年4月至去年2月期間，收到258份投訴有關旗下AI軟件“Gemini”涉嫌被用來製造深度偽造恐怖主義或暴力極端內容，而86份用户報告也稱AI軟件被用來生成兒童剝削或虐待內容。

谷歌使用“艙口匹配”（hatch-matching）系統，一種將新上傳的圖像與已知圖像自動匹配的系統，來識別並刪除使用Gemini製作的兒童虐待內容。

不過，監管機構稱，谷歌沒有使用相同的系統來清除由Gemini生成的恐怖主義或暴力極端內容。

延伸閲讀

[澳洲遏制虛假信息傳播 擬對違規社媒罰款

](https://www.bdggg.com/2024/zaobao/news_2024_09_13_706993) [Telegram延遲報告打擊違規內容措施 遭澳洲重罰

](https://www.bdggg.com/2025/zaobao/news_2025_02_24_741501) 根據澳大利亞法律，科技公司必須定期向電子安全委員會報告有關減少網絡危害的信息，否則將面臨罰款。

監管機構早前對Telegram和X處以罰款，理由是它們的報告存在問題。X後來針對61萬零500澳元（約51萬3600新元）罰款提出的上訴被裁定失敗，預計將再次提上訴。Telegram也打算提出上訴。