澳大利亞要求將由人工智能製作的兒童色情材料從搜索結果中刪除 | 路透社
Byron Kaye
AI(人工智能)字母被放置在計算機主板上,這是2023年6月23日拍攝的插圖。路透社達多·魯維奇/插圖/文件照片
悉尼,9月8日(路透社)-(本文已於9月8日更正,刪除了第8段中關於微軟是DIGI成員的提及)
澳大利亞將要求谷歌和必應等搜索引擎採取措施,防止人工智能生成的兒童色情材料被分享,該國互聯網監管機構週五表示。
行業巨頭根據政府的要求起草的新規範將要求搜索引擎確保此類內容不會出現在搜索結果中,電子安全專員朱莉·英曼·格蘭特在一份聲明中表示。
她還表示,該規範還要求內置在搜索引擎中的人工智能功能不能生成該材料的合成版本。合成版本也被稱為深度偽造。
“生成式人工智能的使用增長如此迅速,以至於我認為它在一定程度上讓整個世界措手不及,”英曼·格蘭特説。
該規範展示了圍繞互聯網平台的監管和法律環境如何被自動生成逼真內容的產品爆炸所重塑。
英曼·格蘭特表示,谷歌(屬於Alphabet)(GOOGL.O)和必應(屬於微軟)(MSFT.O)起草的早期規範未涵蓋由人工智能生成的內容,因此她要求它們重新起草。
“當行業中最大的參與者宣佈他們將把生成式人工智能整合到他們的搜索功能中時,我們已經有了一份草案代碼,顯然已經不再適合使用。我們要求行業再試一次,”Inman Grant補充道。
澳大利亞數字產業集團(Digital Industry Group Inc)的一位發言人表示,該組織是谷歌的成員,他們對監管機構批准了新版本的代碼感到高興。
“我們努力反映了生成式人工智能的最新發展情況,將行業最佳實踐編碼化,並提供了進一步的社區保障,”發言人表示。
今年早些時候,監管機構為其他幾家互聯網服務(如社交媒體、智能手機應用和設備提供商)註冊了安全代碼。這些代碼將於2023年底生效。
監管機構仍在努力制定關於互聯網存儲和私人消息服務的安全代碼,這些服務在全球範圍內面臨來自隱私倡導者的阻力。