Meta開始對來自OpenAI、Google等公司的人工智能生成的圖像進行標註 | 路透社

人們在印度孟買舉行的一次會議上走過Meta平台公司的標誌，2023年9月20日。路透社/弗朗西斯·馬斯卡倫納斯/文件照片 2月6日紐約報道，Meta平台 (META.O)將在未來幾個月開始檢測並標記其他公司人工智能服務生成的圖像，使用內置在文件中的一組不可見標記，該公司的高級政策執行官週二表示。Meta將對攜帶這些標記的任何內容應用標籤，這些內容發佈到其Facebook、Instagram和Threads服務，以便向用户發出信號，表明這些圖像——在許多情況下類似於真實照片——實際上是數字創作，該公司全球事務總裁尼克·克萊格在一篇博文中寫道。

該公司已經標記了使用其自己的AI工具生成的任何內容。

一旦新系統投入運行，Meta將對由OpenAI、Microsoft (MSFT.O)、Adobe (ADBE.O)、Midjourney、Shutterstock (SSTK.N)和Alphabet的 (GOOGL.O) Google運行的服務上創建的圖像採取同樣的做法，克萊格表示。該公告提供了對技術公司正在開發的一套標準技術體系的早期預覽，以減輕生成式人工智能技術可能帶來的潛在危害，這些技術可以根據簡單提示生成虛假但看起來逼真的內容。

這種方法是建立在過去十年中一些同樣公司制定的模板基礎上的，用於協調跨平台刪除被禁內容，包括大規模暴力和兒童剝削的描繪。

Clegg在接受路透社採訪時表示，他相信這些公司目前可以可靠地標記由人工智能生成的圖像，但他説標記音頻和視頻內容的工具更復雜，仍在開發中。

“儘管技術尚未完全成熟，特別是在音頻和視頻方面，但希望我們能夠創造一種勢頭和激勵，促使整個行業跟進，” Clegg説。

他補充説，在此期間，Meta將開始要求人們標記他們自己修改過的音頻和視頻內容，並在未能這樣做時施加懲罰。Clegg沒有描述這些懲罰。

他補充説，目前沒有可行的機制來標記由ChatGPT等人工智能工具生成的書面文本。

“那艘船已經開走了，” Clegg説。

Meta的一位發言人拒絕透露該公司是否會對其加密消息服務WhatsApp上共享的生成式人工智能內容進行標記。

Meta的獨立監督委員會週一指責該公司的政策存在誤導性篡改視頻，稱其範圍太窄，內容應該被標記而不是刪除。Clegg表示，他基本上同意這些批評。

他説，委員會是對的，Meta現有的政策“在你將會有比以前更多的合成內容和混合內容的環境中，根本不適用。”

他引用了新的標籤合作伙伴關係作為證據，表明Meta已經朝着董事會提出的方向邁出了步伐。