顯式標&隱式標:AI生成內容如何“亮身份”?專家詳解新規
《人工智能生成合成內容標識辦法》從今年9月1日起將正式施行,“標識辦法”提出強制添加顯式和隱式標識等規範要求,所有AI生成的文字、圖片、視頻等內容,都要“亮明身份”,再也不能偷偷摸摸“以假亂真”了!那麼,AI生成合成的內容標識由誰來添加?該怎麼添加呢?對那些利用AI工具進行虛假信息傳播的“營銷號”能起到遏制作用嗎?
專家解讀:
AI生成內容要“亮明身份”
據中國人民大學未來法治研究院執行院長張吉豫介紹,“標識辦法”明確了相關主體的責任義務,包括服務提供者需在內容生成、傳播、下載等環節確保標識完整,互聯網應用程序分發平台需審核應用是否合規添加標識,個人用户發佈生成內容時需要主動聲明。

*中國人民大學未來法治研究院執行院長 張吉豫:*它也是對隱式標識進行了具體細化,特別説明了在目前的技術情況下,至少要對這種文件的元數據進行標識,就是在文件中進行描述的數據,用户看不到,這樣隱式標識就不影響用户的使用,又起到了標識重要信息的作用。那麼對於一些比如説可能引起公眾的混淆,甚至比較重要的誤解的這樣的一些重要的內容就需要去添加顯式的標識。

據張吉豫介紹,針對個人用户藉助AI進行文字創作時,如果不存在侵犯個人、企業、社會等主體利益的情況下,用户則不需進行專門的標識。但是,如果藉助AI生成的文字內容涉及模仿某人的話語表達、模仿媒體進行新聞發佈,或者模仿政府部門發佈相關公告等,這些容易讓人對客觀事實產生誤解、混淆的內容,都必須進行顯式標識。

張吉豫介紹,現在人工智能技術還都在發展,相應的檢測風險防範的技術還在發展中,所以目前來講,我們也不能説它是一個終極的辦法,只能説其實是在現在的技術條件之下采取的一個考慮到發展應用與安全風險防控,相平衡的這樣的一種目前階段比較良好的辦法。
將對行業和個人用户產生哪些影響?
據記者瞭解,截至2024年12月31日,我國已經有302款生成式人工智能服務在國家網信辦完成備案;生成式人工智能產品的用户規模達2.3億人。那麼,“標識辦法”的施行會對行業、個人用户,以及相關技術的發展帶來哪些影響呢?為什麼要在半年之後才施行呢?我們繼續聽聽專家的解讀。
據專家介紹,在“標識辦法”的要求下,標識的存在也會對大規模搬運人工智能直接生成內容的行為進行攔截,讓內容平台有了更明確的合規要求和管理程序,有利於降低總體的審核運營成本。

張吉豫表示,對於整個網絡空間、數字空間內容的真實性會有更大的促進,那也是我們的自媒體可以利用人工智能技術去使得自己視頻更加出彩,但是不要用它們去製造一些虛假的新聞來博得眼球,所以是引導廣大的自媒體可以更積極地利用人工智能技術。
專家介紹,“標識辦法”的施行有利於公平競爭和有效管理:
強制“標識”有利於保護傳統內容產業,能在一定程度上降低AI技術帶來的衝擊;
通過標識可以追溯AI生成內容的來源,減少因AI生成內容引發的侵權、詐騙等問題,維護個人隱私和財產安全。
據記者瞭解,作為我國人工智能領域首部“辦法+強標”的組合拳,強制性的國家標準《網絡安全技術人工智能生成合成內容標識方法》將於9月1日與《人工智能生成合成內容標識辦法》同步施行。

張吉豫介紹,在內容生成方這一點,它既需要去進行顯著的標識和一些隱性的標識,同時它也要為用户去提供加入顯著標識,同時因為辦法裏面也要求了傳播平台也需要去部署相應的對標識的檢測,所以這樣的一些技術措施的部署還是需要一定的時間準備。