9月1日起 這些AI內容必須打標識_風聞

法治在線丨9月1日起 這些AI內容必須打標識來源：央視新聞客户端-2025-08/2818:081今年3月，國家網信辦等四部門聯合發佈了《人工智能生成合成內容標識辦法》。9月1日，這項辦法就將正式施行。其中最值得關注的是所有人工智能生成、合成的內容，必須打上標識。那麼新規為何要做這樣的強制要求？未做標識的AI畫面會對公眾造成怎樣的誤導呢？

直播間售賣辣椒 網絡主播聲稱所見即所得

近段時間，在抖音、快手等平台直播間，一款名為“樟樹港辣椒種子”的產品成了一些網絡主播賣貨推銷的重點，但是有網友卻發現，直播間裏展示的辣椒畫面，看起來並不是很真實，疑似是由AI生成。

在平台直播中，記者看到，這些主播展示的視頻大同小異，都是成串垂掛、排列整齊且碩大的辣椒果實，乍一看似乎這款辣椒的產量非常高，時不時就有人下單購買。當記者詢問主播視頻保不保真，辣椒種出來有沒有這麼大時，大部分主播都表示，所見即所得。

就在這個主播回答提問的時候，背景視頻卻出現了農户站在快要沒過膝蓋的深水裏採摘辣椒的場景。這樣的場景顯然不符合正常情況，而且類似的場景，在其他主播的直播間也能看到。這些會不會是AI生成的視頻呢？記者找到技術專家，幫忙辨別。

奇安信集團安全專家 張庭：像在這一段這個人物在往後退的時候，就直接進入到了這一片的辣椒裏面，這和我們自然的過程是不符合的，我們專業裏面叫穿模，這是一個典型的AI生成的視頻中間會容易出現的問題。

另外，專家也發現這些直播使用的視頻，在無人機噴灑化肥農藥的片段中，水霧的形態呈現規則的三角形狀，不符合自然的霧化狀態，在盆栽辣椒植株展示的片段中，花朵過大，而且只集中在頂端，這些都不符合自然規律。

奇安信集團安全專家 張庭：我們從視頻中能夠看到，它存在着一些不太符合自然規律的這個現象，和一些細節方面不符合自然的狀態，很有可能這個視頻就是由AI生成的。

辣椒產地農技專家證實視頻“不真”

由此看來，這些直播視頻很可能就是AI生成的。此前，抖音等多家平台陸續要求，發佈人工智能生成內容時，需添加“內容由AI生成”的標識，並且平台也會進行監測和處置。但是這些直播視頻中卻並未進行標識。那是不是像網絡主播説的那樣，視頻只是為了更好地展示這款“樟樹港辣椒”的品質呢？記者去了樟樹港辣椒的產地，湖南省岳陽市湘陰縣，請當地的農技專家答疑解惑。

樟樹港辣椒，是湖南省湘陰縣樟樹鎮的特產，獲評“國家地理標誌農產品”。因其品質優良、口感嫩香，受到很多消費者的喜歡。當地農技專家在看到這些直播視頻時，直言是虛假宣傳。

湖南湘陰縣樟樹鎮高級農藝師 黃源：樟樹港辣椒植株很矮小的，它這個有一人多高了。你看它這個辣椒，它這個花根本就不是辣椒的花，第二，它這個葉片也不是辣椒樹苗葉片的形狀。就像一個樹苗上面結的全是辣椒，這可能嗎？不可能的。辣椒是每一個分支節點結一個辣椒，不是像玉米棒子一樣結辣椒的，它這個明顯是虛假宣傳。

同時，農技專家也告訴記者，正常情況下，樟樹港辣椒的果長一般為6到9釐米，也就是大概成年人半個手掌的長度，而視頻中展示的辣椒，普遍長度都超過了手掌，甚至有些和小臂差不多長，明顯不合理。而且樟樹港辣椒屬於皺皮辣椒，也不像視頻中展示的那樣，果皮光滑。

此外，記者也瞭解到，目前當地並沒有授權任何企業和個人在網上銷售樟樹港辣椒的種子和種苗。

全網取證 向平台投訴 要求處罰違規店鋪

目前，湖南省湘陰縣有關部門表示，已對相關行為進行全網取證，並向平台投訴，要求平台立即下架商品、刪除視頻，並對違規店鋪進行處罰。同時，他們還向侵權行為發生地或商家註冊地的市場監督管理部門進行投訴舉報，要求停止侵權行為。截至目前，抖音、快手等平台已對相關銷售行為採取措施。對構成違法犯罪的，平台也將積極配合執法及司法機關工作。那麼利用AI進行虛假宣傳的賣貨行為，會帶來哪些危害呢？

中國法學會消費者權益保護法研究會副秘書長 陳音江：消費者權益保護法和電子商務法都明確規定，經營者在推薦這種商品和服務的信息的時候，要做到真實、準確、全面。

他用AI生成的這種照片或者説視頻來展示他的商品，就要以顯著的方式來標識，提醒消費者注意，他並沒有去説明，涉嫌用這種虛假的信息來欺騙和誤導消費者，涉嫌侵犯消費者的知情權和選擇權。

如果經營者故意通過這一種AI的視頻或者説圖片來欺騙消費者，讓他誤以為可以長出這樣子，但實際上它長不出圖片和視頻的這個樣子，這種行為還可能會構成欺詐。

用AI製造假新聞 多地警方查處相關案件

如今人們的日常生活與人工智能越來越緊密，可以用AI幫忙查找資料輔助寫作；讓AI將創意轉化為圖像、視頻；用AI搭建一套高效的學習場景，可以説，我們正在進入“全民AI時代”。但是有人卻利用AI，給虛假信息穿上了一層難辨真假的偽裝，讓耳聽不一定為真，眼見也未必為實。

今年7月17日，杭州濱江警方在網絡巡查時，發現一位名叫“天使麗人”的網民在某資訊網站發佈了一篇題為《杭州亞運場館突發坍塌！建成僅2年，承建方曾獲“魯班獎”》。該文通篇採用記者的口吻進行敍述，文章細節豐富，還特意提及承建方曾獲建築行業工程質量最高榮譽“魯班獎”，意圖增加信息的“可信度”和“反差感”，極具迷惑性，乍看之下彷彿是一則突發新聞報道。

浙江杭州市公安局濱江區分局西興派出所副所長 金軼棟：我們發現這個情況以後，也是第一時間和這個奧體場館進行了聯繫，包括也去現場實地看了，發現根本就沒有帖子當中説的這個情況，那麼初步判斷這就是一個虛構事實，擾亂公共秩序的違法行為。

很快，警方就找到了該篇虛假新聞的發佈者馬某。據馬某交代，他發佈這篇由AI生成的虛假文章，主要是為了博取關注和流量，從而獲得收益，為了順利通過網站審核，他在給AI生成工具的提示詞中還特地強調了突出記者報道的現場感。目前，公安機關已對馬某進行了行政處罰。

近年來，類似由AI生成的假新聞、謠言，頻繁出現在網絡空間並傳播。

今年1月，西藏定日縣發生6.8級地震。在全國人民關注搶險救援的時候，“小男孩被埋圖”在互聯網平台迅速傳播，並配文日喀則地震等關鍵詞，引發大量網民關注。由於畫面中小男孩有6根手指，AI生成的痕跡明顯，謠言很快被識破。相關人員也受到了處理。

但隨着AI技術的迅速發展，一些AI生成工具的使用更加便捷，往往一部手機、幾個軟件就能完成一次AI創作。有的人員利用AI工具拼湊虛假事實，並通過購買一些自媒體賬號進行傳播，甚至形成了一條“謠言→AI引用→更多謠言”的傳播鏈條。

今年6月，上海靜安警方查處了一起編造“華山醫院前院長張明遠因闌尾炎未得到及時救治，客死他鄉醫院走廊長椅”的謠言案件。涉案的3名人員每天在網絡上查找各種熱點事件和消息，通過向AI工具輸入關鍵詞，自動生成文章，拼湊出了一條包含“知名三甲醫院”“前院長”“客死他鄉”等吸引眼球的謠言信息，僅24小時之內，相關謠言的不同版本就在網上被大量傳播，造成了惡劣的社會影響。

目前，相關涉案人員因涉嫌非法利用信息網絡罪，被上海靜安警方依法採取刑事強制措施，相關違法賬號已被依法封禁，案件正在進一步偵辦中。

AI生成內容必須添加顯式或隱式標識

AI生成合成的內容真假難辨，只有打上標識，才能讓AI生成的虛假消息露出原形。那麼，AI生成內容的標識具體該如何添加，新規是如何規定的？

“標識辦法”明確，人工智能生成合成內容是指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。人工智能生成合成內容標識包括顯式標識和隱式標識。

顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可以被用户明顯感知到的標識。

隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用户明顯感知到的標識。

中國社會科學院法學研究所研究員 支振鋒：這種顯式標識就好像人的臉，一眼就能看到這種真假長的是個什麼樣子，而隱式標識就像人的指紋，雖然一般不輕易看到指紋，但是很容易通過技術去檢測它，究竟是誰生產的，從哪生產的，怎麼生產的，所以這樣子的話出現了問題也很容易去溯源找到這個責任者，它就能夠形成一個很好的責任鏈條。

據法學專家介紹，添加顯式或隱式標識，最主要的目的就是，解決目前相關內容“哪些是AI生成”“誰生成的”“從哪裏生成”的三大核心問題。

顯式標識可以確保用户能直觀辨別生成內容的人工智能屬性，保障公眾知情權。

隱式標識則既保障了標識的持久性，也為後續數據清洗、校驗提供技術依據。

這兩種標識結合使用，既能減少對用户體驗的干擾，還能為相關監管提供溯源依據。

明確全鏈條責任 從生成到傳播閉環管理

AI生成的內容該由誰來標識？出現相關違法違規行為該如何追溯、追責呢？

中國人民大學未來法治研究院執行院長 張吉豫：在我們國家之前發佈的互聯網信息內容深度合成管理辦法裏面等文件中也有一定的規範，特別是針對比如説跟語音有關的，和自然人的相應的圖片視頻有關內容的時候，或者是其他的可能引起相應的用户產生混淆的時候，這個時候就需要去進行顯式的標識，以避免人們看到這段內容之後產生一個錯誤的理解。

據法學專家介紹，針對個人用户藉助AI技術進行文字創作時，如果不存在侵犯個人、社會權益的情況下，個人用户則不需要進行專門的標識。但是，如果個人用户使用AI技術生成的相關內容，涉及仿冒名人的話語表達或者容易讓社會公眾產生誤解、混淆等內容，都必須進行顯式標識。

中國社會科學院法學研究所研究員 支振鋒：標識辦法區分了生成合成內容不同主體的責任，對生成人工智能這種生成合成內容進行一個全鏈條的監管，不管是生成人工智能服務的提供者還是用户，既要按照這個辦法的要求去進行標識，還要按照國家強制標準的要求進行標識，這樣就把從製作、傳播、發佈等等這個鏈條理得更清楚，然後相關的責任劃分也更明晰。

據法學專家介紹，“標識辦法”明確了相關主體的責任義務，包括服務提供者需在內容生成、傳播、下載等環節確保標識完整；互聯網應用程序分發平台需審核應用是否具備添加標識功能；個人用户發佈生成內容時需要主動聲明。

另外，“標識辦法”中明確，服務提供者應當在用户服務協議中明確説明生成合成內容標識的方法、樣式等規範內容，並提示用户仔細閲讀並理解相關的標識管理要求。

細化追責內容 劃定AI治理新紅線

新規施行不僅明確了相關主體的責任和義務，也細化了相關法律法規的追責內容。那麼新規對於AI技術濫用現象會起到什麼樣的治理效果呢？

“標識辦法”要求，用户使用網絡信息內容傳播服務發佈生成合成內容的，應當主動聲明並使用服務提供者提供的標識功能進行標識。任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。

另外，法學專家認為，“標識辦法”的施行實際上並不是AI內容治理的終極手段，而是更符合當下我國人工智能發展階段的治理方法。

中國人民大學未來法治研究院執行院長 張吉豫：如果按照這樣的規範，它其實是可以更好地去幫助相應的生成的內容被識別，並且被檢測和標識，能夠塑造更好的、可信的空間。但是當然現在的技術發展還需要不斷地前進，所以我們可能也會隨着技術的發展，相信還有更進一步的一些具體的措施，或者具體的標準未來會進一步推行。