9月1日起，AI生成內容需持“身份證”，不標識或面臨嚴格處罰_風聞

**抖音、小紅書、B站可主動標註，核驗能力需提升 |**圖：豆包AI

作者／  IT時報****賈天榮

**編輯／**郝俊慧  孫妍

9月1日，由國家互聯網信息辦公室、工業和信息化部等部門聯合發佈的《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），與配套強制性國家標準《網絡安全技術人工智能生成合成內容標識方法》正式生效。

滙業律師事務所律師史宇航在接受《IT時報》記者採訪時表示，《辦法》的意義不僅在於對生成合成服務提供者（如模型開發者）提出標識要求，還對內容傳播服務提供者（如社交媒體平台）規定了核驗和添加標識的義務。這意味着監管責任覆蓋了內容生成到傳播的全過程，形成全鏈條責任體系，有助於從源頭到終端對AI生成內容進行有效管理，而且給國際社會提供了AI生成內容治理的一個範例。

《IT時報》記者實測發現，抖音、小紅書、B站等主流視頻網站已允許創作者主動標識視頻中的AI生成內容，作者可以在發佈視頻時，在“創作聲明”中註明該內容是否由AI生成。不過，對於並未主動標識的AIGC（AI生成）內容，平台的識別能力還相對較弱。

“AI換臉”如不標識將面臨嚴格處罰

記者在抖音、B站、小紅書三個平台分別發佈了3條AI生成的視頻，其中一條主動標註了AIGC，另兩條沒有標註。

發佈完成後，記者注意到，主動標註後，B站的AI標識相對明顯，視頻的左下角和簡介中均顯示了相關提示，而小紅書則較為隱蔽，只有點擊作者頭像才能看到“筆記含AI生成內容”的標識。

但對於未主動標註的另外兩條AI視頻，平台識別得不是特別準。抖音自動識別出其中一條，並提示“作品含有AI生成內容”，B站和小紅書的系統則兩條都未有效識別出。

整體來看，各平台在AI生成內容的檢測和提示機制上仍存在差異，自動識別和強制標識能力有待提升。

之所以強調平台主動核驗，源自當前AI濫用案例屢見不鮮。據央視報道，某博主利用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋，17條視頻累計銷售超4.7萬件，嚴重侵犯了運動員及家人權益，也暴露了平台監管的缺位……

隨着AI技術的普及，“克隆”特定人物面貌和聲音已可實現“一鍵式”操作。

今年3·15期間，記者也曾製作過幾條明顯帶有AI換臉痕跡的視頻，並嘗試在各大平台發佈。令人驚訝的是，所有視頻均順利上傳，且未被平台自動檢測為AI生成內容。甚至當記者在標題中明確標註了“AI換臉”，平台也依然沒有觸發任何警示。

在AI換臉視頻的審核機制上，各大平台此前顯然存在明顯漏洞，對AIGC內容的監測和管理相對鬆散。

《辦法》實施的初衷之一即規範平台對AI生成內容的管理，《辦法》實施後，“深度偽造”內容如不加聲明，將面臨嚴格處罰。例如，用户利用AI換臉、合成語音等方式製作虛假視頻，平台若未履行核驗和提示義務，均可能被追責。

史宇航也認為，《辦法》及其配套國標的生效，對企業和開發者（即服務提供者和技術支持者）施加了明確且具體的技術和管理義務，核心約束力體現在“必須標識”和“規範標識”兩個層面。

《辦法》生效後，一個最可能“撞上處罰槍口”的典型現象是：短視頻平台上的用户使用“AI換臉”或“AI聲音模仿”功能，製作併發布模仿某位名人的惡搞或不實信息短視頻，而該短視頻App的開發者（服務提供者）未按規定在生成的視頻上添加任何“AI生成”的顯著標識。

史宇航表示，對於AI生成服務提供者，處罰措施包括警告、通報批評、責令限期改正；對於傳播平台，如果平台未盡到核驗和提示義務，也可能面臨相應的監管處罰；對於違法使用AI的惡意用户，也可能面臨平台關停賬號、限制功能等一系列處罰，甚至還可能面臨民事、行政乃至刑事責任。

創作者的挑戰與適應

從創作者的角度看，《辦法》的實施無疑帶來了新的挑戰。

AI視頻創作者俞國漢告訴《IT時報》記者，隨着平台對AI生成內容規範的逐步收緊，創作者的感知變得愈發明顯。

“現在大家都很小心，必須遵守新的規則。”在俞國漢看來，行業的規範化對大家來説是好事，隨着AI技術的發展，一些偽造圖片騙取流量的做法，變得更加隱蔽和難以識別，即便是業內人士，也很難一眼辨別，因此防止這種不規範行為顯得尤為必要。

潛在的風險則是，有些甲方可能排斥帶有明顯AI標識的內容，“如果內容帶有明顯的AI標識，部分甲方可能就不想買賬，創作者收益也可能因此減少。”俞國漢説。

但長遠來看，這是內容創作者的必經之路。俞國漢頗為感慨的是，從2022年底ChatGPT發佈至今，平台對AI創作內容的管理越來越嚴格，這既是對創作者的挑戰，也意味着AI創作正在走向更加規範的未來。

另一位創作者阿遠（化名）則認為，隨着通用大模型能力的提升和開源社區的繁榮，創作者即使不懂技術也可以輕鬆生成高質量內容。

作為一名技術小白，阿遠在不到一天的時間內，使用近百張圖片在阿里魔搭平台訓練出一個能夠生成“小紅書風格”圖片的專屬模型，“幾乎沒有任何門檻”。

記者試用了阿遠訓練的模型，僅輸入簡單的提示詞，幾秒鐘後便生成了逼真的“小紅書風格”圖片。像這樣的圖片，該模型在平台上每天能生成1000張。

在生成過程中，魔搭平台仍然提供了“無水印生成”與“添加AI標識並生成”兩個選項，在選擇“無水印生成”時，平台會提示用户：“請自行落實標識及法定義務，相關責任由您獨立承擔”。

對此阿遠認為：“平台沒有強制打標，可能是考慮到平台出的素材直接打了AI標識會影響創作，創作者可以在創作完成之後自己標註。”

不過，對於這些“低門檻”製作的圖片，阿遠認為，必須標註，“否則即便我們這些‘玩家’也很難看出是不是AI生成的”。

創建一個屬於自己的AI大模型，門檻已經越來越低。魔搭平台是國內較大的AI大模型開源社區，可以説是國內開源大模型超市。記者上傳三張圖片後，選擇某個開源基礎模型後，模型訓練就開始了，不管是車、人或者其他形象，都可以進行訓練。

“如果你上傳的圖片都是一個人的，以後這個模型出的人物就可以‘鎖臉’，明星圖片也可以訓練。”阿遠坦言，將訓練出的模型下載到本地，便可以隨意生成內容，不會受到平台限制，唯一的成本可能是硬件投入，以阿里萬相訓練的視頻模型為例，下載到本地使用，至少需要數萬元的高配電腦，需要生成的視頻質量越高，對硬件的也要求也“水漲船高”。但一旦涉及發佈，便仍需遵守《方法》標註的要求。

當技術放低了門檻，法律的底線便應相向提高，這樣才能對低成本的不法行為起到威懾和約束作用。

誰的版權？

原始素材還是AI創作者

AI創作的便利和普及背後，一個無法忽視的問題是知識產權。阿遠訓練的模型使用了大量來自小紅書的圖片，且並未得到這些圖片原作者的授權。那麼，阿遠的AI模型生成的圖片所有權究竟歸誰呢？是圖片的原作者，還是將素材上傳訓練的創作者？還是平台本身，抑或最終生成圖片的使用者？

這種模糊的知識產權界定，正是當前AI創作中亟待解決的重要問題。隨着《辦法》的實施，平台對AI生成內容的管理趨於嚴格，如何平衡創作者的創作自由與原作者的權益保護，將成為未來AI創作領域亟待探索的難題。

史宇航表示，AI作品的版權在法律上爭議很大，不同案例中，法院的認定並不一致，《辦法》中要求文件元數據中的隱式標識必須包含“生成合成服務提供者”“內容製作編號”等關鍵信息，“理論上每一份AI生成的內容都可以追溯到其源頭的服務平台和具體的生成記錄。該技術可以幫助在爭議發生後，識別原始作者。”

對此，史宇航建議，對於使用AI工具進行創作的個人用户和企業，生成的文本、圖片、音視頻等內容應在合理位置添加“AI生成”或類似的顯著文字提示。

“這不僅是合規要求，也是向公眾和版權機構表明內容屬性的第一步，避免了‘冒充原創’的嫌疑。”他建議，用户（無論是個人還是企業）必須仔細閲讀用户服務協議，瞭解平台對於生成內容版權歸屬的規定、使用限制以及侵權責任的劃分，這直接關係到用户是否有權將生成內容用於商業目的，以及一旦發生侵權，責任由誰承擔。

此外，為了在潛在版權糾紛中有效舉證、釐清責任，以及應對監管部門的檢查，史宇航還建議個人和企業在使用AI工具輸出內容時，系統地做好合規記錄，比如具體使用了哪個AI服務提供商；保存完整的輸入提示詞並保留AI生成的原始文件，這是證明創作意圖和人類智力輸入的最直接證據；詳細記錄對AI生成初稿進行了哪些修改、編輯和重構；並完整保存與AI服務提供者簽訂的用户服務協議的副本或開源模型和數據集的開源許可協議。

排版／  季嘉穎

圖片／  IT時報  小紅書   豆包AI

來源／《IT時報》公眾號vittimes

E N D