《互聯網信息服務深度合成管理規定》答記者問

一、問：請您簡要介紹《規定》出台的背景？

答： 制定《規定》主要基於以下幾個方面的考慮。一是深入貫徹落實黨中央決策部署。《法治社會建設實施綱要（2020-2025年）》明確提出制定完善對算法推薦、深度偽造等新技術應用的規範管理辦法。出台《規定》，能夠進一步加強對新技術新應用新業態的管理，統籌發展與安全，推進深度合成技術依法合理有效利用。二是維護網絡空間良好生態。深度合成服務在滿足用户需求、改進用户體驗的同時，也被一些不法人員用於製作、複製、發佈、傳播違法信息，詆譭、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民羣眾合法權益，危害國家安全和社會穩定。出台《規定》，能夠劃定深度合成服務的“底線”和“紅線”，維護網絡空間良好生態。三是促進深度合成服務規範發展。落實《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》等法律、行政法規，對應用深度合成技術提供互聯網信息服務制定系統性、專門性規定，能夠明確各類主體的信息安全義務，為促進深度合成服務規範發展提供有力法治保障。

二、問：《規定》中所稱深度合成技術是指什麼？

答： 《規定》中所稱深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術，具體包括篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術，文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術，音樂生成、場景聲編輯等生成或者編輯非語音內容的技術，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特徵的技術，圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特徵的技術，三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術等。

三、問：《規定》中所稱的深度合成服務提供者和技術支持者是指什麼？

答： 《規定》中所稱的深度合成服務提供者，是指提供深度合成服務的組織、個人。深度合成服務技術支持者，是指為深度合成服務提供技術支持的組織、個人。

四、問：《規定》對深度合成服務提供者落實信息安全主體責任作出了哪些要求？

答： 《規定》對深度合成服務提供者主體責任進行了明確規定。一是不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息，或從事法律、行政法規禁止的活動。二是建立健全用户註冊、算法機制機理審核、科技倫理審查、信息發佈審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。三是制定和公開管理規則、平台公約，完善服務協議，落實真實身份信息認證制度。四是加強深度合成內容管理，採取技術或者人工方式對輸入數據和合成結果進行審核，建立健全用於識別違法和不良信息的特徵庫，記錄並留存相關網絡日誌。五是建立健全闢謠機制，發現利用深度合成服務製作、複製、發佈、傳播虛假信息的，應當及時採取闢謠措施，保存有關記錄，並向網信部門和有關主管部門報告。

五、問：《規定》明確了深度合成服務提供者和技術支持者的哪些數據和技術管理規範？

答： 一是加強訓練數據管理。採取必要措施保障訓練數據安全；訓練數據包含個人信息的，應當遵守個人信息保護的有關規定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，並取得其單獨同意。二是加強技術管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當依法自行或者委託專業機構開展安全評估。

六、問：《規定》明確了深度合成服務提供者的哪些標識要求？

答： 一是深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當採取技術措施添加不影響用户使用的標識，並依法依規保存日誌信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，並提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

七、問：《規定》明確了深度合成服務提供者和技術支持者的哪些備案義務？

答： 《規定》明確，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、註銷備案手續。深度合成服務技術支持者應當參照服務提供者履行備案和變更、註銷備案手續。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號並提供公示信息鏈接。

八、問：《規定》對深度合成服務提供者履行安全評估和配合監督檢查義務提出了哪些要求？

答： 《規定》明確，深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。深度合成服務提供者和技術支持者應當依法配合網信部門和有關主管部門開展的監督檢查，並提供必要的技術、數據等支持和協助。發現存在較大信息安全風險的，網信部門和有關主管部門可以按照職責依法要求其採取暫停信息更新、用户賬號註冊或者其他服務等措施。