AI換臉被濫用，三部門：提供人臉生成、合成人聲等服務應進行顯著標識

據“網信中國”公眾號11日消息，近日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發佈《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。國家互聯網信息辦公室有關負責人表示，出台《規定》，旨在加強互聯網信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

近年來，深度合成技術快速發展，在服務用户需求、改進用户體驗的同時，也被一些不法人員用於製作、複製、發佈、傳播違法和不良信息，詆譭、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民羣眾合法權益，危害國家安全和社會穩定。出台《規定》，是防範化解安全風險的需要，也是促進深度合成服務健康發展、提升監管能力水平的需要。

《規定》明確了制定目的依據、適用範圍、部門職責和導向要求。明確在中華人民共和國境內應用深度合成技術提供互聯網信息服務，適用本規定。明確國家和地方網信部門統籌協調深度合成服務的治理和相關監督管理職責，國務院電信主管部門、公安部門以及地方相關部門的監督管理職責。明確提供深度合成服務的總體要求。鼓勵相關行業組織加強行業自律。

《規定》明確了深度合成服務的一般規定。強調不得利用深度合成服務從事法律、行政法規禁止的活動。要求深度合成服務提供者落實信息安全主體責任，建立健全管理制度和技術保障措施，制定公開管理規則、平台公約，對使用者進行真實身份信息認證，加強深度合成內容管理，建立健全闢謠機制和申訴、投訴、舉報機制。明確應用程序分發平台應當落實安全管理責任，核驗深度合成類應用程序相關情況。

《規定》明確了深度合成數據和技術管理規範。要求深度合成服務提供者和技術支持者加強訓練數據管理和技術管理，保障數據安全，不得非法處理個人信息，定期審核、評估、驗證算法機制機理。深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。要求任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

《規定》明確了監督檢查與法律責任。明確具有輿論屬性或者社會動員能力的深度合成服務提供者、技術支持者應當履行備案和變更、註銷備案手續。上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當開展安全評估。深度合成服務提供者、技術支持者應當依法配合網信部門和有關主管部門開展的監督檢查，並提供必要的支持和協助。發現存在較大信息安全風險的，網信部門和有關主管部門可以按照職責依法要求其採取暫停信息更新、用户賬號註冊或者其他服務等措施。明確違反規定的法律責任。

《規定》明確了相關用語的含義。要求深度合成服務提供者和技術支持者從事網絡出版服務、網絡文化活動、網絡視聽節目服務的，應當同時符合有關主管部門的規定。

國家互聯網信息辦公室有關負責人指出，深度合成服務治理需要政府、企業、社會、網民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防範化解深度合成技術帶來的風險，促進互聯網信息服務健康發展，維護網絡空間良好生態。