算法合規實務｜從ChatGPT談生成合成類算法的合規管理_風聞

走出去智庫觀察

****近來，ChatGPT熱潮席捲全球，但在其廣泛使用的過程中涉及大量數據的收集和處理，這對數據安全和算法監管等方面提出了挑戰。

走出去智庫(CGGT)特約法律專家、中倫律師事務所合夥人李瑞認為，我國在算法治理方面，目前********除了《算法推薦管理規定》《深度合成管理規定》這兩個針對性法規外，開發使用生成合成類算法的企業還應注意其他所涉的專門法。基於算法技術本身的特點及目前的監管態勢，企業應着重關注數據合規、內容治理及反壟斷合規領域的要求。****

科技公司在算法合規方面可採取哪些措施？今天，走出去智庫(CGGT)刊發中倫律師事務所李瑞律師團隊的文章，供關注算法合規的讀者參閲。****

要 點

CGGT，CHINA GOING GLOBAL THINKTANK

****1、算法是人工智能（AI）應用的一大核心與基礎，因此對人工智能（AI）的監管離不開對於算法的規制。縱觀全球，一些主要的法域早已紛紛開始加強這一領域的立法。

****2、****在應用生成合成類時，企業應注意落實《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法規中所明確的內容審查與管理義務。

****3、****深度合成服務提供者應加強內部建章立制的工作，落實信息安全主體責任，建立健全用户註冊、算法機制機理審核、科技倫理審查、信息發佈審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，並確保具有安全可控的技術保障措施。

正 文

CGGT，CHINA GOING GLOBAL THINKTANK

引言

ChatGPT發佈短短兩個月已吸引了達1億的活躍用户，成為全球現象級的應用。ChatGPT及其代表的大型語言模型（Large Language Model, “LLM”）、生成式AI技術(Generative AI) 和算法應用對於各個行業的快速滲透造成了強烈的衝擊，帶來了複雜的反應，這讓ChatGPT看起來既可能是人工智能應用里程碑式的傑作，又可能是充滿未知甚至帶來恐懼的“迷霧”。

在ChatGPT爆火的影響之下，很多科技公司加快了開展相關產品研發和投放的步伐，從法律合規的角度，如何合規落地類似的產品是一個值得關注的問題。帶着這樣的思考，本文以ChatGPT為切入點，聚焦其背後的生成合成類算法技術，並對中國法項下的相關合規關注要點進行簡要梳理。

一、ChatGPT背後是什麼算法？

算法是人工智能（AI）應用的一大核心與基礎，因此對人工智能（AI）的監管離不開對於算法的規制。縱觀全球，一些主要的法域早已紛紛開始加強這一領域的立法，例如，美國先後出台了《算法問責法案（草案）》（Algorithmic Accountability Act of 2022）《過濾氣泡透明度法案（草案）》（Filter Bubble Transparency Act）等。

中國採取算法專門立法，算法技術分類管理的方式進行規制。2021年，國家互聯網信息辦公室（下稱“國家網信辦”）、工業和信息化部、公安部及國家市場監督管理總局聯合發佈《互聯網信息服務算法推薦管理規定》（下稱“《算法推薦管理規定》”），將算法推薦技術主要分為生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等。其中生成合成類算法可以理解為利用以深度學習、虛擬現實為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。

對於ChatGPT而言，深度學習正是其進行訓練的關鍵所在。GPT技術的全稱為Generative Pre-trained Transformer，即用生成式方法預訓練的Transformer，而Transformer本身則是目前最為先進的深度學習模型之一。因此，筆者理解，****如果依據我國目前算法監管的框架來劃分，ChatGPT屬於使用了深度合成技術的生成合成類算法。

除了ChatGPT，生成合成類算法還有多種其他的應用場景。從我們身邊已經較為廣泛應用的語音合成工具、聲音模仿、美顏換臉、畫質修復等，到仍在開發落地中的數字孿生、3D建模、遊戲引擎等都有生成合成類算法的身影。

圖一：生成合成類算法應用之美顏App

二、生成合成類算法規制框架

由於深度合成技術本身較為敏感，且可能造成的後果影響較大，國家網信辦聯合各部門在《算法推薦管理規定》的基礎上，於2022年11月25日又進一步公佈了《互聯網信息服務深度合成管理規定》（下稱“《深度合成管理規定》”）。

《深度合成管理規定》採取了角色劃分的方式來明確產業鏈中相關企業的合規義務，即（1）深度合成服務技術支持者、（2）深度合成服務提供者和（3）深度合成服務使用者應遵守使用深度合成技術的一般性合規義務，也應遵循符合自身角色的特殊要求。

圖二：深度合成技術服務應用鏈條下的角色分類

除了《算法推薦管理規定》《深度合成管理規定》這兩個針對性法規外，開發使用生成合成類算法的企業還應注意其他所涉的專門法。基於算法技術本身的特點及目前的監管態勢，企業應着重關注數據合規、內容治理及反壟斷合規領域的要求。整體而言，算法合規管理的義務貫穿算法開發、測試和使用的全生命週期：

**·******數據合規：****生成合成類算法的訓練與應用不可避免需要使用到大量數據，因而需遵循《數據安全法》《個人信息保護法》等數據安全治理相關的法律法規。

**·******內容治理：****在應用生成合成類時，企業應注意落實《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法規中所明確的內容審查與管理義務。

**·******反壟斷合規：****算法開發及應用時，還需注意避免涉及《反壟斷法》《國務院反壟斷委員會關於平台經濟領域的反壟斷指南》等中所明確禁止的歧視待遇、濫用市場支配地位等行為。

三、生成合成類算法合規要點提示

基於上述的監管框架與近期的執法態勢，我們總結了開發使用生成合成類算法的一些主要合規義務要點，以供企業在搭建算法合規管理體系時作為框架性的參考：

1、數據採集使用的合法性與安全性

如前文提到的，數據是算法成功運行的關鍵性要素，在測試及使用環節都需要大量的數據輸入，因此企業應特別注意數據採集與使用的合法性，尤其是：

· 注意落實《個人信息保護法》中所明確的告知-同意原則與最小必要原則，避免違法採集和/或超採濫採；

· 提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意；

· 在使用環節，生成合成類算法應特別注意進行自動化決策等特殊數據處理場景下的合規義務履行，如進行個人信息保護影響評估等。

2、配合履行行政監管手續

· 如觸發算法備案要求，企業需履行算法備案和變更和註銷備案等手續，並在完成後在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號並提供公示信息鏈接。

· 企業還應依法對監管問詢、調查等予以配合，並提供必要的技術、數據等支持和協助，在有較大信息安全風險的場景下按照要求採取措施，進行整改，消除隱患。

3、搭建實名認證流程

企業應當基於移動電話號碼、身份證件號碼、統一社會信用代碼或者國家網絡身份認證公共服務等方式，對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的使用者提供信息發佈服務。

4、用户保護與提示

· 對於智能對話、智能寫作、合成人聲、仿聲、人臉生成、人臉替換、人臉操控、姿態操控等服務，應在產品在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

· 此外，企業應當設置便捷的用户申訴和公眾投訴、舉報入口，公佈處理流程和反饋時限，及時受理、處理和反饋處理結果。

5、算法安全性的定期審核與評估

企業應當定期審核、評估、驗證算法機制機理、模型、數據和應用結果等以對算法的安全性、透明性進行動態的管理，避免出現算法歧視等情況。尤其是算法涉及生成或者編輯人臉、人聲等生物識別信息的，和/或生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的，建議企業嚴格落實安全評估的要求，並及時進行整改。

6、內容審查與管理

企業應加強深度合成內容管理，採取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核。發現違法和不良信息的，應當依法採取處置措施，保存有關記錄，及時向網信部門和有關主管部門報告。在需要時，還應對相關深度合成服務使用者依法依約採取警示、限制功能、暫停服務、關閉賬號等處置措施。

7、合規管理要求

深度合成服務提供者應加強內部建章立制的工作，落實信息安全主體責任，建立健全用户註冊、算法機制機理審核、科技倫理審查、信息發佈審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度，並確保具有安全可控的技術保障措施。

總結

算法技術的發展和應用對於社會進步的重要性毋庸置疑。與此同時，我們也相信算法無法憑空創造不存在的知識與洞見。正如電影《流浪地球2》中的那句台詞所説，“沒有人的文明毫無意義”。技術發展與合規監管雙軌並行，共同推動算法科技向善，相信這也是大多數人的願景。

縱觀全球，中國是較早對於算法技術開展系統化規制的法域，從算法分類、算法備案、數據安全義務到內容治理等規制，都對所有投身中國市場且廣泛使用算法的企業提出了較高的要求。除了企業本身的合規治理外，算法在應用的過程中更存在着平台責任、救濟手段、科技倫理等更為複雜的命題。我們將在算法治理觀察系列文章中，聚焦最新的立法與司法實踐，帶來兼具深度和廣度的分析與解讀。