中國成為算法監管先鋒 將矛頭對準深度偽造技術——華爾街日報

中國國家互聯網信息辦公室將於本週起開始執行針對深度偽造"技術的新規。圖片來源：THOMAS PETER/REUTERS香港——中國正實施新規以限制"深度偽造"（即通過人工智能軟件生成或編輯的媒體內容，可使人看似在説或做他們從未説過或做過的事情）的製作。

中國國家互聯網信息辦公室將於1月10日起執行這項針對所謂"深度合成"技術（包括AI驅動的圖像、音頻和文本生成軟件）的監管規定，這標誌着全球首個主要監管機構試圖全面遏制人工智能發展中最具爆炸性和爭議性領域之一的舉措。

這類技術支撐着諸如OpenAI開發的文本生成器ChatGPT和個性化數字頭像自動生成工具Lensa等廣受歡迎的應用，同時也因其可能產生更具欺騙性的媒體內容而帶來新挑戰，這些內容可能助長錯誤信息，並讓人對數字領域中幾乎所有內容的真實性產生懷疑。

新規除其他事項外，禁止使用AI生成的內容傳播"虛假新聞"或被認定會破壞經濟或國家安全的信息——這些定義寬泛的類別賦予監管機構很大的解釋空間。新規還要求深度合成技術提供者（包括公司、研究機構和個人）在圖像、視頻和文本可能被誤認為是真實的情況下，顯著標註其為合成生成或編輯的內容。

新規於12月11日首次發佈，將於本月生效，此前在8月份已公佈過旨在監管支撐全球最強大互聯網平台的算法規則。

科技政策分析人士表示，針對深度偽造生成工具和算法的新規能否達到預期效果，將考驗北京管理快速發展的新技術的能力，這些技術正讓全球監管機構感到困惑。

美國立法者試圖解決深度偽造技術的擴散和潛在濫用問題，但這些努力因言論自由的擔憂而停滯不前。位於柏林的非營利研究和倡導組織AlgorithmWatch的執行董事馬蒂亞斯·施皮爾坎普表示，在歐盟，監管機構的進展更進一步，但與中國相比採取了更為謹慎的做法，強烈建議平台找到方法減少深度偽造技術傳播虛假信息的能力，而不是直接禁止。

斯坦福大學研究學者格雷厄姆·韋伯斯特表示，中國的監管嘗試表明，北京深受圍繞該技術的全球辯論影響。他負責追蹤中國數字政策發展的DigiChina項目。

“中國正在與世界一起學習這些技術的潛在影響，但它以更快的速度推進強制性規則和執行，”他説，“世界各地的人們應該關注會發生什麼。”

深度偽造技術誕生於2014年開源算法問世之後，該算法能生成以假亂真的人物和虛構物體的圖像。這項發明引發了圖像合成軟件研究的熱潮，同時也催生了新型侵權行為，例如在未經許可的情況下將女性面孔移植到色情視頻中。

此後，人工智能合成技術持續發展並拓展至插畫、視頻、語音、文本及對話等多元領域——這些應用如今被統稱為"生成式AI"，其發展動力部分源自商業和娛樂場景中不斷增長的需求。

諸如Reface的換臉應用，以及TikTok和Snapchat中為自拍添加狗耳朵的特效，都採用了生成算法的變體來實現效果。2021年一部關於已故名廚安東尼·波登的紀錄片，通過深度偽造技術重現其聲音，將他生前撰寫但未親口説出的文字賦予了生命。

但人們對濫用生成技術製造深度偽造的憂慮與日俱增。例如現在製作政客發表任意言論的偽造視頻比以往任何時候都容易，這類內容可能引發混亂，尤其在選舉或戰爭期間。用於訓練ChatGPT、Lensa等新一代AI的海量數據——從互聯網抓取的數萬億單詞和圖像——也引發了關於數據隱私與授權的廣泛爭議。

一部關於安東尼·波登的紀錄片使用人工智能技術重現了他的聲音。圖片來源：焦點影業/美聯社雖然美國在生成式AI領域處於領先地位，但包括百度、騰訊控股以及政府支持的北京智源人工智能研究院在內的多家中國企業和機構，也致力於開發自主算法或改造現有技術，用於生成中國風繪畫、創建數字虛擬人等娛樂或商業用途。

近年來，中國媒體報道了更多利用該技術實施詐騙的案例。據官方新華社4月報道，温州一名男子聲稱犯罪分子使用換臉技術冒充好友，騙取其約7200美元。

2021年3月，一款能將靜態人臉照片轉化為搞笑視頻的AI應用在中國爆紅後，網信辦召集了包括阿里巴巴集團、騰訊及TikTok運營商字節跳動在內的11家企業，就深度合成技術的安全問題展開研討，該機構聲明顯示。

總部位於紐約的人權非營利組織Witness（致力於研究生成式AI技術社會影響）的項目主管薩姆·格雷戈裏表示，歐美監管面臨的挑戰是如何在遏制技術負面影響的同時，不限制政治諷刺等合法言論形式。他指出，相比之下，中國新規將現有嚴格的言論管控延伸至這一新興媒介領域。

“這些新規顯然框定了大量不適用於諷刺言論的使用場景，”研究過新規的格雷戈裏先生表示。

中國法規的某些特點與國際新興規範相符。例如北京新規要求對用户可見的AI生成內容進行顯著標識並添加數字水印，格雷戈裏指出，這些措施被視為應對深度偽造欺騙性影響最有效的方式，也能幫助網絡平台處理違規內容。

斯坦福大學的韋伯斯特認為，北京的法規將為海外觀察者提供研究案例，展示此類規定在現實中的運作方式及其對企業的影響。“這是全球首批大規模應對社會最大挑戰之一的嘗試。”

聯繫作者凱倫·郝請致信[email protected]

本文發表於2023年1月9日印刷版，標題為《北京出手規範深度偽造技術挑戰》。