治理AI“深度偽造”，中國正在與美歐並跑
None
【編輯/周遠方】
作為人工智能領域的新實踐，近年來，利用深度學習、虛擬現實等生成合成類算法制作圖像、音頻、視頻、虛擬場景等信息的深度合成技術，已在多個領域大量應用，伴隨着不斷湧現的使用需求，深度合成內容數量和關注度呈現快速增長態勢。
另一方面，每一次技術變革，在造福社會的同時，也不可避免地會帶來安全風險。惡意使用該技術生成的音視頻，也顯現出了巨大的破壞力，給個人、企業造成了聲譽損害和財產損失，也對社會、國家安全造成威脅。
為了對人工智能和深度合成技術的健康發展提供參考和指引，清華大學人工智能研究院、北京瑞萊智慧科技有限公司、清華大學智媒研究中心、國家工業信息安全發展研究中心、北京市大數據中心近日聯合發佈《深度合成十大趨勢報告（2022）》（以下簡稱“《報告》”），從技術研究、領域應用、發展趨勢等多個方面，全面深入地介紹和研判深度合成技術及應用帶來的機遇與挑戰，並就其發展與治理給出切實可行的建議和措施。
《報告》截圖
深度合成爆發式增長
深度合成的圖像、視頻、音頻、文本等內容，例如熱門影視劇片段、話題明星的換臉視頻等等，具有極強的娛樂性與傳播性，伴隨着技術的發展成熟，越來越多的創作者在互聯網上發佈和分享深度合成內容，數量逐年高速增長。以視頻為例，《報告》顯示，在國內外主流音視頻網站、社交媒體平台上，2021年新發布的深度合成視頻的數量較2017年已增長10倍以上。
深度合成在影視製作、廣告營銷、社交娛樂等領域發展出多元化的商業應用，例如AI合成主播、虛擬偶像、修復歷史老照片、影視劇本地化配音、“數字復活”已過世演員等。
《報告》截圖
一些面向公眾開發的合成類產品也陸續推出，《報告》顯示，視頻、語音和文本形式的服務最為普遍，例如支持風格定製的特效視頻製作軟件等風靡網絡；語音方向衍生出了語音導航、有聲讀物、自動新聞播報等應用；文本合成則在新聞報道、詩文創作、聊天問答等方面發揮着重要作用。
“元宇宙”等新商業思維的提出，也為深度合成提供了更廣闊的應用場景。阿里巴巴安全感知與認知智能部負責人薛輝表示，比如虛擬人、數字人即是深度合成的主要應用，也是“元宇宙”的重要組成部分。
清華大學新聞與傳播學院常務副院長陳昌鳳認為，深度合成將重新定義虛擬數字化空間，從傳播社會學意義上看，一個新的人類生存場景將以深度合成技術為基石展開。
瑞萊智慧CEO田天表示，技術不斷成熟是深度合成內容迎來爆發式增長的重要原因。研究論文的持續增加、開源技術工具和大量代表性方法的湧現，令深度合成內容的效果更加逼真、製作也更加高效，尤其是生成對抗網絡等算法的出現，讓合成內容達到了 “真假難辨”的程度。
“深度偽造”風險加劇，亟需治理
正因如此，深度合成激發了新內容創造力的同時，也帶來了新的威脅。
隨着技術逐步“平民化”，不法分子可輕易偽造音頻、視頻，實施誣陷、誹謗、詐騙、勒索等違法行為，甚至捏造國家政要言論擾亂社會與政治秩序。
2021年10月，安徽合肥警方曾查獲一起非法利用深度合成技術偽造手機用户人臉動態視頻破解身份核驗，為黑灰產業提供註冊虛擬手機卡等技術支撐的案件。近年來，類似事件開始更多的進入公眾視野。
深度合成內容模糊了真實和虛假的邊界，將對社會信任、媒體信任、政治信任產生巨大的影響。陳昌鳳表示，虛假內容的高難度甄別影響了事實核查的有效性，在社會重大事件或政治事件節點上，深度合成技術可能被用於操作輿論意見，藉助社交媒體，使虛假信息短時間內引發產生病毒式擴散，激化社會矛盾。
負面風險不斷加劇，如何有效甄別深度合成內容就成為了關鍵，但隨着合成質量的不斷提升，傳統基於生物特徵的鑑別方式越來越難以發揮作用。
浙江大學網絡空間安全學院院長任奎表示，目前對深度合成的檢測主要依賴於人工智能模型，依賴於訓練數據的完備性，包括檢測器泛用性相低、公開數據集適用性、數據敏感等，這些都將帶來諸多挑戰。
田天也表示，新型偽造方法層出不窮、網絡傳播環境的日趨複雜，加上基於檢測算法存在漏洞缺陷等，反深偽檢測技術面臨“強對抗性”，需要持續更新與迭代。
《報告》顯示，目前學術界和產業界均已對反深偽檢測投入了大量研究，Meta（原Facebook）、谷歌、微軟等機構均推出了深度合成視頻認證的方法或產品。在國內，清華大學、中科大等高校在深度偽造內容檢測方面取得顯著成果，清華大學孵化團隊瑞萊智慧推出的深度偽造內容檢測平台DeepReal擁有工業級的檢測性能和應對實網環境對抗變化的檢測能力。清華大學人工智能研究院基礎理論研究中心主任朱軍認為，深度合成檢測面臨持續的攻防和博弈，未來還需融合多模態內容的取證分析、基於數字水印的溯源技術等多方面能力，實現精準識別。
同時，我們不能因為技術風險就因噎廢食。
中國工程院院士鄔賀銓認為，第一，任何新技術的出現和應用，都會帶來社會問題，其中當然也有倫理問題；第二，倫理問題需要從道德和法律的層面來解決；第三，對於技術失控和技術濫用的問題，需要通過發展技術來解決，當前深度合成的技術發展得還不夠，所謂“道高一尺魔高一丈”，發展永遠在路上。
《報告》截圖
構建法律、倫理等多維度治理機制
深度合成技術的良性發展，離不開多維度治理機制的探索。《報告》顯示，除了發展深度偽造內容檢測技術以外，近幾年來，針對深度合成技術惡意使用所帶來的挑戰，世界各國紛紛出台相關法律法規，探索深度合成的治理路徑。國際方面，美國從聯邦和州層面進行專門立法，歐盟將深度合成納入《通用數據保護條例（GDPR）》等現有法律框架規制。此外，德國、新加坡、英國、韓國等國家，均有適用於深度合成技術相關犯罪案件審理的法律法規。
清華大學蘇世民書院院長薛瀾提到，今天也有一些業內人士議論，人工智能領域剛剛發展就在探討治理，是否過早？其實這是一個好事，因為過去許多其他技術在全球發展過程中，中國是落後的，這些技術引進中國時，相關的治理討論已經結束了，中國直接參考結論即可。但這次人工智能技術的發展，中國至少處於並跑地位，在第一時間與其他國家共同面對如何治理的問題。
2019年11月起，我國先後出台《網絡音視頻信息服務管理規定》、《網絡信息內容生態治理規定》、《中華人民共和國民法典》、《互聯網信息服務算法推薦管理規定》，均對生成合成類內容等提出了不同程度的監管要求。今年1月，國家網信辦公佈了《互聯網信息服務深度合成管理規定（徵求意見稿）》，對深度合成內容的用途、標記、使用範圍以及濫用處罰作出了具體規定。
對於深度合成內容治理路徑的探索，陳昌鳳表示可以從技術、倫理與法制等幾個方面努力，技術方面，通過政府與社會組織參與、協同治理，倫理方面，確立和倡導相關的深度合成原則。中國社科院哲學所科技哲學研究室主任段偉文建議，對深度合成技術引發的社會、法律和倫理問題，應展開有系統性、前瞻性的跨學科研究，對其可能出現的高風險應用場景，進行有針對性的治理與監管。
中國科學院自動化研究所研究員陶建華認為，目前深度合成本身的內涵和外延不夠清楚，在監管中有很大的困難。大量技術存在兩面性，最早從事深度合成相關研究的人，其動機是從娛樂、改善人的生活出發的，比如聲音的個性化模仿，很多人研究讓機器自主學習媽媽的聲音，給嬰兒朗讀故事，所以應該更有效地去管理技術的使用者，而不去過多的約束它的研製者。
中國科大網絡空間安全學院執行院長俞能海強調了治理的“全國一盤棋”，他提到，目前國家很多部門在做治理的相關研究和工作，各部門應統籌協調，一方面，人工智能技術在不同領域的應用很難有一個放之四海而皆準的統一規則，另一方面，技術人員與法律、政府等規制層面的人員要跨界交流合作，儘量使規制跟上技術發展節奏。
由於法律規範往往缺乏彈性和前瞻性，薛瀾特別強調倫理意識的重要性，他認為，很多問題很難用法律調整，需要更廣泛的多元主體的對話機制，形成某種程度的社會共識，在這個基礎上建立前沿研究和應用的倫理評估、預警和管控機制。因為“碼農”他們最清楚代碼背後的東西，所以提高從業者倫理意識非常關鍵。
中科院自動化所研究員、聯合國教科文組織AI倫理特設專家組專家曾毅則倡導產研發展自律自治，他表示，在法律法規不完全成熟及體系化之前，產業界自身應強化“理論先行”意識，作為產業共同體共同防範濫用、嚴禁惡用。2021年11月，聯合國教科文組織在全球共識的基礎上發佈了《人工智能倫理建議書》，成為全球首個針對人工智能的倫理規範框架，曾毅作為中方代表參與了建議書的討論、諮詢和起草。
對外經濟貿易大學法學院副教授許可表示，社會層面應加大宣傳普及力度，強化公民對深度合成等人工智能技術的認識，提高全社會的防範意識，推動公民作為負責任的深度合成技術的使用者，主動標識合成內容並積極踐行社會監督。
對此，田天也表示，深度偽造的本質問題是透明度不足，因此提供低門檻的偽造檢測工具（包括AI對抗攻防工具、AI防火牆等），提高公眾對深度合成技術的認知尤為重要，只有在政府引導和從業者共同推動下，將門檻降低到所有受眾能夠在共同的框架下去認識、討論、理解這個問題的時候，深度合成技術才能健康良性發展。
《報告》也建議，各方應當與時俱進落實好新的規範要求，並在此前提下不斷追求技術突破，不斷開拓深度合成技術應用場景，創立示範標杆，形成對人工智能行業整體的帶動效應，從而促進新技術的持續健康發展。
本文系觀察者網獨家稿件，未經授權，不得轉載。