陳根：虛擬會議偽造人臉，深度合成的技術危害還在蔓延_風聞

文/陳根

疫情催生了各種新常態，從網絡教學到遠程辦公，也讓人們習慣了各種各樣的視頻會議。這也給黑客利用網絡進行詐騙提供了途徑。

**近日，****美國聯邦調查局（FBI）警告企業小心不法人士利用虛擬會議工具，發動俗稱變臉詐騙的商業電郵詐騙（Business Email Compromise，BEC）。**要知道，隨着人工智能技術的發展，想要偽造出受害者的人臉已經不再是難事，其具體使用的，就是人工智能的“深度合成”技術，深度合成技術源於人工智能系統生成對抗網絡（GAN）的進步。

GAN由生成器和識別器兩個相互競爭的系統組成。建立GAN的第一步是識別所需的輸出，併為生成器創建一個培訓數據集。一旦生成器開始創建可接受的輸出內容，就可以將視頻剪輯提供給識別器進行鑑別；如果鑑別出視頻是假的，就會告訴生成器在創建下一個視頻時需要修正的地方。

根據每次的“對抗”結果，生成器會調整其製作時使用到的參數，直到鑑別器無法辨別生成作品和真跡，以此將現有圖像和視頻組合併疊加到源圖像上，最終生成合成視頻。

**深度合成通過軟件收集的用户照片，以及眨眼、搖頭等動態行為信息，會對用户的隱私安全等造成傷害。**2019 年 3 月份，《華爾街日報》報道，有犯罪分子使用深度偽造技術成功模仿了英國某能源公司在德國母公司 CEO 的聲音，詐騙了220 000 歐元（約1 730 806人民幣）。其破壞性可見一斑。

正如此次FBI所指出的**，從2019年到2021年，FBI接到越來越多和虛擬會議有關的BEC，**攻擊者通常是冒充公司高層或部門主管，命令受害者匯款到詐騙賬號，一如以冒名電子郵件進行的詐騙。

根據FBI，利用新科技進行BEC攻擊的手法包括黑客冒充公司CEO或金融主管如首席財務官（CFO），發送電子郵件加入虛擬會議，會議中冒用CEO/CFO的靜態照片，宣稱鏡頭或麥克風故障無法操作，有的用deep fake音效，有時不發聲音，要求員工通過虛擬會議平台或後續的電子郵件匯款。有的則是利用CEO郵件賬號插進員工的虛擬會議中“旁聽”，以蒐集公司業務或研發活動信息。

面對發生在虛擬會議平台的變臉詐騙威脅，除了企業應留心不熟悉的虛擬會議等，從社會角度來看，更應該對深度合成這樣的技術進行規制，用技術對抗技術的風險，用制度將技術的風險限制。