陳根：深度偽造與鑑別偽造，一場有關真實的技術博弈_風聞

文/陳根

前一段時間，人工智能生成動圖的風潮席捲了大半個互聯網。從抖音到微博，人們齊唱“螞蟻呀嘿”的畫面不斷刷屏，其玩法則來於國外的一款AI軟件——Avatarify。而類似的套路，相似的走紅，還發生在2019年，換臉軟件ZAO上。

**從技術角度來講，不論是Avatarify還是ZAO，都來自更早以前的deepfake****的開發。**deepfake是“deepmachinelearming”（深度機器學習）和“Fakephotos”（假照片）的組合，是依託大數據和人工智能深度學習機制，基於數據算法和人臉數據庫對既有視頻或圖片中的人物面部圖像進行替換的技術工具。

**此外，**利用AI製作換臉視頻除了要藉助已開源的DeepFakes技術，還需要兩個競爭AI系統的參與，一個是生成模型，另一個是判別模型。生成模型和判別模型的結合被稱為生成對抗網絡技術（CenerativeAderarilNetwoks，CAN），也是AI換臉最底層的邏輯。

儘管一鍵換臉帶來了巨大的商業效益和娛樂效應，但偽造視頻等的泛濫，也帶來的不可預估的嚴重後果，其最重要的就是對於信息的真實性形成的嚴峻挑戰。

PS發明後，有圖不再有真相；而深度偽造技術的出現，則讓視頻也開始變得鏡花水月了起來：人們普遍認為視頻可以擔當“實錘”，而現在這把實錘竟可憑空製造，對於本來就假消息滿天飛的互聯網來説，這無疑會造成進一步的信任崩壞。

因此，通過技術手段遏制偽造視頻的泛濫成為刻不容緩。而近日，來自布法羅大學的科研團隊則在發表的最新論文中，概述了一種檢測deepfake圖像的方法——通過觀察眼睛中的反射來確認照片是否真實。

它適用於生成式對抗網絡（GAN）模型，這些模型被用來合成逼真的人臉。研究人員表示，判斷它們是否真實的方法全在眼睛裏。研究人員表示，GAN合成的面孔可以曝光兩隻眼睛之間不一致的角膜鏡面高光。相比之下，真實面孔拍攝的照片在兩隻眼睛中會有相同的反射。

在注意力經濟興起，高度分裂的社會背景下，與深度偽造的博弈已經成為一個有關真實的遊戲。理論上，只要給GAN當前掌握的所有鑑證技術，它就能通過學習進行自我進化，規避鑑證監測。在未來，深度偽造與鑑別深度偽造或許還將在這種“道高一尺魔高一丈”的反覆中博弈下去。