一種識別深度偽造與真實照片的新方法：它可行嗎？——《華爾街日報》

今年早些時候，一張教皇身着時尚白色羽絨服的照片在網絡上瘋傳，這生動展現了AI生成圖像如何能欺騙互聯網。隨着這類內容預計將大量湧現，我們需要新的方法來辨別真假。

Photoshop製造商Adobe的總法律顧問兼首席信任官達納·拉奧表示：“四年前啓動這項工作時，最初的想法是‘我們能開發出AI深度偽造檢測器嗎？’“Adobe是"內容真實性倡議"的牽頭企業之一，該全球聯盟由來自科技、政策和媒體領域的2000名成員組成（包括《華爾街日報》）。

他表示，隨着工作推進，團隊的策略已有所調整。在此，他與《華爾街日報》“萬物未來"播客探討了如何利用數據支撐網絡信任。

今年7月，Adobe總法律顧問兼首席信任官達納·拉奧就人工智能與版權議題出席參議院小組委員會聽證會。圖片來源：Chip Somodevilla/Getty Images### Adobe曾考慮開發AI圖像識別工具，但現在轉變了方向？

是的，最初"只想知道某物是否虛假"看似是最直接的解決方案。但問題在於，深度偽造檢測必須達到極高準確率——若錯誤頻出，人們將失去信任。準確率需接近99%，而我們當時僅能達到60%左右。

因此我們認為檢測並非解決之道。我們徹底轉變思路，於是啓動了"內容真實性倡議”。我們提出：“與其試圖識破謊言，不如思考如何幫助人們證實真相？“這至關重要[因為]一旦你身處被深度偽造技術欺騙的世界，下次看到任何內容時，你都會懷疑"這到底是真是假？“我們將對音視頻信息逐漸麻木，因為無從驗證真偽。

所以你們選擇從另一端着手。具體如何實現？

我們開發了名為"內容憑證"的技術。這就像為圖片、視頻或音頻附上的營養成分表，會完整記錄創作者信息、創作時間地點以及所有編輯修改記錄。

以Photoshop為例，編輯前你需點擊啓用內容憑證功能——因為你希望取信於人——隨後進行的亮度調整或瑕疵修復等所有操作都會被記錄。導出時這些元數據將隨文件保存。瀏覽者會看到圖像上的CR標識，點擊即可查看完整[元數據]。

但最終仍需用户自行判斷可信度。對普通用户而言，這些內容憑證的實際幫助有多大？

首先，並非所有內容都需要驗證。比如你在Facebook發佈一張戴帽子的貓咪照片，就無需刻意證明其真實性。

一張由AI生成的教皇身穿羽絨服的照片最初於三月出現在Reddit上，在被各大平台標記為偽造圖像前已被廣泛傳播。圖片來源：Guerrero Art但人們會期待，在重要事件上，（發佈圖像者）會花時間驗證其真實性。因此我將看到那個標識，能夠點擊它，並自行決定是否相信。這是一條從圖像最初被捕捉到最終發佈的完整信任鏈。

內容創作者是否存在風險？假設你身處獨裁政權國家，拍攝了某項確鑿證據的照片，而你的名字卻與之關聯？

是否開啓內容憑證是可選項。你可以選擇"我要拍攝這個事件的照片，但不會簽署姓名”，或者"不公開身份，但保留拍攝地點、時間及編輯記錄等其他信息”。

這完全取決於選擇使用內容憑證的人。他們有權決定是否透露身份。這對我們而言是重要的設計原則，因為我們需要保障用户在可能遭受報復的情況下仍能使用該功能。

當我看到圖像時，可能因為發佈者選擇匿名而降低信任度。但我還有其他可驗證的信息——這本身就是一種權衡，不是嗎？

因此最終由查看圖像的用户決定是否信任。

我們希望賦予公眾決定信任什麼的權利。最終始終是由您，即用户，來決定是否願意信任某些內容。

這讓我覺得要讓這套機制發揮作用，必須具備媒介素養。

當我們與政府討論打擊深度偽造的重要性時，他們常問：“我們能做什麼？“我們給出的建議是政府需承擔雙重角色：首先是教育公眾——眼見未必為實。人類天生容易相信圖像，大腦已經進化到會本能地採信視覺信息。

其次，當內容憑證技術普及時，政府需要告知公眾：當看到重要內容時，你們可以使用這個驗證工具。正規內容都應附帶內容憑證。

通過內容憑證，觀眾可以查驗圖像來源及修改記錄。圖片來源：Adobe### 圖像認證的責任主體是誰？創作者？用户？還是發佈平台？

這是我們共同的責任。如果我們不能協同建立數字信息的可信標準，未來兩三年——甚至到2024年大選時，社會將陷入信任危機，人們會對所有視聽內容產生懷疑。

AI工具正在創造奇蹟。只需輸入"開着敞篷車穿越沙漠的貓”，就能立即生成驚豔圖像。無需專業技能，人人皆可成為藝術家。我鼓勵大家使用這些工具，它們將徹底改變人類的協作創作方式。

但它們也可能被濫用。若你為欺騙目的而濫用這些技術，就應當為此承擔法律責任。

企業正在開發AI圖像檢測工具，您對此有何看法？

持續研究這個領域非常棒。當前深度偽造檢測的主要問題在於事後追溯——當你給謊言打上標籤時，數百萬人早已信以為真，此時再告知這是偽造內容為時已晚，覆水難收。

如何讓這些內容憑證覆蓋網民可能看到的所有圖像？

我對當前進展感到振奮：我們建立了開放標準，多家企業正共同構建這套體系。Photoshop中已推出可用版本，實際落地應用指日可待。

要實現全面覆蓋，需要生態鏈各環節企業達成共識。目前仍有部分企業持觀望態度，許多廠商還在技術驗證階段，比如思考如何將這項技術整合到智能手機中。

雖然尚未普及，但自春季生成式AI和ChatGPT爆發以來，我們正見證越來越多企業加入陣營，他們終於意識到：“啊，這個問題確實存在。”

十年後我們消費圖像的方式會變成什麼樣？

屆時所有內容都將數字化，我們將面對前所未有的海量信息。每個人都有故事要講述，這些故事會充斥網絡空間。而驗證內容真實性的重要性，將比任何時候都更為關鍵。

訪談內容經過編輯和壓縮。

請寫信給夏洛特·加滕伯格，郵箱：[email protected]，以及亞歷克斯·奧索拉，郵箱：[email protected]