AI生成的圖像如此逼真 連AI都難以辨別部分作品——《華爾街日報》

人工智能圖像生成器正以肉眼可見的速度進化着。

早在今年一月，像OpenAI的DALL-E這樣的系統生成的人物可能手指錯位或眉毛懸空。到了三月，部分圖像已逼真到能騙過大量觀眾。

這張教皇方濟各身着白色羽絨服的偽造圖片愚弄了眾多網友。插圖：Guerrero Art從身穿白色羽絨服的教皇，到特朗普被捕、法國總統馬克龍穿過抗議人羣等照片，這些引發軒然大波的假圖促使馬斯克和蘋果聯合創始人沃茲尼亞克等科技領袖公開呼籲暫停AI工具開發。

雖然AI生成內容頗具娛樂性，但它給行業和日常交流都帶來了風險——可能被用於傳播虛假信息、侵犯知識產權或製作人物色情圖片。我們已迫切需要區分人類創作與機器生成圖像的方法。

多數AI圖像背後是Midjourney的傑作，它能將文字描述轉化為圖像，或以新穎方式混合現有圖片。學者們表示，其最新版本極大模糊了現實與虛構的界限。其他圖像生成器（包括為微軟新版Bing圖像生成器提供支持的DALL-E）也在快速進步。

一些開發者正在構建能夠分析圖像以識別AI生成痕跡的工具。問題是，除非這些工具能跟上它們所監控的圖像生成器的步伐，否則連自己也可能被欺騙。

檢查圖像偽影

AI信任與安全公司Optic推出了AI or Not網站，用户可上傳照片或插圖，由該網站判定是人工作品還是AI生成。支持直接上傳圖片或粘貼圖片鏈接，且上傳數量無限制。

用户還可以在Optic的推特賬號@optic_xyz發佈或轉發圖片，並帶上#aiornot標籤，將收到包含置信度百分比的分析回覆。該公司還在開發谷歌瀏覽器擴展程序。

首席執行官安德烈·多羅尼切夫表示，該工具通過檢測人眼不可見的圖像偽影（如亮度與色彩變化）進行分析。

該工具此前準確率達95%，但Midjourney發佈新版軟件後，準確率驟降至88.9%。Optic團隊隨即更新系統以識別新版Midjourney圖像。而採用更新版DALL-E的微軟Bing Image Creator同樣影響了工具判斷。

教皇方濟各身穿白色羽絨服的形象在Optic工具更新前曾騙過了它的檢測。圖片來源：Ann-Marie Alcantara/華爾街日報### “一場軍備競賽”

內容標記AI公司Hive也同步更新了其免費AI生成內容檢測器以應對不斷進化的圖像生成器。該工具基於對DALL-E、Stable Diffusion、Midjourney數百萬張圖像的AI訓練，可判定圖像和文本來源。除非購買高級服務，Hive將用户查詢限制為每日100次。

公司估計其能準確識別約95%的AI生成圖像，但廣泛傳播的偽造圖像往往更為逼真。Hive首席執行官Kevin Guo表示，人們分享AI圖像時會精選最逼真的假圖，這使得辨別真偽愈發困難。

與Optic類似，Hive在識別新版Bing Image Creator生成的圖像時也存在困難。

“這是場軍備競賽，“郭先生指出Hive將持續進化，“我們監測所有工具的動態，每當它們更新模型，我們必須同步升級以保持競爭力。”

目前若要驗證圖像是否AI生成，建議同時使用Optic和Hive的雙重檢測。只要任一工具提示為生成圖像，基本可判定屬實。

上下文是關鍵

多數AI圖像生成器正在建立自身防護機制。例如Bing Image Creator會標記並攔截生成知名公眾人物圖像的指令。Midjourney公司創始人David Holz表示，雖然目前採用人工審核，但正在開發算法審核用户請求的新系統。

你也可以通過訓練自己的眼睛來更好地識別虛假圖片。

加州大學河濱分校電氣與計算機工程教授阿米特·羅伊-喬杜裏表示，首先要觀察背景：看到圖片的場合和時間能幫助你判斷其真實性。

注意圖片中不協調的部分。羅伊-喬杜裏教授指出，比如人物的表情在AI生成照片中可能顯得不自然或存在違和感。他補充説，有些圖片可能會缺失某些元素，比如鏡子或玻璃窗上沒有顯示人物倒影。

真正的問題或許不在於生成式AI越來越難檢測，而在於越來越多人用它來欺騙他人。

“即便技術不算頂尖，它也可能造成非常非常嚴重的危害，“他表示。

——欲獲取更多《華爾街日報》科技分析、評測、建議和頭條新聞，請訂閲我們的每週通訊。

聯繫安-瑪麗·阿爾坎塔拉，郵箱：[email protected]

本文發表於2023年4月12日印刷版，標題為《檢測AI偽造品的工具》。