《華爾街日報》：是人還是AI？新工具助你識別機器人

幾乎是在一夜之間，利用人工智能生成睡前故事、情書、高中作文，甚至是心理健康指導（更不用説那些獲獎的藝術作品了）變得流行起來。許多人對由機器人創作的內容感到不適，可能覺得被欺騙了。

研究人員和其他程序員自發地構建工具，幫助人們分辨哪些內容源自人類的思維，哪些是由機器人拼湊而成。但在這樣一個快速發展的時期，任何工具都難以跟上步伐。

39歲的丹尼爾·摩根是兩個孩子的父親，他嘗試過幾次OpenAI的ChatGPT文本機器人，用它寫感謝信、創作睡前故事和開發營銷材料。

摩根先生患有閲讀障礙，他表示自己曾使用ChatGPT幫助他為自己的房地產投資和經紀公司Marterra Group撰寫博客文章。

“現在我可以把這些內容大致構思出來，交給團隊中的某個人，然後讓他們進行定製，而不必因為拼寫錯誤或語法問題而感到沮喪，”他説。

OpenAI的機器人——包括可以創建書面內容的ChatGPT聊天機器人，以及其Dall-E 2藝術引擎——是越來越多工具中的一部分，這些工具可以生成逼真的作品，難以與人類創作的作品區分開來。其他人工智能工具可以創建“深度偽造”視頻，這些視頻可以製作出從未實際拍攝過的言行畫面。

儘管摩根先生已告知部分同事他正在使用ChatGPT獲取幫助，但其他人可能並不知情。以下是識別AI生成內容的方法，以免被機器人所騙。

數字偵探

ChatGPT引發了人們對學生可能利用它撰寫論文及其他寫作作業的擔憂——儘管教師仍善於發現錯誤和其他問題。例如，紐約市教育局最近禁止了在其網絡和設備上訪問該產品。其他行業的人士也擔心員工可能將其作為工作任務的捷徑。

普林斯頓大學22歲的學生愛德華·田（Edward Tian）本月早些時候開發了GPTZero，以應對人們日益增長的擔憂——他們可能無法分辨某段文字是否由機器生成。使用方法很簡單：複製並粘貼任何你懷疑由AI生成的文本。

GPTZero會顯示文本是虛假或真實的概率。該軟件基於多種因素評估文本。其中一個關鍵指標是人類傾向於在詞彙選擇和句子長度上表現出更高的變化性，而AI生成的文本則更為一致。

田先生表示，他並不反對人們使用AI來支持或提升他們的工作。“但人類寫作具有某些特質，那些真正美麗而原始的散文元素，是AI無法且永遠不應模仿的，”他談到開發GPTZero的初衷時説道。

開發人工智能機器學習工具的公司Hugging Face在2019年推出了一個類似網站。輸入約50字文本，該網站會給出內容真實或虛假的百分比結果。

兩種工具都存在侷限性，需要持續更新以跟上AI發展步伐。Hugging Face的工具基於OpenAI舊版文本引擎GPT-2訓練，會將當前GPT-3引擎生成的內容誤判為真實文本。GPTZero的檢測結果同樣基於GPT-2算法，可能不擅長識別GPT-3內容，但仍能較好判斷文本是否由AI生成。

大腦訓練

Hugging Face政策總監Irene Solaiman表示，保持懷疑態度與檢測工具同樣重要。人們可以通過重複性、事實錯誤等特徵來判斷所讀所見是否由AI生成。

“有時能明顯發現語言模型對現代數據、時間框架存在理解錯誤。“Solaiman女士指出。

你可以訓練自己識別AI生成內容的能力，特別是針對使用AI生成的圖像視頻，包括深度偽造內容。

可以從麻省理工學院媒體實驗室34歲博士生Matt Groh參與創建的研究項目Detect Fakes開始。這個練習會要求你判斷32個文本、圖像和視頻示例中哪些是真實的，哪些是AI深度偽造的。

Detect Fakes團隊還推薦了其他識別深度偽造內容的方法，比如注意觀察人物的唇部動作是否自然或略顯不協調——這是存在問題的跡象。人們退後一步思考這類圖片或視頻為何存在也會有所幫助。

“他們可以關注背景信息，根據對世界的認知判斷其可能性，“格羅先生表示，“同時留意動機因素，思考某人發言的內容及其背後意圖。“不過他強調，目前尚無識別所有深度假內容的萬能方法。

永無止境的攻防戰

其他企業和高校正在研發針對AI生成圖像視頻的檢測工具。

英特爾公司於11月推出FakeCatcher，該工具通過檢測血流信號——表徵生物過程的細微色變——來判定視頻真偽。公司高級研究科學家伊爾克·德米爾表示，目前該工具已向包括新聞機構和社交媒體公司在內的部分企業開放。

但德米爾博士指出，未來的AI生成器很可能會找到偽造面部血流等生物特徵的方法。

她表示，隨着AI工具激增，依賴單一模型或檢測方法將存在風險。

德米爾博士認為更理想的解決方案是構建能綜合多種檢測結果的平台：“通過整合不同算法的判斷，其可信度會更高——畢竟我們並非宣稱擁有某種戰無不勝的單一算法。”

—欲瞭解更多《華爾街日報》科技分析、評論、建議及頭條新聞，請訂閲我們的每週通訊。

聯繫安-瑪麗·阿爾坎塔拉，郵箱：[email protected]

刊載於2023年1月11日印刷版，標題為《是人類還是AI？新工具助你識別機器人》。