AI不僅會撒謊，還能讓你信以為真——彭博社

F.D. Flam

2025-08-09

不要輕信你所看到的一切。

攝影師：d3sign/Moment RF人工智能及相關技術帶來的更隱蔽且陰險的威脅之一，是其篡改記憶的能力。

心理學家伊麗莎白·洛夫特斯在過去50年裏證明了人類多麼容易被操縱去記住從未發生過的事情——尤其是在檢察官和警察詢問證人時。

如今，加州大學歐文分校教授洛夫特斯與麻省理工學院的研究人員合作，探索人工智能如何操縱我們自認為記得的內容。這種操縱甚至發生在受試者明知自己看到的是AI生成的文本和圖像時。研究結果表明，人工智能可能放大人類植入虛假記憶的能力。

彭博社觀點* 得州押注拉丁裔將轉向共和黨，這是一場冒險

美國正在削弱其在體育領域的軟實力
一位意外成為藝術收藏家的人物肖像
全世界都關注的修訂在始於20世紀70年代的一系列著名實驗中，洛夫特斯證明，通過適當的暗示，心理學家可以植入人們童年時在購物中心走失，或野餐時因雞蛋或草莓冰淇淋生病的記憶。後者甚至讓人們開始排斥這些食物。儘管有這些證據，我們仍無法擺脱記憶就像事件錄音帶的觀念——這種對自身思維的誤解讓我們變得脆弱。

“那些堅持這種錄音機式記憶模型的人似乎沒有意識到，記憶其實是一個建構的過程，”洛夫特斯解釋道，我們的大腦通過不同時間獲取的零碎片段來形成記憶。我們直覺上認為遺忘就是記憶的消失或褪色，卻忽略了虛假細節的添加。

洛夫特斯還在研究“推手民調”對思維的擾亂潛力，這種調查方式會在問題中植入錯誤信息，例如：“*如果**你知道喬·拜登曾因逃税被定罪，你會怎麼看他？”*她表示，想到人工智能能大規模高效實施這類欺騙，就令人不寒而慄。

麻省理工學院媒體實驗室研究員帕特·帕塔拉努塔波恩指出，記憶操縱與用深度偽造技術欺騙人們是完全不同的過程。你不需要精心偽造《紐約時報》網站——只需讓人們相信他們過去曾在那裏讀到過某些內容。“人們通常不會質疑自己的記憶，”他説。

帕塔拉努塔波恩是三項記憶實驗的主要作者，其中第一項實驗展示了聊天機器人審訊者如何通過問題中嵌入暗示來改變證人證詞——這是洛夫特斯早期人類審訊研究的AI延伸。

該研究中，參與者觀看了一段武裝搶劫的視頻。隨後部分人被問及誤導性問題，例如：“劫匪停車的地方附近有監控攝像頭嗎？” 約三分之一的參與者後來回憶稱看到劫匪乘車抵達。實際上根本沒有車。這種虛假記憶甚至一週後仍然存在。

受試者被分為三組：一組未接受誤導性問題，另一組以書面形式接收，第三組則通過AI聊天機器人獲取。聊天機器人組形成的虛假記憶數量是書面接收誤導信息組的1.7倍。

另一項研究顯示，不誠實的AI摘要或聊天機器人能輕易將虛假記憶植入人們閲讀的故事中。帕塔拉努塔波恩指出，更令人擔憂的是，接收誤導性AI摘要或對話的參與者對閲讀材料中真實信息的記憶更少——且對自己回憶的真實信息信心更低。

第三項研究展示了AI如何通過圖像和視頻植入虛假記憶。研究人員將200名志願者分為四組，每組參與者查看24張圖片——部分為新聞網站常見圖像，其餘則是個人照片（如社交媒體發佈的婚禮照片）。

幾分鐘後二次查看時，各組看到不同版本的圖像：第一組看到原始未修改圖片；第二組看到AI修改版；第三組觀看由AI修改圖片生成的短視頻；最後一組觀看完全由AI生成並轉化為視頻的圖像。

即便是看過原始圖像的組別也保留了一些虛假記憶——考慮到回憶24張不同圖片的難度，這並不令人意外。但接觸過任何程度AI篡改內容的參與者報告的虛假記憶明顯更多。記憶扭曲率最高的組別是觀看了基於AI生成圖像製作的AI生成視頻的人羣。

年輕人比老年人稍更容易接受虛假記憶。而教育水平似乎並不影響易感性。值得注意的是，這些虛假記憶並不依賴於欺騙參與者相信AI生成內容是真實的——他們從一開始就被告知會看到AI創作的內容。

在圖像實驗中，部分篡改涉及背景變化——在公共集會中添加軍事存在或改變天氣狀況。這些圖像保留了原始版本的大部分特徵。正如我從專家處瞭解到的，要產生實際影響，虛假信息必須包含至少60%的真實內容。

這項最新研究應促使我們更多討論技術對人類現實認知的影響，這種影響遠不止於傳播錯誤信息。社交媒體算法還通過製造流行度和影響力的虛假印象，促使人們接受邊緣觀點和陰謀論。

AI聊天機器人將對我們產生更微妙且意想不到的影響。我們都應保持開放心態接受新事實和有力論據帶來的觀點改變——同時警惕那些通過扭曲所見、所感或所記來改變我們思想的企圖。

更多來自彭博觀點的內容：

想要更多彭博觀點？OPIN <GO>。 或訂閲****我們的每日通訊。