MIT科學家：人工智能換臉假視頻，沒有預想的可怕_風聞

原創：譚婧

想象一下場景：你正在觀看你國家領導人的電視直播，宣佈敵對的外星力量已經入侵地球並正在摧毀他們前進道路上的一切。敦促您立即逃離這座城市，不知不覺中，高速公路上擠滿了驚慌失措的人，人們陷入了大規模的歇斯底里。直到幾個小時後，在搶劫和騷亂平息之後，每個人都知道你們都被騙了——直播視頻是假的。

使用深度學習系統來創建虛假內容，主要是圖片和視頻。

當我們看到人工智能換臉假視頻深入色情、網絡和犯罪以來，人們一直擔心這種技術可能會被用來干擾高官換屆。

好吧，根據一項麻省理工學院 (MIT)新研究，不要慌，情況沒有那麼糟糕。

換句話説，原本視頻更容易被人認為是真實的，但是説服力卻差了很多。

本質是，這是一場影響力與説服力的混淆。

一個幾億人都觀看的視頻，不代表説服了幾億人，只是“大家都看到了而已”。

這個概念有些想知名度和美譽度。後者更難得到，因為知名度有時候只是知道了，笑了，不是審美是審醜，但是美譽度是説服你，這是個好東西。

麻省理工學院研究人員發佈了一份新報告，調查高官視頻剪輯，是否可能比文本更具有説服力，並發現答案是……並非如此。

論文摘要：視頻是越來越普遍的高官信息來源。儘管傳統觀點認為視頻比文本等其他方式更具説服力，但這種假設很少在高官的信息得到驗證。在兩個大規模隨機實驗中，我們發現了“眼見為實”的明確證據：當以視頻和文本形式顯示信息時，個人更有可能相信事件發生了。

然而，在説服方面，視頻相對於文本的優勢明顯不那麼明顯，對態度和行為意圖的影響很小。

研究人員在論文中寫道：“對視頻的擔憂在大眾和學術界都很普遍，其前提是視頻比文本更具吸引力。”

自從 深度偽造技術（deepfakes，就是給視頻裏的名人換臉，視頻肉眼看上去和真的沒有區別），於2019 年年中首次出現以來，這些年來我們一次又一次地看到立法者的重視。

2020年夏天，當波特曼（Sens. Rob Portman） 和 加里彼得斯（Gary Peters） (D-MI) 推出Deepfake Task Force Act 時，波特曼（Portman）在一份聲明中指出，Deepfake 對國家安全構成了“獨特的威脅”。

“在人類歷史的大部分時間裏，看到就意味着相信，但現在由於深度造假技術，這種説法越來越不準確，”波特曼（Portman）當時説。

“結合社交媒體創造的網絡效應，虛假視頻或圖片可以瞬間傳遍世界，欺騙公民。”

為了衡量這項技術在欺騙任何人方面的有效性，麻省理工學院團隊進行了兩組研究，涉及來自美國各地的近 7600 名參與者。

在兩項研究中，這些參與者被分為三個不同的組。在某些情況下，第一個被要求觀看隨機選擇的“具有説服力的”高官廣告，或來自油管的新冠疫情上的高官演講視頻剪輯。

第二組得到了那些隨機選擇的廣告和剪輯的轉錄。

第三組啥都不用看，因為他們是對照組，所以什麼也沒有。

作為該項目背後的研究人員之一，亞當·貝林斯基 (Adam Berinsky) 在一份關於這項工作的聲明中指出，“僅僅因為視頻更可信，並不意味着它可以改變人們的想法。”

當然，這項研究（與所有學術研究一樣）也有相當多的警告。

一方面，儘管 7600 人是一個相當大的樣本量，但它可能無法涵蓋每個美國選民可能擁有的所有意見。

但即使是這樣，該研究也指出，通過視頻呈現的信息具有文本所沒有的獨特優勢：

與書面報告相比，視頻更引人注目，可以吸引更多觀眾。“

在現實生活中，情況可能會有所不同，”該研究的其他作者之一大衞蘭德（David Rand）在一份聲明中指出。

“當您滾動瀏覽新聞源時，視頻可能比文本更能吸引您的注意力，”他補充道。“你更有可能看它。這並不意味着視頻本質上比文本更有説服力——只是它有可能覆蓋更廣泛的受眾。”

換句話説：至少就這項研究而言，特定高官的深度偽造視頻不太可能比關於同一位高官的假新聞報道更能影響人們的高官觀點。

視頻可能具有的唯一優勢是，您是否相信眼前所見——以及剪輯最終可能獲得的眼球數量。（完）

親愛的數據，出品