《華爾街日報》：《網絡時代，真相何在？互聯網上已無人知曉》

過去，製作和傳播具有説服力的宣傳內容需要國家級的資源。如今，僅需一部智能手機即可實現。

生成式人工智能現已能夠偽造圖片、克隆人聲，甚至生成歪曲世界事件的虛假視頻。其結果是：從我們的私人社交圈到政治秀場，每個人都不得不質疑所見所聞的真實性。

我們早已被警示社交媒體可能扭曲世界觀，而如今虛假誤導信息在社交媒體上的傳播潛力更甚以往。同樣關鍵的是，接觸AI生成的偽造內容會讓我們懷疑所見一切的真實性——真實的影像與錄音反而可能被當作偽造品。

麻省理工學院斯隆管理學院教授戴維·蘭德（其團隊專門研究虛假信息的產生、傳播及影響）指出：“當向人們展示深度偽造和生成式AI作品時，實驗結束後他們常會説’我再也不相信任何東西了’"。

斯坦福互聯網觀察站研究員蕾妮·迪雷斯塔表示，在生成式AI時代愈發嚴重的這一問題被稱為”騙子紅利"。

迪雷斯塔補充道，易於生成的虛假內容與"任何內容都可能是假的"這種懷疑心態的結合，使人們能夠選擇自己願意相信的內容，從而形成她所説的"定製現實"。

由生成式AI製造的誤導性內容在社交媒體上比比皆是。一張廣為流傳的虛假照片顯示以色列民眾沿街列隊支持國家，其多處特徵表明是AI生成——包括仔細觀察就能發現的異常細節，如扭曲的身體和四肢。同理，一張聲稱展示西班牙足球賽現場揮舞巴勒斯坦旗幟球迷的廣泛傳播圖片，也經不起推敲。

對於快速滑動屏幕、瞬間決定是否點贊或轉發的用户而言，AI生成圖片的跡象很容易被忽略。隨着生成式AI技術持續進步，未來這些跡象可能會更難被察覺。

蘭德表示：“我們的研究表明，大多數普通人並不想傳播虛假信息——問題在於他們缺乏辨別意識。“他補充道，人們的注意力本就有限，而社交媒體的運作方式——鼓勵我們大量消費內容，同時要求快速決定是否分享——使得我們幾乎沒有餘力去判斷信息的真偽。

隨着越來越難辨別的虛假內容氾濫，如今有人以此為藉口來否定真實信息也就不足為奇。例如今年早些時候，在一場關於特斯拉"全自動駕駛"系統致人死亡案件的訴訟中，埃隆·馬斯克的律師面對其宣傳該軟件的視頻證據時，竟以網絡上存在大量馬斯克的"深度偽造"視頻為由，主張駁回這項證據。儘管該視頻經核實確屬真實，主審法官仍稱這種辯護邏輯"令人深感不安”。

最近在TikTok和Twitter上，許多人聲稱以色列總理本雅明·內塔尼亞胡推文中哈馬斯襲擊以色列受害者的駭人照片是AI生成的。但專家指出，沒有任何證據表明該圖像經過AI修改或生成。

如果真實性的危機僅限於社交媒體，我們或許還能從與最親近之人的交流中獲得慰藉。但如今，即便是這些互動也可能充斥着AI生成的虛假內容。美國聯邦貿易委員會現在警告稱，聽起來像是孫輩來電索要保釋金的情況，可能是騙子從社交媒體上抓取了孫輩的錄音，以此欺騙祖父母匯款。

類似地，新澤西州最近有青少年被發現使用AI工具製作同學假裸照進行傳播。

儘管這些都是惡意案例，但像谷歌母公司Alphabet這樣的企業，正試圖將個人圖像修改包裝成好事。

其最新款Pixel手機推出了一系列升級工具，能自動將一張照片中的人臉替換為另一張照片中的同一人臉，或徹底快速移除照片中的某人。

讓照片變得完美固然巧妙，但這同時也意味着真實個人記憶捕捉的終結——那些自然流露的怪癖與意外瞬間將不復存在。喜歡從官方照片中抹去不喜歡人物的約瑟夫·斯大林，想必會鍾愛這項技術。

為谷歌辯護的是，它正在向圖片附加數據中添加記錄，標明圖像是否被修改過。但這類元數據僅能在原始照片和部分副本中查看，且很容易被剝離。

加州大學伯克利分校專門研究數字取證和圖像分析的教授哈尼·法裏德表示，多種人工智能工具的快速普及意味着我們現在不得不質疑從身邊社區到地緣政治等任何媒介中接觸到的所有信息。

為了從歷史背景中理解當下，他指出個人電腦革命讓信息存儲和複製變得容易，互聯網讓信息發佈變得簡單，移動革命讓獲取和傳播信息比以往任何時候都更方便，而人工智能的興起則讓製造虛假信息變得輕而易舉。而且每一次革命都比前一次來得更快。

並非所有人都認為讓公眾輕易接觸人工智能會加劇我們面臨的虛假信息困境。這類專家的主要論點是，互聯網上現有的虛假信息已經遠超個人能消費的量，因此再增加也不會讓情況惡化。

即便這是事實，也並不能真正讓人安心，尤其是考慮到無黨派機構皮尤研究中心的調查顯示，公眾對機構的信任度已處於過去70年來的最低點之一，而衡量人們彼此間不信任程度的極化指標正處於歷史高位。

“當我們對媒體、政府和專家的信任被侵蝕時會發生什麼？”法裏德説。“如果你不信任我，我也不信任你，我們如何應對疫情、氣候變化，或舉行公平公開的選舉？這就是威權主義興起的方式——當你削弱對機構的信任時。”

欲瞭解更多《華爾街日報》科技分析、評論、建議和頭條新聞，請訂閲我們的每週通訊。

本文刊登於2023年11月11日的印刷版，標題為《人工智能的崛起導致真相的衰落》。