TikTok難以刪除深度偽造視頻中哈馬斯受害者的視頻-彭博社

在TikTok上最近的一篇帖子中，一名女性站在穿着防彈背心的武裝士兵面前，神情莊重。

“我被哈馬斯的激進分子暴露在卡車後面，幾乎失去了生命，”這名女性在哀傷的長笛音樂聲中用西班牙語説道。“我的名字是夏妮·洛克。悲傷和不確定現在成了我的現實。我的身份和尊嚴在那一刻被奪走。”

這名女性分享了她所説的對襲擊的看法，並提到了她母親對她安全的呼籲。但這並不是22歲的德國-以色列公民洛克，在哈馬斯10月7日對音樂節的圍攻中喪生。實際上，這是她的一個深度偽造圖像 —— 一個使用現成的人工智能編輯工具製作的視頻，只需一張照片和幾分鐘的努力就能創造出一個説話、移動的任何人的模仿。

洛克經常在社交媒體上發佈內容，使得她的形象容易被借用到其他內容中。這篇帖子在襲擊後的第二天發佈，觀看次數超過700萬次。

彭博社審查了數十個在TikTok上展示悲劇受害者的深度偽造視頻，使用各種語言，有時獲得數百萬次的觀看和成千上萬的評論。最近的是以色列-哈馬斯戰爭受害者視頻，似乎旨在引起同情和病毒式傳播，儘管它們的創作者通常是匿名的。人工智能研究人員稱這些為“數字復活”。它們遵循類似的模式：一個悲慘的死亡被新聞報道，幾天甚至幾小時內，用户發佈那個人形象的視頻，講述他們去世的故事。

Ricarda Louk在十月份與德國聯邦議院主席Bas在柏林的會議上展示了她女兒Shani Louk的照片。攝影師：Christoph Soeder/picture-alliance/dpa/AP死者的深度偽造視頻——違反TikTok的規定，同時針對那些無法再給予同意或舉報內容以便撤下的人——正在該應用上走紅，並且成功地繞過了其內容審核機制。儘管TikTok有規定禁止在所謂的“合成”人工智能視頻中出現私人公民和兒童的描繪，但這些視頻經常在應用上積累了數千至數百萬的觀看次數。在收到示例視頻的電子郵件後，Bloomberg的審查立即刪除了這些視頻。依賴DeepWord或DeepBrain等工具的技術將繼續改進，產生更逼真的描繪，更難以檢測。

“像其他平台一樣，TikTok繼續投資於檢測、透明度和行業合作，以應對這種快速發展的技術，”一位代表中國科技巨頭字節跳動所有的TikTok的發言人表示。“我們已經制定了嚴格的政策，以刪除我們平台上的有害人工智能生成內容。”

這些視頻涉及死去的兒童、私人公民和名人，審查的帖子中沒有證據表明受害者或其倖存者同意使用其肖像。

多個關於哈馬斯受害者Ranani Glazer的人工智能生成視頻聲稱展示了這位23歲的巴西人談論自己的死亡。其中一個視頻的觀看次數超過了81,000次，並且在TikTok上搜索他的名字時是推薦視頻之一，與其他關於哈馬斯襲擊的新聞內容一起。哈馬斯被美國和歐盟指定為恐怖組織。在Bloomberg要求評論後，該視頻被刪除。

弗拉基米爾·波波夫是一名俄羅斯男子，於6月在埃及被鯊魚襲擊身亡。在他去世幾天後，一段TikTok視頻中使用他護照照片的版本重新展現了他的面孔，聲稱他的靈魂現在正在守護他的父親。“我感到我的生命在流逝，我知道我將死去，”配音用英語説道。“在那最後的時刻，我想起了我和爸爸一起度過的美好時光。爸爸，我愛你。”

這些視頻中有數十個仍然存在，並且沒有被TikTok的內容審核系統刪除，使得發佈者能夠增加他們的賬號粉絲，而該應用也從人們在線觀看這些視頻中獲益。這些視頻與其他通常輕鬆愉快的TikTok內容一起出現在快速滾動中，使用户在沒有任何背景或解釋的情況下接觸到這些被篡改的圖像，亨利·阿杰德（Henry Ajder）是一位深度偽造和生成人工智能研究員，他説。

“你在滾動、滑動視頻，可能你只看了三秒鐘，然後就覺得無聊換了下一個，”阿杰德説。“但在那三秒鐘裏，你看到了一些不真實的東西，而你沒有看到視頻的那一部分，其中披露了真相或提供了背景。”

曾經被認為是疫情封鎖期間輕鬆愉快和滑稽視頻的地方，TikTok現在經常捲入全球政治中。超過10億人使用該應用，通常尋找有關重大新聞或收看有關正在發生事件的視頻。與以色列-哈馬斯戰爭相關的標籤已經積累了數十億次的觀看，該平台一直在抵制有關其在推廣親巴勒斯坦內容的指控。

像大多數社交媒體平台一樣，這款應用也成為用户發佈未經證實的敍述和錯誤信息的地方，在突發新聞混亂時迅速積累觀看次數。該應用程序的構建目的是推廣用户感興趣的視頻，而不是那些擁有大量粉絲的人發佈的視頻，因此任何人都可以參與病毒式傳播的趨勢。這一因素，再加上廉價人工智能技術的大量使用，使得TikTok特別容易受到深度偽造的影響。

2021年，出現了一些視頻，看起來像是演員湯姆·克魯斯在啃棒棒糖或試圖做硬幣戲法。這些輕鬆愉快的視頻，據創作者告訴CNN，是通過對克魯斯的面部進行兩個多月的AI技術訓練的產物，吸引了數百萬次觀看，並幫助背後的人成立了一家人工智能公司。

一首使用德雷克和威肯德的深度偽造聲音的臭名昭著的歌曲被上傳到TikTok和音樂流媒體服務，引起了廣泛的公眾關注。從被篡改到完全偽造的政治家的視頻和音頻已經被廣泛發佈在社交媒體上。國會開始討論立法措施來保護名人和藝術家的聲音。在這場討論中，對私人公民的保護幾乎沒有被提及。

閲讀更多：沒有法律保護人們免受深度偽造色情內容的侵害。這些受害者進行了反擊

私人公民的深度偽造辯論主要集中在未經同意使用色情內容，或者使用真實的聲音欺騙年長的親戚匯款。少數活動使用已故個體的肖像，並得到倖存者的同意，以傳達特定的信息。在墨西哥記者哈維爾·瓦爾德斯·卡德納斯因報道毒品集團而被謀殺後，他的AI動畫形象在一場屢獲殊榮的活動中繼續傳播，以提高對媒體成員危險的意識。

“講故事通常是説服觀眾或吸引他們的最佳方式，在這種情況下，讓已故人士講述自己的故事可能非常有效，可以傳達觀念或説服人們改變他們的觀點，”佛羅里達大學新聞與傳播學院助理教授克里斯·朱説道。他研究了深度偽造視頻作為敍事説服工具。

2018年墨西哥新萊昂州蒙特雷市，被殺害的記者哈維爾·瓦爾德斯的紀念活動。攝影師：胡利奧·塞薩爾·阿吉拉爾/法新社/蓋蒂圖片社但在社交媒體上，沒有已故人士或其倖存者的同意，一個人認為是善意的倡導或追悼的視頻，可能被另一個人視為不尊重或追求名利。彭博社審查的視頻已經引起了用户的分歧。

“你為什麼要做這個，”一個用户在AI生成的視頻上發問，該視頻於9月發佈，展示了2020年被警察殺害的黑人喬治·弗洛伊德。其他人則支持受害者。“埃琳娜需要正義！！！”一個用户在一段17個月大的謀殺受害者埃琳娜·亨布里的視頻上寫道，她的數字復活講述了她被強姦和導致死亡的傷勢的故事。這篇帖子的標題倡導人們“成為她的聲音，分享她的故事”，獲得了230萬次觀看。

“這裏涉及道德和倫理問題，這是一個我認為理性人可以有分歧的地方，”加州大學伯克利分校電氣工程與計算機科學系和信息學院教授哈尼·法裏德説。

這導致像TikTok這樣的平台不得不決定道德和倫理界限在哪裏。它們試圖對其進行監管，但目前還不夠完善。根據TikTok的社區準則，“展示真實場景的合成或篡改媒體”需要明確披露。該應用的規定不允許包含未成年人或18歲以下未成年人的視覺或音頻肖像的任何內容。

TikTok表示，用户必須在包含逼真表現的人工智能生成內容上披露標籤，該應用向用户介紹了這一標籤。彭博社審查的數字復活視頻中只有少數帶有該標籤，該標籤告訴用户創作者將視頻標記為由人工智能創建，並且大多數描繪了私人人物或兒童。

“令人討厭”或“令人不安的”內容是不允許的。對於何種內容越過了這條線的判斷權留給了TikTok、其審查算法和審查視頻的人類審查員。一些數字復活視頻通過AI生成的死去兒童的形象討論虐待和謀殺的細節。

TikTok還表示，“不準確、誤導性或可能對個人或社會造成重大傷害的虛假內容”是不允許的。無法知道通過數字復活傳遞的關於受害者在死亡過程中的感受的陳述是否準確。

社交媒體平台本質上是為了獎勵人們參與的帖子，無論是積極的還是消極的。當人們在像TikTok這樣的平台上點贊、評論、轉發或回覆視頻和照片時，這被視為人們對該內容感興趣的指標，因此它經常被推送給更多人。

“他們會做任何能引起關注的事情，無論是積極的關注還是消極的關注，而這些視頻就是能引起關注的。” 加州大學伯克利分校的法裏德説。“部分原因是點擊量，部分原因是聳人聽聞，部分原因是病態好奇。現實主義，易用性，以及對技術的獲取將會不斷提升。”