泰勒·斯威夫特的深度偽造視頻源自人工智能挑戰，據報道稱 - 彭博社

泰勒·斯威夫特在2月4日的洛杉磯格萊美獎上。

攝影師：Lionel Hahn/Getty Images

社交網絡分析公司Graphika稱，上個月末在社交媒體上大量傳播的泰勒·斯威夫特淫穢的換臉視頻源自一項挑戰，旨在突破人工智能生成淫穢圖像的安全機制。

數週來，4chan互聯網論壇的用户每天都在參加比賽，尋找能幫助他們繞過流行的圖像生成服務過濾器的詞語和短語，這些服務包括微軟的Designer和OpenAI的DALL-E，研究人員發現。最終目標是創建出著名女性人物的性感圖像，如歌手和政治家。

“雖然泰勒·斯威夫特的病毒式淫穢圖片引起了人們對人工智能生成未經同意的親密圖像的關注，但她遠非唯一受害者，”Graphika的高級分析師Cristina López G.在一封電子郵件中寫道。“在這些圖片起源的4chan社區中，她甚至不是最常被攻擊的公眾人物。這表明任何人都可能成為這種方式的目標，從全球名人到學生。”

4chan的代表未回覆置評請求。

根據Graphika的分析，這些淫穢換臉視頻最初是在該論壇上出現的，然後傳播到Telegram，最後傳到X網站。在淫穢圖片引發憤怒後，X網站被迫封鎖了所有關於泰勒·斯威夫特的搜索。其中一張圖片在X網站上停留了17個小時，觀看次數超過4500萬次，據The Verge報道。

許多文本到圖像生成公司已經禁止了某些關鍵詞，以阻止用户生成有害內容。然而，一些用户在4chan和其他在線論壇上分享瞭如何突破這些安全措施的技巧。

“這些圖像源自一羣受到‘挑戰’激勵的人羣，他們試圖規避生成式人工智能產品的保障措施，新的限制被視為又一個需要‘戰勝’的障礙，”洛佩茲·G説。“重要的是要理解這種惡意活動的遊戲化本質，以防止源頭進一步濫用。”

Swift的病毒式圖像已經幫助將非自願深度偽造技術推到政治議程的前沿，多年來專家一直擔心這項技術失控。白宮發佈了一份譴責Swift圖像的聲明，來自紐約的民主黨國會議員喬·莫雷爾表示，他希望這一事件能引起人們對他努力使深度偽造色情成為一項聯邦犯罪並受到罰款和監禁的關注。

在4chan頻道上，Swift只是許多名人之一，其肖像被用來製作性或暴力圖像。其他名人包括比莉·艾利什、阿麗亞娜·格蘭德和艾瑪·沃特森。Swift、艾利什、格蘭德和沃特森的代表未回覆置評請求。

截至1月30日，仍在進行Swift深度偽造請求，其中至少有一個尋求她的暴力圖像。

多年來，名人深度偽造色情在互聯網上的許多網站上都有，但涉及普通人的案例隨着人們獲取技術的複雜性和便利性而增加，根據專家的説法。受害者通常無法求助，難以讓這些圖像下架。

Meta平台公司迴歸了，馬克·扎克伯格的財富也回來了。

這位Facebook聯合創始人的淨資產在Meta季度業績遠遠超出華爾街的預期後激增了281億美元，使其股價上漲約20%。他現在身價為1,705億美元，是他有史以來最富有的時候，超過了比爾·蓋茨，躍居彭博億萬富翁指數的第四位。