泰勒·斯威夫特AI圖像：深度偽造色情要求公正 - 彭博社

Parmy Olson

Swifties不接受。

攝影師：Patrick Smith/Getty Images 北美新技術的反覆故事是意外後果。拿AI驅動的圖像生成器來説。它們的創造者聲稱它們正在增強人類的想象力並使每個人都成為藝術家，但他們往往沒有提到它們在幫助創造非法的深度偽造色情作品方面做了多少。大量的。上週末，X不得不關閉對“泰勒·斯威夫特”進行搜索，因為這個曾經被稱為Twitter的網站被大量偽造的歌手色情圖片淹沒，無法將它們全部清除。一張圖片單獨被查看了4500多萬次，然後被刪除。斯威夫特的醜聞指向了一個更廣泛的問題：網絡上大約96%的深度偽造是色情的。但這也可能是在一些真正的解決方案出現之前的最後的轉折點。

僅僅在1月份發生了足夠多的事情，表明在沒有適當監管的情況下，生成式AI的危害開始超過好處。這項技術被用於更多的欺詐行為和銀行詐騙，它使谷歌搜索結果變得更糟，並且通過虛假的自動撥號電話欺騙選民，聲稱是喬·拜登總統。但斯威夫特的襲擊顯示了生成式AI的毒性影響最隱蔽的地方，它在未經授權的性化圖像市場中創造了全新的受害者和施虐者羣體。它們指向了生成式AI正在以更安靜但同樣破壞性的方式破壞婦女的尊嚴，例如，生成出默認性化的圖像，對於有色人種的婦女來説情況更糟。

Deepfakes體現了這個問題，直到Swift出現之前，它一直潛伏在人們的視線之下：過去一年裏，一些高中學生使用她們女同學的真實照片製作深度偽造色情作品。在西班牙的一個小鎮上，一羣男孩使用人工智能工具“脱掉”了20多名年齡在11至17歲之間的女孩在社交媒體上的照片，並在WhatsApp和Telegram上傳播。虛假色情作品多年來一直可以通過諸如Photoshop之類的軟件製作，但現在任何人都可以迅速輕鬆地製作，因為有了不同的應用程序，比如可以將一個人的臉換到另一個身體上。

但是，現在更多的人和當局注意到了最新的受害者是《時代》雜誌評選的年度人物Swift，她幫助美國國內生產總值增加了0.5個百分點，與蘋果公司等流媒體服務公司開戰並獲勝，並提高了足球比賽的女性收視率。白宮新聞秘書Karine Jean-Pierre週五表示：“我們對虛假圖像的傳播報告感到震驚。我們將盡力解決這個問題。”

立法者們義憤填膺，而斯威夫特的粉絲們讓短語“保護泰勒·斯威夫特”在X上成為熱門話題，其中一些人甚至採取了私刑，找出了據稱製作了許多非法圖片的Twitter用户。據《每日郵報》報道，斯威夫特據説正在考慮對發佈了其中一些圖片的深度偽造色情網站採取法律行動。《每日郵報》報道。

斯威夫特不會半途而廢，所以我們可能會看到不僅僅是一場訴訟。也許她會支持國會已經在推進的一些法案，這些法案着手解決未經授權的深度偽造。一項法案將製作和分享這樣的圖片定為非法，而另一項提議對肇事者判處五年監禁，併為受害者提供法律救濟。

很容易聳聳肩並辯稱事情已經無法挽回。這些工具已經氾濫成災；有些是開源的，而且隨着社交媒體網絡如Twitter削減了其信任和安全團隊，這些圖片很可能會迅速傳播。當微軟首席執行官薩蒂亞·納德拉最近被問及斯威夫特的深度偽造圖片時，他直接陷入了“護欄”的陳詞濫調，而沒有提出任何具體的政策建議，這可能是因為他的公司正處於當今蓬勃發展的生成式人工智能業務的核心。根據404 Media的報道，至少有一些斯威夫特的相似圖片也是在微軟的圖像生成器上創建的。

有希望找到解決方案。國會正在通過的一些措施是一個開端，儘管長期規則仍在制定中，但當局可以通過對一些最壞的行為者進行懲處來控制目前的局勢。威懾是有效的，即使是那些認為自己可以隱藏在網絡匿名背後的人也是如此。一個典型的例子是在線黑客組織匿名者，大約十年前，該組織最知名的幾名黑客被逮捕並公開，其活動幾乎立即停止了。一位Twitter用户已經承認發佈了一些最初迅速傳播的圖片，他在賬户設為私密之前説：“哥們，我幹了什麼……他們可能會因為我發佈的泰勒·斯威夫特的帖子而通過新法律”，據《新聞週刊》報道。被逮捕並公開。《新聞週刊》。

在斯威夫特成為受害者之前，許多沒有同樣影響力的年輕女性正在經歷被針對的心理困擾。在看到自己的聲譽在網絡上被羞辱性地玷污並遭受長期後果之後，她們不得不重新振作。未經授權的深度偽造色情不是笑話——它是一種數字性暴力，威脅着助長更廣泛的網絡厭女和虐待文化。也許比地球上任何其他女性都更有影響力，斯威夫特有能力幫助制止這種現象。希望她能充分利用這個機會。

更多來自彭博觀點：

想要更多彭博觀點嗎？ OPIN <GO>****。或者您可以訂閲我們的每日新聞簡報。