人工智能欺詐廣告投訴在社交媒體平台上增加 - 彭博社

Parmy Olson

攝影師：Chris Delmas/AFP

新技術走向哪裏，無良之徒就會跟隨。生成式人工智能炒作吸引了那些不僅在計劃中使用它，而且在社交媒體廣告中使用它的騙子。更糟糕的是，有時是老年人和財務上脆弱的人成為了目標。美國聯邦貿易委員會（FTC）負責監督欺詐性廣告行為，根據彭博觀點通過信息自由法案請求獲得的投訴文件顯示，過去一年關於使用人工智能或聲稱使用人工智能來誘使人們陷入詐騙的廣告投訴激增。至少三分之一的投訴是關於在Twitter、Facebook和YouTube等社交媒體網站上發現的廣告，這些網站現在在自己的廣告商中面臨一種新型的虛假信息對手。

BloombergOpinion外面看起來很像第二次世界大戰甚至南極洲也無法阻止新冠病毒。這是一個重要的教訓。需要成熟的科技CEO，而不是尋求刺激的兄弟這一大腦癌症突破應該讓你興奮在2023年2月至2024年2月的一年中，向FTC提到AI的廣告投訴僅有兩起，但這一數字在2024年2月至2025年2月的一年中上升到了14起，與企業使用生成式人工智能工具創造類似人類文本和逼真圖像以及深度偽造技術的激增相吻合。

這些數字乍一看可能並不表明有流行病問題，但考慮到大多數常規社交媒體用户被鼓勵首先向Facebook或YouTube等平台投訴，而不是美國頂級在線廣告監管機構，它們仍然反映了人們可能看到的更廣泛的增加，以及可能是冰山一角。 （這裏列出的所有投訴都是直接向FTC提出的。）

例如，洛杉磯的一位30多歲的人告訴FTC，他們在YouTube上觀看了一個特寫伊隆·馬斯克的深度偽造視頻後，被誘使轉賬7000美元到一個假的特斯拉網站。在視頻中，假冒的馬斯克説特斯拉將通過與另一家加密公司合作“在短時間內將您的資金翻倍”。但洛杉磯的投訴人從未拿回他們的錢，並説他們失去了一生的積蓄。“那是我所有的錢，”他們在投訴中説。

來自佛羅里達的另一人説，他們在YouTube上一直看到深度偽造廣告，聲稱展示了區塊鏈支付網絡Ripple首席執行官Brad Garlinghouse，並承諾“翻倍賺錢”，根據投訴。該人補充説：“YouTube完全忽視我們的擔憂，這些廣告仍在顯示。”

“我們注意到了一種新興的深度偽造廣告趨勢，暗示了虛假的名人背書或關係，”YouTube所有者Alphabet Inc.的一位發言人在電子郵件中告訴我。“我們也知道，這些廣告有時會被用來欺騙用户。我們正在大力投資於檢測和打擊這些深度偽造廣告及其背後的不良行為者。”該公司在一月份表示，他們“意識到”使用馬斯克等名人的深度偽造廣告來傳播詐騙，並刪除了1000個宣傳這些廣告的視頻，根據404 Media的報道。

最近的投訴顯示，就像企業紛紛提及其服務或產品中的人工智能一樣，騙子們也將其作為一種誘餌。過去一年向FTC投訴的幾起案件也指向了Facebook平台上的廣告。例如，英國的一位人發現自己進入了一個聲稱提供人工智能交易平台的公司的Facebook頁面。一旦這個人開設了賬户，他們就存入了200美元，並與一位理財顧問預約了見面。“然後他會進一步教育我有關人工智能交易，”他們的投訴説。這位“顧問”最終逼迫他們支付一筆費用才能提取他們的存款，而他們支付不起。

菲律賓的另一位人報告了Reels上的一個視頻廣告 —— Facebook的TikTok版本 —— 在視頻中，騙子聲稱利用人工智能幫助人們在兼職工作中每天賺取高達1500美元。而在另一個Facebook平台 —— Instagram上 —— 澳大利亞的一位人稱他們看到了一個由馬斯克開發的人工智能交易平台的公告，聲稱可以“幫助普通人通過加密交易賺取數千美元”。在投資了250美元后，這位人發現自己無法提取任何資金。“他們一直説‘財務部門必須批准’，”投訴人説。“那是我最後一次聽到他們的聲音。”

Facebook所有者Meta Platforms Inc.的女發言人表示，公司與執法部門密切合作，支持調查並將騙子從我們的平台上清除，並且其各種應用程序“有系統來阻止詐騙行為”。

欺詐者還以其他方式使用人工智能。美國喬治亞州的一位老兵抱怨説，她曾訪問過一個面向老年人的約會網站，意識到她與許多潛在伴侶聊天的對象都是機器人。

機器人多年來一直滲透到約會應用程序和網站中，但生成式人工智能最近幫助它們聽起來更加流利。在一些網站上，它們會鼓勵用户花錢為平台上的其他人購買虛擬禮物，或者購買更多的聊天積分。“我真是太傻了，竟然上當了，”老手在投訴中説。

社交媒體公司多年來一直在與濫用其平台的人作鬥爭，包括那些試圖傳播宣傳和陰謀論的人。這種新型的不良行為者提出了獨特的挑戰。人工智能工具使欺詐者有可能大規模發起活動，這意味着他們內容的數量之多可能會壓倒檢測方法。這些平台可能需要付出巨大的努力。與此同時，企業和消費者都應該記住這句格言，當他們遇到新潮的技術時：如果事情看起來太美好，那可能就是。更多來自彭博觀點專欄的內容：

想要更多彭博觀點嗎？OPIN<GO>。或者訂閲我們的每日新聞簡報。