微軟將幫助打擊美國總統選舉中的AI換臉技術深度偽造視頻 - 彭博社
Margi Murphy
微軟公司正在向美國政客和競選團體提供一種工具,旨在幫助打擊2024年總統選舉前深度偽造視頻的增長。
微軟總裁布拉德·史密斯(Brad Smith)在公司的博客上於週三早些時候表示,這種新工具將允許各方使用所謂的水印憑證對其視頻和照片進行認證。史密斯表示,通過使用密碼學,該服務將創建圖像或視頻的永久記錄,使任何人都可以在網絡上查看它是否經過數字修改或使用人工智能生成。
人們擔心人工智能將被用來干擾選舉。在未來一年,民主機構的力量和韌性可能會受到前所未有的考驗。
據一位知情人士透露,微軟最初計劃免費向政治候選人提供這一工具,然後可能在2024年美國大選後將其擴展到更多團體。該知情人士要求匿名,因為這些信息尚未公開。
隨着美國公民準備在2024年11月選出新總統,人們對由人工智能生成的圖像和視頻以及它們潛在的加劇誤導能力的擔憂日益加劇。已經出現了幾個政治深度偽造視頻:羅恩·德桑蒂斯(Ron DeSantis)在6月因在社交媒體平台X上發佈了唐納德·特朗普與安東尼·福奇博士親密的虛假圖像而受到責備,這是為了嘲笑他的共和黨挑戰者。今年4月,共和黨全國委員會傳播了一段虛假視頻,描繪了拜登總統統治下的美國末日景象。
政客及其競選團隊實際上會採納微軟的提議並使用其工具的程度尚不清楚。在2020年,微軟推出了一款用於檢測深度偽造視頻的工具,並類似地為政客提供了一種驗證其內容的手段,這已經成為微軟的一種選舉傳統。
儘管微軟正在警告深度偽造視頻並提供幫助來對抗它們,但該公司也在大力投資生成式人工智能領域。微軟已向OpenAI投入了100億美元,OpenAI是最受歡迎的人工智能圖像生成器之一,名為Dall-E。
就在拜登的視頻發佈幾周前,一段篡改的視頻剪輯在網上瘋傳,伊麗莎白·沃倫參議員説共和黨人應該被禁止投票。
一羣美國參議員在九月提出了一項跨黨派的法案,該法案將禁止使用深度偽造視頻來影響選舉或募集政治資金。
微軟還發布了一份新的威脅情報報告,強調了其先前對外國行為者試圖影響競選的擔憂。該公司在報告中表示,中國、伊朗和俄羅斯可能會在未來一年試圖干預美國政治。
註冊*《網絡公報》**,獨家報道黑客和網絡間諜的陰影世界,以及企業如何進行防禦。*
微軟在報告中表示,預計2022年美國中期選舉將受到俄羅斯的網絡攻擊和影響操作的困擾,但沒有報告發生重大事件。不過,微軟表示,俄羅斯仍然是“2024年選舉面臨的最具承諾和能力的威脅”,該公司補充説,該國可能會利用合成內容在社交媒體上製造分裂。
微軟在報告中表示:“克里姆林宮可能認為明年的競爭是一場必須贏得的政治戰爭,決定了對基輔的支持軌跡和烏克蘭戰爭的結果。”