Deepfake檢測是人工智能技術中並未蓬勃發展的一個領域 - 彭博社

人工智能現在已經非常強大，可以欺騙人們相信教皇方濟各穿着一件白色蓬鬆的巴黎世家外套的圖片是真實的，但可靠識別偽造圖像的數字工具正在努力跟上內容生成的速度。

只需詢問墨爾本郊外迪肯大學信息技術學院的研究人員。根據斯坦福大學2023年人工智能指數，他們的算法在識別去年一組所謂的深度偽造的名人圖像方面表現最佳。

Midjourney AI生成的一張假冒教皇方濟各的圖片，左邊是真實的教皇方濟各的照片。來源：Midjourney；法新社/蓋蒂圖片社“這是一個相當不錯的表現，”迪肯大學網絡安全與信任中心的教授Chang-Tsun Li説，他開發的算法在78%的時間內證明是正確的。“但這項技術仍然在發展中。” Li表示，這種方法需要進一步改進才能投入商業使用。

深度偽造技術已經存在並引起關注多年。2019年，前眾議院議長南希·佩洛西在一個篡改視頻中似乎口齒不清，在社交媒體上廣泛傳播。不到一個月後，Meta Platforms Inc.首席執行官馬克·扎克伯格在一個被篡改的視頻中被看到，使人誤以為他説了他沒有説的話，此前Facebook拒絕刪除佩洛西視頻。

雖然教皇在羽絨服中的形象是相對無害的操縱，但隨着技術的進步，從選舉操縱到性行為，深度偽造的潛力造成嚴重破壞已經增長。去年，一段烏克蘭總統弗拉基米爾·澤連斯基的假視頻要求他的士兵向俄羅斯投降，可能會產生嚴重後果。

大型科技公司以及一波初創公司已經投入數百億美元用於生成式人工智能，以在從搜索引擎到視頻遊戲等各個領域中佔據主導地位。然而，用於查找操縱內容的技術的全球市場相對較小。根據研究公司HSRC的數據，全球深度偽造檢測市場在2020年價值38.6億美元，並預計將在2026年以42%的複合年增長率擴大。

專家們一致認為，對於AI生成的關注過多，而對於檢測的關注不足，非營利組織“AI夥伴關係”AI和媒體誠信項目負責人克萊爾·萊博維奇表示。

儘管圍繞這項技術的熱潮主要由OpenAI的ChatGPT等應用程序主導，但從特斯拉首席執行官埃隆·馬斯克到谷歌母公司Alphabet首席執行官桑達爾·皮查伊等高管已經警告過走得太快的風險。

檢測工具準備好用來對抗生成式AI程序產生的逼真變造圖像浪潮還需要一段時間，比如像Midjourney製作的教皇圖像，以及OpenAI的DALL-E。問題的一部分是開發準確檢測的成本過高，而且幾乎沒有法律或財務激勵來這樣做。

“我每天都在與安全領導人交談，”弗雷斯特研究公司的分析師傑夫·波拉德説。“他們擔心生成式AI。但當涉及到識別深度偽造時，他們不會在預算上花費。他們有太多其他問題要解決。”

然而，一些初創公司，如總部位於荷蘭的Sensity AI和總部位於愛沙尼亞的Sentinel正在開發深度偽造檢測技術，許多大型科技公司也在這方面進行工作。英特爾公司於去年11月推出了其FakeCatcher產品，作為其負責任AI工作的一部分。該技術通過評估視頻像素中的血流等人類特徵來尋找真實線索，並且據該公司稱，可以以96%的準確率檢測偽造視頻。

“現在進行深度偽造檢測的動機不是金錢；而是幫助減少在線虛假信息，”英特爾高級研究科學家Ilke Demir説。

2023年籌集資金最多的深度偽造檢測初創公司

來源：PitchBook

到目前為止，深度偽造檢測初創公司主要為希望減少欺詐的政府和企業提供服務，而不是面向消費者。Reality Defender，一家得到Y-Combinator支持的初創公司，根據其執行的掃描數量收取費用。這些成本從數萬美元到數百萬美元不等，以覆蓋昂貴的圖形處理芯片和雲計算能力。

像Facebook和Twitter這樣的平台並不受法律要求在其平台上檢測和警示深度偽造內容，這讓消費者一籌莫展，Reality Defender的CEO Ben Colman説。“唯一採取行動的組織是像銀行這樣與金融欺詐有直接聯繫的組織。”

隨着深度偽造變得更加複雜並影響更多人，情況可能會改變。人工智能已經使複製某人的聲音變得更容易，欺詐活動也在增加。犯罪分子正在利用這些工具欺騙受害者匯款或批准財務轉賬。而一首名為“心繫袖口”的病毒傳播歌曲聲稱使用德雷克和週末的人工智能版本來創建一個可接受的副本，已經在音樂行業引起了法律和創意上的擔憂。

檢測偽造圖像和視頻的當前方法涉及通過訓練計算機從示例中學習並在原始作品上嵌入水印和相機指紋來比較內容中的視覺特徵。但是，深度偽造技術的迅速傳播需要更強大的算法和計算資源，戴肯大學的另一位教授陸學權表示。

沒有一種商業化並被廣泛採用的工具來區分虛假在線內容和真實內容，這為不良行為者提供了充足的機會。

“我看到的情況與我在反病毒行業早期看到的情況非常相似，”Ballistic Ventures的主席兼常務合夥人Ted Schlein説，他投資於深度偽造檢測，並曾在早期投資於反病毒軟件。隨着黑客行為變得更加複雜和破壞性，反病毒軟件得到了發展，並最終變得足夠便宜，以至於消費者可以在他們的個人電腦上下載。“我們正處於深度偽造的起步階段，”目前主要用於娛樂目的。“現在你開始看到一些惡意案例，”Schlein説。

但即使價格便宜，消費者也可能不願意為這種技術付費，F5 Inc.的前人工智能負責人Shuman Ghosemajumder説，F5 Inc.是一家安全和防欺詐公司。

“消費者不想自己做任何額外的工作，”他説。“他們希望儘可能自動地得到保護。”