拜登AI行政命令顯示深度偽造的緊迫性 - 彭博社

美國總統喬·拜登。

攝影師：肖恩·特魯/美聯社沒有任何軟件程序可以扭轉多年來受損的信任。但首先…

今天你需要知道的三件事：

• TikTok的首席執行官將與歐盟監管機構會面• 蘋果警告假日銷售可能放緩• 波音的一個網站遭到網絡攻擊

一個“理論上的不可能”

以色列-哈馬斯戰爭凸顯了在線欺騙如何在有爭議的公共討論期間產生影響。一些聲稱展示該地區情況的圖像實際上是幾年前拍攝的，而真實照片則被認定為深度偽造，因為旨在識別AI生成內容的工具錯誤地標記了它們。

深度偽造是拜登政府試圖在其關於人工智能的行政命令中解決的眾多與AI相關的問題之一 — 這是美國迄今為止最認真的嘗試來應對AI的挑戰。該命令指示商務部研究識別和標記所謂合成內容的方法，以及驗證內容並跟蹤其真實來源。擁有這些功能將是很好的，但未來存在着重大的技術和其他挑戰。

有專家一致認為，今天用於識別由AI創建的內容的系統是可以被操縱的。馬里蘭大學計算機科學副教授Soheil Feizi的研究已經證明了破解檢測AI生成的文本鏈接和圖像的方法，他稱未來的系統不可能是絕對安全的，因為基本的AI模型總是比檢測它們生成的工具進步更快。他説：“即使在未來，也不會有可靠的方法來解決這些問題。”

關於如何處理這些有缺陷的工具，人們意見不一。Feizi認為，即使不是萬能的，不完美的水印也可以暴露或阻止較不成熟的攻擊。反對意見是，弱AI檢測每次錯過一個深度偽造視頻或將真實圖像標記為偽造品時，信任就會進一步瓦解，最好不要假裝它們有效。但是其他人將AI檢測技術比作鎖住家門。當然，有人可能用撬棍撬開門閂或從窗户溜進來，但總比什麼都不做好。

更有前途的技術集中在驗證內容的來源。在其最基本的形式中，這將通過讓內容的創建者用加密代碼“簽名”來實現。Web瀏覽器、社交網絡或其他工具可以自動檢查這個簽名，並向用户表示它是合法的。類似的系統已經用於驗證某些軟件程序的來源，且難以破解。

公司一直在尋求制定內容認證標準，但加入政府也有一定道理，加州大學伯克利分校的教授漢尼·法裏德（Hany Farid）表示，他研究數字取證、人類感知和虛假信息。法裏德表示，這樣的系統可以與水印技術配合，大大清理網絡上的問題。他談到AI檢測技術時説：“最複雜、最有決心的行為者會找到繞過這一技術的方法。但如果我們能解決問題的底部75%，我會宣佈勝利。”

然而，技術只是挑戰的一部分。多年來，人們一直在學習不相信他們在網上看到的東西，尤其是那些他們不同意的東西。對深度偽造視頻的擔憂可能會加劇社交媒體上關於低技術虛假信息活動的討論已經造成的損害。專家已經開始將這稱為“説謊者紅利”，因為當混淆和懷疑增加時，尋求傳播虛假信息和不信任的人會受益。

消除説謊者紅利需要更多的良好技術和政府以及大公司的支持。“當你不信任這些機構時，這些東西就行不通，”法裏德説。“問題不僅在於你相信那些事實上是錯誤的東西，而是你相信政府、媒體和公司在隱瞞信息。”

從長遠來看，在人工智能時代擁有一個健康的互聯網的唯一途徑是重建信任。這需要比總統令更多的努力。

重要新聞

一家硅谷集團由億萬富翁支持，表示他們擁有足夠的土地在加利福尼亞北部建造一個烏托邦城市。加利福尼亞永恆項目背後的公司表示，他們希望建造一個可持續發展、適合步行的城市，將創造就業機會。

值得關注

觀看Bloomberg Technology 電視採訪 西門子首席執行官Roland Busch關於他在美國製造業投資的內容。### 充分充電

埃隆·馬斯克神秘的人工智能項目將向一羣特定的人發佈。

OpenAI的Dall-E 3非常優秀，以至於引發了藝術家反對AI抄襲的抗議。

西門子將投資5.1億美元在美國，並在德克薩斯州建造新工廠。

華爾街對特斯拉股票的興奮似乎正在減緩。

更多來自彭博社

獲取彭博科技週刊，請查收您的收件箱：

• 網絡公告，報道黑客和網絡間諜的陰影世界
• 遊戲進行中，報道視頻遊戲業務
• 開機，蘋果獨家新聞、消費者科技新聞等
• 屏幕時間，近距離觀看好萊塢和硅谷的碰撞
• 聲音片段，報道播客、音樂行業和音頻趨勢
• 問答AI，回答關於人工智能的所有問題