中途媒體考慮在美國大選前禁止特朗普和拜登的圖片 - 彭博社

中午標誌在美國紐約安排的智能手機上，2023年8月17日。

攝影師：Gabby Jones/BloombergAI高管們正在策劃在這個選舉週期打擊政治虛假信息。但首先…

三件事情要知道：

• 谷歌正在重新設計其聊天機器人並推出新的訂閲計劃• 頂尖AI公司正在加入美國政府的努力制定安全標準• Meta表示將檢測和標記更多的AI生成的帖子，因為選舉即將來臨

一種粗糙的工具

通過Midjourney，你可以快速創建栩栩如生的AI生成圖像幾乎任何東西，包括假的喬·拜登總統微笑着開槍和前總統唐納德·特朗普在橢圓形辦公室會見教皇方濟各的照片。但隨着美國選舉季節的開始，這種情況可能很快會改變。Midjourney正在考慮禁止人們在接下來的一年內使用其人工智能軟件製作政治圖像，特別是拜登和特朗普的照片，以避免成為美國總統選舉的焦點。Midjourney首席執行官大衞·霍爾茲在上週在聊天平台Discord的“辦公時間”會議上説：“我不知道我對我們平台明年的政治言論有多在乎。”霍爾茲表示，公司“快要敲定”——一種禁止的術語——禁止拜登和特朗普等照片“在接下來的12個月內”。“我知道製作特朗普的照片很有趣——我也製作特朗普的照片，”霍爾茲繼續説道，我和許多其他Midjourney用户都在聽。 “特朗普在審美上真的很有趣。然而，可能最好還是不要——在這次選舉期間稍微退出一點。我們會看到的。”霍爾茲在他每週的聊天中更直言不諱，這些聊天對Midjourney的近1900萬用户開放，比許多AI領袖在公共場合説話更坦率。但其他科技公司的首席執行官也在考慮如何防止他們的平台在今年的選舉中成為政治焦點，就像社交媒體公司在以前的年份中那樣。Inflection AI的首席執行官穆斯塔法·蘇萊曼在10月表示，他公司的聊天機器人將不被允許支持任何政治候選人。Meta Platforms Inc.本週表示，將開始標記更多使用AI工具創建的帖子，作為防止選舉期間誤導信息的更廣泛努力的一部分。而下週，OpenAI將為其平台製作的圖像添加水印，作為先前宣佈的措施之一，以打擊選舉誤導信息。“我最擔心的是，隨着AI的新能力…將會有比2020年更好的深度偽造視頻，”OpenAI首席執行官薩姆·阿爾特曼在上週的一次活動上説。

有理由感到擔憂。去年三月，使用Midjourney製作的虛假特朗普被逮捕的圖片迅速在社交媒體上傳播。現在想象一下，如果類似的圖片在今年三月出現，當時有十多個州的選民在超級星期二投票。更糟糕的是：由於人工智能圖像生成技術的快速進步，這些圖片可能會更具説服力。

Midjourney已經實施了自動封禁措施，旨在防止用户創建各種圖片。例如，其當前的社區標準禁止“不尊重、有害、誤導公眾人物/事件描繪或可能引起誤導”的圖片。但是先前的研究表明，繞過這些限制是相當容易的。允許什麼，不允許什麼也可能取決於您使用的Midjourney軟件版本。我能夠讓Midjourney 5.2標準版生成特朗普被意大利麪覆蓋的圖片，但不能讓更新的6.0版本生成特朗普吃披薩或搬運一堆書的圖片，儘管它會給我特朗普單獨的圖片。

在他的辦公時間聊天中，Holz表示，如果有封禁，可能不會公開宣佈。“我們可能只會採取行動，而不會説任何話，”他説。Holz沒有回覆進一步評論的請求。

即使Midjourney禁止用户製作包含特定政治人物的圖片，根據加州大學伯克利分校的數字取證專家和教授Hany Farid的説法，這最多也只是一個“臨時解決方案”。

“讓我們不要假裝，在Midjourney禁止拜登和特朗普的圖片會解決我們面臨的政治虛假信息的更大問題，”他説。Farid表示，人們總是會想辦法繞過平台提供的AI生成內容的安全措施。

他説，真正的問題是，這種方法在數十個國家的數十億人有資格參加選舉的一年裏如何擴展？ — Rachel Metz

本週人物語錄

“偽造並非創造，而人工智能世界充斥着內容偽造者。”

Robert Thomson

新聞集團CEO

顯然是在向紐約時報最近決定起訴OpenAI侵犯版權致敬，Thomson 説，新聞集團更喜歡“求愛而非法庭”。但他也強調，未經批准“擅自改編內容”就是“偷竊”。### 值得關注的人物

Arm CEO Rene Haas表示，人工智能是我們一生的機遇，絕對不是“炒作週期”。Bloomberg### 深度學習

• OpenAI 正在 押注其 33 歲的首席運營官 來幫助實驗公司的商業模式
• 埃隆·馬斯克的新人工智能初創公司的潛在投資者 正關注其最大競爭對手 OpenAI 的早期成功
• 拜登的一個由人工智能生成的音頻深度偽造 被追蹤到德克薩斯州的一家公司 及其所有者
• GitHub 的前首席執行官正在與一羣志願者合作 使用人工智能來解鎖一批古卷的秘密
• 法國正在 經歷人工智能時刻

彭博社更多內容

獲取科技日報 以及更多彭博科技週刊內容，請訂閲：

• 網絡安全簡報 關注黑客和網絡間諜的陰影世界
• 遊戲進行時 報道視頻遊戲行業
• 電源開啓 提供蘋果獨家新聞、消費者科技新聞等
• 銀幕時光 報道好萊塢和硅谷的碰撞
• 聲音碎片 報道播客、音樂行業和音頻趨勢