OpenAI、微軟AI工具生成誤導性選舉圖片，研究人員表示 | 路透社

智能手機出現在這幅插圖中，前面是微軟標誌，拍攝日期為2021年7月26日。路透社/Dado Ruvic/插圖/檔案照片3月6日（路透社）- 研究人員在週三的一份報告中表示，包括OpenAI和微軟在內的公司利用人工智能技術提供的圖像創作工具，可以製作可能促進選舉或與投票相關的虛假信息的照片，儘管每家公司都有政策禁止製作誤導性內容。數字仇恨打擊中心（CCDH）是一家監測在線仇恨言論的非營利組織，他們使用生成式人工智能工具製作了美國總統喬·拜登躺在醫院病牀上和選舉工作人員砸毀投票機的圖像，引發了人們對即將到來的11月美國總統選舉中虛假信息的擔憂。“這些由人工智能生成的圖像可能作為‘照片證據’，加劇了虛假聲明的傳播，對保護選舉的誠信構成了重大挑戰，”CCDH研究人員在報告中表示。

CCDH測試了OpenAI的ChatGPT Plus、微軟的Image Creator、Midjourney和Stability AI的DreamStudio，這些工具可以根據文本提示生成圖像。

該報告是繼上個月宣佈OpenAI、微軟和Stability AI等20家科技公司簽署了一項協議共同合作為了防止欺詐性人工智能內容干擾今年全球正在進行的選舉。Midjourney並不是最初簽署者中的一員。CCDH表示，在研究人員的測試中，AI工具在41%的情況下生成了圖像，並且最容易受到要求提供描繪選舉舞弊的照片的提示的影響，例如投票用紙在垃圾桶裏，而不是拜登或前美國總統唐納德·特朗普的圖片。

報告稱，ChatGPT Plus和Image Creator在要求提供候選人圖片時成功阻止了所有提示。

然而，Midjourney在所有工具中表現最差，在研究人員的測試中生成了誤導性圖像的情況達到了65%。

CCDH表示，一些Midjourney的圖像可以公開提供給其他用户，有證據表明一些人已經在使用該工具創建誤導性的政治內容。一位Midjourney用户成功使用的提示是“唐納德·特朗普被捕，高質量，狗仔隊照片”。

Midjourney創始人大衞·霍爾茲在一封電子郵件中表示，“與即將到來的美國選舉相關的更新即將推出”，並補充説，去年創建的圖像並不代表研究實驗室當前的審查實踐。

一位Stability AI發言人表示，該初創公司於週五更新了其政策，禁止“欺詐或製造或推廣虛假信息”。

OpenAI發言人表示，該公司正在努力防止其工具被濫用，而微軟則未回應評論請求。