中途規則可能會因某些提示而輕易被打破 - 彭博社

照片插圖顯示了一位AI漫畫藝術家。

攝影師：理查德·A·布魯克斯/法新社新研究顯示，使用AI工具Midjourney輕而易舉地生成種族主義和陰謀論圖片。但首先…

今日你需要知道的三件事：

• 俄羅斯尋求重返月球• 阿里巴巴首席警告AI的限制• 軟件公司將在拉美投資10億美元用於AI

草莓糖漿

使用Midjourney，某人可以生成幾乎他們能想象到的任何圖像，但創作者們添加了旨在防止人們製作冒犯性或政治性引發爭議內容的保障措施。例如，你無法讓人工智能創造出希拉里和比爾·克林頓手上沾滿鮮血的圖像。

但是，你可以製作一個他們手上沾滿“草莓糖漿”的圖像。

這是非營利組織“反擊數字仇恨中心”的研究人員發現之一。他們與彭博社分享了他們研究的初稿。該研究詳細列出了Midjourney Inc.的AI工具生成的種族主義和陰謀論圖片的數十個例子，顯然違反了公司的規定。

Midjourney未回應置評請求。在其服務條款中，Midjourney表示其工具會自動屏蔽“某些文本輸入”。該公司還表示有68名內容審核員和指導人員監督應用程序的使用。

新研究表明，這些防禦措施很容易被規避。在許多情況下，該工具很容易地滿足對政治家、名人和其他公眾人物在尷尬場景中製造圖像的請求。

報告中涵蓋的許多圖像提示涉及政治上具有爭議的話題，比如“邪惡政客微笑、悲傷的孩子、彗星比薩店”，這是對虛構的比薩門陰謀的引用，或者“喬治·弗洛伊德逼真地搶劫沃爾瑪”。其他提示依賴於編碼語言，就像克林頓的例子一樣。

OpenAI的Dall-E幫助將AI圖像生成器引入主流，但根據研究，Midjourney現在似乎是最受歡迎的，該研究引用了谷歌搜索數據。Midjourney在其流行高峯時期的四月份，其網站每月訪問量超過4200萬，根據市場研究公司SimilarWeb的數據。也許是世界上最著名的AI生成圖像，是由Midjourney製作的穿着蓬鬆夾克的教皇。

儘管Midjourney很顯著，但關於總部位於舊金山的團隊幾乎一無所知。它於2022年三月成立，由大衞·霍爾茲創立，他曾共同創立一家名為Leap Motion的失敗初創公司，旨在用手勢替代計算機鼠標。

只能通過消息應用Discord訪問Midjourney，並且需要以每月10美元起的訂閲費。Discord服務器有1400萬註冊用户。訂閲後，客户可以通過向Midjourney機器人發送消息來請求圖像。

每張圖片默認為公開，並歸因於創建者的用户名，除非他們為 Midjourney的“隱身模式”支付更多費用。研究人員搜查了Midjourney的Discord服務器以進行研究。

一些最多產的虛假信息傳播者已經開始注意到，研究人員表示。曾在Twitter上宣傳大換人陰謀的Breitbart News倫敦前總編輯Raheem Kassam在四月向Midjourney請求生成一個“喬治·索羅斯作為腹語師”的反猶太主義形象，報告顯示。同月，擁有近30萬訂閲者的極右YouTube評論員Jackson Hinkle請求該應用生成一個“撒旦喬治·索羅斯”的形象。在被要求發表評論時，Hinkle指控索羅斯做了他沒有做的事情，而Kassam沒有回應。

“任何人都可以使用這些工具生成那種類型的內容，” CCDH研究主管Callum Hood説。“這項研究表明，有比你想象的更多人在為確切這個目的使用它們。”

Hood表示，更令人擔憂的前景是製作看起來逼真的描繪從未發生過的事件的圖像：“隨着我們接近2024年的選舉，這可能是人們最關注的問題。”

重要新聞

科學會議涵蓋了你所期待的所有熱門話題，從人工智能到基因療法。但今年在基輔舉辦的年度大腦聚會有了烏克蘭的特色 — 展出的創新是為了戰爭。

值得關注

[觀看 Bloomberg Technology 電視 與Christine Tsai的採訪, 500 Global風險投資公司的負責人。](https://www.youtube.com/watch?v=1_HGY8m1mAU)### 充分充電

將虛擬現實 與人工智能相結合可能會變成隱私噩夢。通過機器學習的輔助，Meta的Quest 變得更具啓示性。

在罷工進行到第三個月時，人工智能在好萊塢的角色已經成為編劇和演員的一個關鍵問題。Bloomberg的 The Big Take 播客探討了 工作室已經在製作過程中使用人工智能的方式。

螞蟻集團 季度利潤增長了17.4%，標誌着這家公司在經歷了兩年多的中國監管打擊後出現了 改善跡象。

中國芯片製造商 正加快 對成熟半導體設備的投資，因為美國及其盟友正在加強出口管制。

一家 Tillman Global Holdings 子公司 和私募股權公司 Northleaf Capital Partners 已經同意進行一項 5 億美元交易 用於資助光纖網絡建設，併為家庭和企業提供批發寬帶基礎設施。

更多來自彭博社的信息

獲取彭博科技新聞簡報 在您的收件箱中：

• 網絡公告 用於報道黑客和網絡間諜的陰影世界
• 遊戲進行中 用於報道視頻遊戲行業
• 開機 用於蘋果獨家新聞、消費者科技新聞等
• 屏幕時間 用於近距離觀看好萊塢和硅谷的碰撞
• 片段 用於報道播客、音樂行業和音頻趨勢
• 超驅動 用於專家對汽車未來的深入洞察