Midjourney CEO David Holz能否在2024年阻止大量虛假選舉圖片的風暴？- 彭博社

Midjourney創始人David Holz在2016年在Leap Motion總部。

攝影師：GLENN CHAPMAN/AFP在互聯網上到處都是一大堆特朗普的愚蠢圖片。這裏是他是一個超級英雄，那裏是一個 卡通戰士，還有這裏是和年輕的邁克爾·喬丹打籃球。這種光澤的外觀透露出這些是由人工智能生成的，但不可否認的是潛在的信息：特朗普仍然保持着一種在線文化力量，並且仍然受到奇怪的喜愛。

傳遞這一信息的是Midjourney，這是一家總部位於舊金山的人工智能初創公司，在其17個月的存在期間沒有進行任何營銷，沒有從風險投資者那裏籌集到一分錢，但年收入達2億美元，並已成為生成非常真實的AI“照片”的最強大工具之一。特朗普被捕和教皇方濟各穿着白色羽絨服的假照片讓互聯網用户感到困惑，並在今年早些時候走紅，這些照片是由Midjourney生成的。該公司現在發佈了一個可以更加逼真地完成這項工作的新版本。

此前曾堅稱不喜歡假照片的Midjourney創始人David Holz發現自己正在引導一種為藝術家創建的工具，同時也被宣傳者所利用。這是一種經典人工智能創新者的軌跡，他們無法抵抗讓自己的系統更加強大的誘惑，而這是以自己的標準為代價的。（Midjourney沒有回應多次要求評論或採訪Holz的請求。）

Holz在佛羅里達長大，在那裏他童年時期進行了一些先進的科學實驗 — 比如在自制的風洞中以160英里/小時的速度發射紙飛機 — 然後在高等教育中兼顧設計和數學的興趣。他於2008年共同創立了Leap Motion，一家制造了一個類似iPod大小的USB設備，可以用手勢控制計算機程序。Holz的想法比他的時代提前了十多年，而他堅持了下來卻損害了自己。在2013年拒絕了蘋果公司數億美元的收購要約後，Leap Motion的價值下降了。Holz 最終在2019年以3000萬美元的價格將其出售 給了一家英國公司。

不屈不撓，他於2021年創立了Midjourney，最終將其打造成一個獨立的研究實驗室，旨在“拓展人類的想象力。” 在2022年接受 Forbes 和 The Register 的採訪中，Holz描述了Midjourney是一個讓人們“創造美好事物”的空間。他基於OpenAI的算法構建了這個工具1，在2022年春夏之際，比OpenAI以DALL-E 2驚豔世界之前幾個月，Holz發佈了自己的Midjourney早期版本，這是一個可以根據文本提示產生數字藝術的工具。他的客户每月支付大約10-60美元來使用這個工具，在應用程序Discord的公共聊天室中使用它。

它本可以在那裏結束，但是霍爾茲擁有了硅谷企業家渴望的金粉：人脈。他招攬了幾位著名顧問，包括編程網站Github的CEO Nat Friedman，他今年為初創公司購買了數千個AI芯片。這些被稱為GPU的芯片對於在人工智能領域保持領先地位至關重要。在他的人際網絡的幫助下，霍爾茲積累了大量的GPU，多達1萬個，大約是用來訓練ChatGPT的估計數量。這些GPU使Midjourney的模型變得更加智能和更快。

所有這些計算能力轉化為了2023年3月發佈的Midjourney 5版本中令人瞠目結舌的改進。當用户要求生成逼真的人物圖像時，從皮膚紋理到面部特徵，一切都更加逼真，同時反射、陰影和光線也更加真實。

12月20日發佈的第6版生成的人臉細節更加驚人，皮膚毛孔和紋理使它們幾乎無法與真實照片區分開來。Midjourney的用户一直在使用新軟件玩耍，通過生成好萊塢演員在虛構的電影劇照中的形象，比如這張列昂納多·迪卡普里奧扮演列寧的照片：

這張列寧的假照片是在最新版本的Midjourney上生成的，發佈在Twitter.com上。來源：Twitter.com霍爾茲似乎自去年採訪以來就保持沉默。當時，這位企業家對人們使用Midjourney創建假照片表示深深的不安。他説那是“極其危險的”，“我真的不想成為世界上假照片的來源。”

然而，通過使Midjourney的軟件更加強大，霍爾茲為假圖像的大量傳播奠定了基礎。現在可以在幾秒鐘內生成超逼真的名人和歷史人物的“照片”，有些甚至已經登上了谷歌搜索結果的榜首。許多Midjourney用户仍在創作藝術作品，但還有很多人正在創作像下面這張以色列總統本雅明·內塔尼亞胡穿沙特服裝的逼真肖像一樣的照片，這張照片是由一個Midjourney用户於2023年12月4日創建的。（創作內塔尼亞胡形象的Midjourney用户未回應置評請求。）

2023年12月初在Midjourney上生成的本雅明·內塔尼亞胡的AI生成圖像的截圖。來源：Midjourney許多人擔心AI照片會加劇錯誤信息，但實際上，很難想象內塔尼亞胡和特朗普的假照片會欺騙大多數人。AI照片看起來仍然有點不真實，而對“深度偽造”的媒體關注已經使每個人更加警惕。

他們的真正影響將更加微妙和難以察覺：大量推廣某些觀念的假圖片將更像是影響觀點而不是愚弄人的廣告活動。將特朗普置於關鍵歷史時刻的假照片 —— 推倒柏林牆或在越南戰爭中戰鬥 —— 這些照片最初是作為X上的一個笑話製作的，但已經出現在MAGA論壇上，在那裏人們將其視為靈感。

AI圖片也可以成為政治以外的宣傳工具。根據非營利組織數字仇恨打擊中心8月的一項研究，鼓勵飲食失調的在線論壇一直在使用Midjourney和其他類似軟件發佈超瘦人的圖片，以“激勵”他們的成員。

Midjourney使用自己的AI軟件來阻止潛在有害內容，並且據彭博新聞最近的報道，該公司有大約70名員工監控其輸出。但是這些限制相對容易規避。例如，雖然Midjourney不會讓你生成比爾和希拉里·克林頓手上沾滿鮮血的圖片，但它會讓你在他們身上放上血紅色的草莓糖漿。

Holz似乎意識到了這個問題。早在三月份，他結束了Midjourney的免費試用計劃，並提到了“濫用”。但是宣傳的影響，就像廣告一樣，很難追蹤。隨着越來越多的人使用他的服務 —— 據報道，約有900萬用户在他的Midjourney的Discord服務器上 —— 為了支持特朗普、鼓勵飲食失調或任何其他文化價值而生成的所有新內容將變得更加難以監管。

Midjourney發佈版本6花了八個月的時間，與之前版本發佈的速度相比明顯較長，之前的版本相隔兩到四個月發佈一次。Holz可能在努力獲取他所需的AI芯片，或者他可能在應對在總統選舉前幾個月將這樣一個有影響力的工具開放給公眾所帶來的責任。讓我們希望是後者。

更多來自Bloomberg Opinion的文章：

• 谷歌無法捕捉所有的AI圖像。 你能嗎？
• 埃隆·馬斯克的AI夢想 正在打轉
• OpenAI的Q*之所以令人擔憂 是因為另一個原因

想要更多Bloomberg Opinion嗎？ OPIN <GO>****。或者你可以訂閲 我們的每日新聞簡報**。**