Google、微軟繼續推進存在缺陷的人工智能可能面臨持續的抵制 - 彭博社

在美國紐約安排的智能手機上的雙子座標誌，日期為2023年12月9日。

攝影師：Gabby Jones/Bloomberg嗨！我是在舊金山的Shirin。谷歌和微軟競相推出人工智能產品，給兩家公司都帶來了反覆出現的公關危機。但首先…

三件事值得知道：

• 蘋果取消的汽車項目意味着人工智能和頭戴式設備的賭注更加緊迫• 研究顯示，人工智能聊天機器人尚未準備好應對選舉時刻• 美國軍方正在利用人工智能進行戰爭

一個不完美的系統

去年二月，谷歌和微軟舉辦了引人注目的發佈活動，宣佈推出新的生成式人工智能產品，緊隨ChatGPT的病毒式成功之後。不久之後，一些觀察者指責這些公司在公開演示中由其聊天機器人犯下的明顯事實錯誤。尤其是谷歌的股價急劇下跌。一年後，人工智能發佈和公眾抨擊的循環繼續。谷歌的人工智能聊天機器人Gemini最近增加了創建逼真人物形象的選項，卻因似乎拒絕展示白人形象而受到批評，即使在歷史背景下這是最為預期的。公司暫停了這一功能，谷歌的股價下跌，其首席執行官承諾本週將對發佈新產品的方式進行“結構性改變”。微軟的人工智能再次受到審查。其Copilot聊天機器人生成的回覆被用户稱為古怪、令人不安，甚至在某些情況下是有害的，包括一次對話中聊天機器人據稱鼓勵某人自殺。在調查這些事件後，微軟表示用户故意試圖愚弄其產品以生成這些回覆。

生成式人工智能在本質上存在缺陷且難以預測。谷歌首席執行官桑達爾·皮查伊在本週的自我檢討中承認了這一點。他在給員工的一封電子郵件中寫道：“沒有人工智能是完美的，尤其是在這個行業發展的初期階段。” 但面對巨大的競爭壓力，谷歌和微軟正推動將這些不完美的人工智能系統部署到數十億用户使用的各種付費和免費產品中，並且他們繼續被這些系統可能出現問題的方式所困擾。

正如我和我的同事本週報道的，谷歌使用了一種技術方法來向雙子座的結果注入多樣性，以應對人工智能圖像生成器中已知的偏見問題。但據瞭解此事的人士告訴我們，谷歌在這樣做時並沒有完全預料到工具可能出錯的所有方式，並且沒有透明地公開其方法。

我們採訪的一位專家在我們的報道中將谷歌的做法描述為“快速”修復 — 結果卻適得其反。相反，谷歌的結果被廣泛視為非歷史性的，缺乏背景知識，接近荒謬。許多擁有大量右翼追隨者的用户在 X 上發佈了截圖，顯示聊天機器人在回應要求提供開國元勳、歐洲的維京人和教皇的照片時，卻輸出了非白人的圖像。

“我們在雙子座中看到的挑戰表明，解決人工智能模型中的偏見和代表性問題需要細緻入微，”《揭開人工智能面紗》的作者、研究人工智能和偏見的喬伊·布拉明尼博士説道。“我們不會通過抹除任何人羣，包括白人男性，來實現包容。”

谷歌試圖在多樣性方面犯錯是可以理解的。2015年，谷歌因在其照片應用中搜索“大猩猩”時返回黑人圖片而受到廣泛批評。該公司的一個關鍵AI原則也是“避免創造或強化不公平偏見”。但谷歌有辦法做得更好來實現這一目標。

谷歌道德AI研究小組前聯合負責人、AI初創公司Hugging Face首席道德科學家瑪格麗特·米切爾表示，公司可以使用所謂的“意圖分類器”。公司可以瞭解用户是想看到美國革命軍的歷史準確形象，還是想看到反映更多元化世界的形象。

但對谷歌的AI系統進行這種主觀決策並不僅僅是一個工程問題。我們採訪的AI研究人員表示，科技公司有時會削弱僱傭來解決這些棘手問題的團隊的能力。包括米切爾在內的谷歌道德AI團隊的前領導在最近幾年因發表批評大型語言模型的研究論文而被公司驅逐。雖然谷歌仍僱傭專注於AI倫理和責任的人員，但尚不清楚他們在Gemini的逼真圖像生成工具開發中扮演了什麼角色。其他領先的科技公司在生成式AI炒作週期加劇時也裁減或重組了其道德和負責任的AI團隊。包括微軟在內，該公司在生成式AI炒作加劇時裁減了整個“道德和社會”團隊。 （當時，該公司表示已增加了從事負責任AI工作的人員數量。）本週的失誤顯示了這些舉措的聲譽風險。

“Geminigate再次顯示了社會、歷史和文化背景的重要性，這在計算機科學教育和人工智能實踐中經常被忽略，”Buolamwini博士説。“谷歌需要重新審視，並這次要有歷史學家。”

對於人工智能的潛在緩解措施——壓力測試提示、理解用户真實意圖和尋求更深層次的社會背景——都需要時間。而時間是科技巨頭們似乎感到短缺的資源，因為他們在爭奪人工智能的主導地位。因此，沒有理由相信他們已經看到了他們最後一個與聊天機器人相關的公關危機。“這就是我們當前時代公司開發軟件的現實，”努瓦斯特大學助理教授勞拉·埃德爾森説，她研究過人工智能系統。“所有社會成員都成為了測試人員，不管他們喜不喜歡。”

**有關人工智能的問題？**給我發郵件，Shirin Ghaffary，我會盡力在未來的新聞通訊中回答您的問題。

本週人類語錄

**“我們將在生成式人工智能領域開創新局面，這是我們認為可以重新定義未來的另一項技術。”**蒂姆·庫克

蘋果首席執行官

庫克在蘋果的股東大會上發表了這番言論，這是在公司取消了長達十年的電動汽車項目，並表示一些員工將轉而專注於生成式人工智能工作的一天後。### Altman短暫下台的長期後果

在OpenAI，員工們喜歡提到11月份CEO Sam Altman被解職 的五天期間為“短暫的故障”，這一事件使公司陷入混亂，然後一切恢復正常。但儘管員工們可能想要忘記這次干擾並繼續前進，但Altman董事會鬥爭的後果仍然存在。OpenAI獨立董事會對導致Altman被解僱的情況進行的調查似乎已經進入最後階段。在過去的三個月裏，調查人員一直在進行審查，採訪員工和高管，根據《紐約時報》的報道。彭博社此前報道，OpenAI已經選擇了兩名來自WilmerHale律師事務所的律師進行調查。舊董事會解僱Altman時，他們指責他在與他們的溝通中“不一貫坦率”，但沒有提供具體細節。彭博社報道，這一決定是數月長時間緊張局勢的結果，包括擔心Altman曲解了董事會其他成員的觀點。然而，關於Altman據稱在與董事會溝通中不坦率的具體例子很少。很快，我們可能會得到更多這些細節。另外，據《華爾街日報》報道，美國證券交易委員會正在進行調查，以確定OpenAI的投資者是否被誤導，這加劇了對該公司的審查。作為調查的一部分，據稱SEC在Altman下台後的一個月要求OpenAI提供內部記錄。

值得關注

Bloomberg新聞專欄作家Alex Webb討論了蘋果計劃停止汽車項目並將重點轉向人工智能。Bloomberg### 深度學習

• 機器人初創公司希望人工智能時代到來意味着他們的時代已經到來
• Ideogram，一家與Midjourney和Dall-E競爭的人工智能初創公司籌集了8000萬美元
• 阿里巴巴發佈了一款新的人工智能系統，可以從靜態照片中創建逼真的説話和唱歌視頻
• 微軟達成協議投資於Mistral，這是一家法國初創公司，也是OpenAI的競爭對手

更多來自Bloomberg

獲取每日科技資訊以及更多Bloomberg科技週刊內容，請查收您的收件箱：

• 網絡安全簡報涵蓋黑客和網絡間諜的陰影世界
• 遊戲進行時報道視頻遊戲業務
• 開機蘋果獨家報道，消費者科技新聞等
• 屏幕時間報道播客、音樂行業和音頻趨勢
• 聲音片段報道播客、音樂行業和音頻趨勢