OpenAI的Flirty ChatGPT指向了科技行業中關於女性的醜陋真相 - 彭博社
Parmy Olson
真正的女性也有很多可提供的東西。
攝影師：Frederic J. Brown/AFP/Getty Images
市場正在宣佈脱離拜登。
攝影師：Jeenah Moon/BloombergChatGPT的演示讓人難以置信。最新升級。OpenAI沒有展示出一個聽起來更可靠的聊天機器人，而是給世界展示了一個擊中所有奉承的女性音符的機器人，咯咯地笑着看着男性研究人員的滑稽動作，並稱贊他們的服裝。由於聲音與斯嘉麗·約翰遜相似而引起的憤怒忽略了一個更深層次的問題。世界領先的AI構建者正在創造強化有關女性的刻板印象的軟件。而且有一個很重要的原因：涉及其中的女性太少了。
Bloomberg觀點特朗普本來不會進監獄。亨特·拜登也不會。對於拜登和英國來説，這是一個獨立日市場在工黨執政下表現更好嗎？並非如此歐洲央行需要保持其實力以縮小債券利差在OpenAI，僅有18%從事技術開發的員工是女性，根據Glass.ai這家商業情報公司為Bloomberg觀點收集的數據顯示，該公司使用機器學習技術審查了科技公司網站和成千上萬名AI專業員工的LinkedIn個人資料。1 在2024年5月進行的調查中，ChatGPT的創造者是其他領先公司中最糟糕的。
人工智能的性別差距令人沮喪
在領先的科技公司中，女性人工智能研究人員的數量遠遠不及男性，尤其是在OpenAI公司
來源：Glass.ai
注：2024年5月通過對成千上萬員工的LinkedIn個人資料和科技公司網站進行爬取收集的數據。
儘管OpenAI的首席技術官米拉·穆拉蒂是一名女性（在去年山姆·奧爾特曼被解僱期間曾短暫擔任首席執行官），但在該公司的686名從事構建人工智能系統工作的員工中，只有122名是女性。一年前的差距甚至更大，當時Glass.ai對LinkedIn個人資料進行了類似調查，發現女性僅佔OpenAI研究人員的12%。
當女性和少數族裔在構建人工智能等關鍵技術中沒有發揮作用時，就很少有人在潛在偏見被固化到系統中之前指出。例如，亞馬遜公司曾經使用一種招聘算法，該算法淘汰了女性的簡歷，因為它是在主要由男性提交的簡歷上進行訓練的。如果更多女性參與了亞馬遜的這個系統開發，這種情況可能就不會發生。根據卡羅琳·克里亞多-佩雷斯的書《隱形女性》，已經顯示出掃描胸部X光片的算法系統性地對女性患者進行低診斷，這是因為許多醫療人工智能模型是基於偏向男性的數據進行訓練的。
最新一批生成式人工智能工具同樣令人震驚。圖像生成器使女性看起來更加性感，而不是男性，而彭博新聞社的一份調查報告發現，開源AI圖像生成器Stable Diffusion往往會完全忘記女性的存在。它生成的男性圖片數量是女性的三倍。男性主導着高薪職業的圖片，如工程師、CEO或醫生，而女性則被描繪成低薪工作，如女傭和收銀員。
對於熟悉該領域將女性物化的女性AI研究人員來説，這一切並不令人驚訝。即使在最近的生成式人工智能繁榮之前，學術界也以用模型給女性臉部化妝或將他們的牛仔褲換成迷你裙來測試模型性能而聞名，根據開源AI公司Hugging Face的研究員Sasha Luccioni在最近的博客文章中所述。
每當她對這些方法發表意見時，Luccioni説她都會遭到反對。“畢竟這只是一個基準測試，”她寫道，指出在學術界，女性同樣極度缺席，佔據機器學習研究人員的12%。
這是一種複雜問題，由於其根源在教育系統和系統性文化規範中，需要多年時間來解決。但如果OpenAI及其同行繼續固化刻板印象，可能會阻礙許多現代努力實現公平競爭的努力，比如吸引更多女孩和女性進入STEM行業。清除用於訓練算法的數據中的偏見是解決問題的一步。另一步是簡單地僱傭更多女性研究人員來解決長期存在的不平衡。如果他們不這樣做，可以預期他們未來的產品會更令人尷尬，甚至有害。
更多來自彭博觀點：
想要更多彭博觀點嗎？OPIN <GO>。或訂閲我們的每日新聞簡報**。**
要直接將約翰·奧瑟斯的新聞簡報發送到您的收件箱，請在此處註冊這裏。
這場危機，即關於總統喬·拜登是否應該繼續競選下一屆的危機，似乎正逐漸升温，正好趕上美國慶祝擺脱英國獨立的時刻，以及英國人選舉新政府的時刻。這是一個可怕而悲傷的局面，引發了巨大的不確定性，但迄今對市場的影響很小。這主要是因為投資者認為唐納德·特朗普已經很可能會贏得勝利，而在這種情況下，一個新的民主黨候選人無法提供更好的反對意見。