公司在使用生成式人工智能進行招聘前應三思 - 彭博社

OpenAI標誌在美國加利福尼亞州克羅克特市的智能手機上排列，日期為2023年12月29日。

攝影師：David Paul Morris/BloombergChatGPT背後的技術在排列簡歷時顯示出種族偏見的跡象，彭博社的分析發現。但首先…

今天你需要知道的三件事：

• Discord將為遊戲玩家提供獎勵，首席執行官考慮進行首次公開發行• 蘋果將面臨歐盟監管機構的質詢，涉及其對Epic Games的處理• FCC正在進行一項“徹底”的調查，調查AT&T的服務中斷

使用人工智能來排列簡歷

多年來，公司一直依賴自動篩選系統來幫助招聘經理篩選求職者。這引發了許多博客文章，告訴求職者如何使用關鍵詞技巧讓他們的求職信和簡歷通過這些應用程序跟蹤器。但隨着ChatGPT的病毒式成功，一套新的人工智能系統已被添加到招聘流程中——對求職者存在潛在風險。正如我們為我們的人工智能和招聘調查所報道的那樣，現在有一整套服務使用AI聊天機器人來面試和篩選潛在候選人。領英，可以説是求職者和專業人士最受歡迎的平台，最近推出了一個新的AI聊天機器人，招聘人員可以提示它以“更快地找到符合資格的候選人的簡短名單”，該公司在一篇博客文章中表示。去年四月，人力資源技術公司SeekOut推出了一款招聘工具SeekOut Assist，該工具使用生成式人工智能為特定職位描述創建一個排名候選人的列表。這些服務可能有助於公司篩選出大量的候選人，但存在一個重要問題：偏見。生成式人工智能在訓練時使用的在線數據中固有地延續了固有的刻板印象的歷史。例如，要求AI圖像生成器展示一位首席執行官，它可能更有可能假設是一個男性。然而，瞭解這些偏見在招聘等高風險場景中如何發揮作用是一個挑戰。求職者沒有手段來審計僱主的招聘流程，而且即使是那些構建它們的人也通常無法理解AI系統，因為它們通常是黑匣子。為了打開黑匣子，我們設計了一個實驗，可以系統地測試這些AI模型在招聘背景下潛在的嵌入式偏見。我們決定專注於簡歷中的姓名，這些姓名一再被證明在招聘過程中具有重要作用[。我們還選擇專注於OpenAI的GPT，這是最知名的生成式人工智能工具，也是已經被SeekOut Assist等服務使用的技術。我們複製了一個簡化版本的招聘工作流程，通過將一組八份虛構的簡歷輸入GPT——保持所有資格相同，只更改排在簡歷頂部的虛構姓名。然後，我們要求該工具告訴我們誰是特定職位招聘的最佳候選人。我們要求GPT針對四家財富500強公司的四個真實職位列表評估這些虛構候選人：一個人力資源業務合作伙伴，一個高級軟件工程師，一個零售經理和一個金融分析師。我們對GPT-3.5和GPT-4分別進行了1,000次測試，使用了800個與種族和性別相關的不同人口統計特徵的名字：與黑人、白人、西班牙裔或亞裔相關的男性和女性各100個名字。每個代表特定人口統計特徵的虛構簡歷在每次我們要求GPT為特定職位的最佳人選時都有同等機會被排名為前列。至關重要的是，我們必須確保每個名字更有可能映射到特定的種族和性別交叉點。借鑑社會科學研究中的成熟方法，我們從北卡羅來納州選民登記和美國十年人口普查中分別計算了每個人口統計特徵最受歡迎的100個名字和最獨特的20個姓氏。然後，我們為每個羣體隨機配對了名字，得到了800個具有不同人口統計特徵的名字。根據一項國家經濟研究局關於招聘歧視的研究的作者之一Evan Rose的説法，研究人員經常使用具有種族特徵的名字來表示種族或族裔，我們從中獲得了靈感。多年來，這種方法一直髮現了一致的證據表明美國勞動力市場和住房市場存在種族歧視，Rose告訴我們。“這就是為什麼名字作為信號非常有用，”他説。在我們自己的實驗中，我們發現了基於姓名的歧視跡象。當要求排名簡歷1,000次時，GPT 3.5更傾向於某些人口統計特徵的名字，而不是其他人口統計特徵的名字，這種程度已經無法通過用於評估針對受保護羣體的工作歧視的基準。我們發現，在我們測試的每個職位列表中，除了GPT-4對零售工作者進行排名外，每個職位列表都至少有一個受到不利影響的人口統計特徵羣體。至於OpenAI，該公司表示使用GPT的結果可能不反映其客户使用工具的方式。使用該技術的企業可以選擇進一步調整AI模型的響應，例如。 AI公司通常試圖找到減少系統偏見的方法，OpenAI也不例外。但問題仍然存在——與此同時，生成式人工智能只會繼續進入越來越多的至關重要的守門服務。— Davey Alba和 Leon Yin](https://www.startribune.com/target-settles-discrimination-suit/12388496/)

重要新聞

微軟已經創建了一個在中國的技術先進的審查系統，重點是一個不斷擴大的黑名單，其中包括成千上萬個網站、單詞和短語，根據對十多名現任和前任員工的採訪。

值得關注

彭博新聞深入研究了泰坦計劃，揭示了公司的計劃以及最終為何破裂。彭博### 充分充電

一位 Salesforce 高管表示多樣性是構建人工智能模型的關鍵蘋果每年投入約 10 億美元到一輛從未建成的汽車中。

Palantir 已經****增加了通用磨坊和哥倫比亞廣播公司作為其人工智能工具的客户。

更多來自彭博

獲取彭博科技週刊在您的收件箱中：

• 網絡公告涵蓋黑客和網絡間諜的陰影世界
• 遊戲進行中報道視頻遊戲業務
• 開機蘋果獨家消息，消費者科技新聞等
• 屏幕時間報道好萊塢和硅谷的碰撞
• 片段報道播客、音樂行業和音頻趨勢
• 問答人工智能回答您所有關於人工智能的問題