紐約市通過AI招聘法案 迄今鮮有公司遵守 - 《華爾街日報》

自紐約市開始執行全美首部相關法律、要求企業披露算法如何影響招聘決策以來，已過去六個月。目前，主動披露者寥寥無幾。

該法律要求使用軟件輔助招聘和晉升決策的僱主（包括聊天機器人面試工具和篩選關鍵詞匹配的簡歷掃描系統）每年對這些工具進行潛在種族和性別偏見審計，並將結果公佈在公司官網上。其立法初衷是推動企業識別並消除技術可能無意中在僱傭決策中植入偏見的環節。

康奈爾大學研究人員組織學生篩查企業官網後發現，在一項新研究分析的近400家僱主中，截至本月上旬僅有18家公佈了相關信息。發佈審計報告的企業包括摩根士丹利、輝瑞、信諾保險和派拉蒙。

被分析的391家公司中大多數未披露信息。圖片來源：Amir Hamja/Bloomberg News這項名為《第144號地方法》的規定被立法機構和行業組織視為未來技術監管的試驗案例而持續關注。華盛頓特區、紐約州及歐盟等多地正在考慮制定類似規則，美國平等就業機會委員會去年也將技術相關歧視列為戰略優先事項。

在被分析的391家公司中，大多數未披露相關信息——其中許多公司將總部或主要業務設在紐約。研究人員指出，即使某些公司公佈了審計結果，要找到這些通知也"充滿挑戰、耗時且令人沮喪"。法律要求企業在其官網招聘版塊公示這些信息。

研究人員表示，結果表明該法律對求職者價值非常有限，充其量只能為完善未來監管提供路線圖。“我們現在更清楚問題出在哪裏，“康奈爾大學研究報告合著者、非營利技術研究組織Data & Society人工智能項目負責人傑克·梅特卡夫説道。

合規率低的原因之一在於：梅特卡夫指出，法律賦予僱主"幾乎無限自由裁量權"來判斷自身是否適用該規則。雖然最初提案要求使用大多數自動化就業決策工具（AEDT）的僱主必須進行審計，但最終版本縮小了範圍，規定僅適用於那些工具實質上替代或輔助人類決策的公司。包括微軟、SAP和甲骨文等工作場所技術製造商在內的商業貿易團體，曾遊説紐約市議會促成部分條款調整。

為數十家技術供應商完成審計的ConductorAI公司聯合創始人本·菲希特表示，許多僱主聲稱："‘我們使用這種工具，但它並未完全取代人類決策，因此不符合AEDT的定義’"。

人力資源高管行業協會SHRM 2022年的一份報告發現，64%的公司正在使用人工智能或其他形式的自動化技術來審查或篩選求職者簡歷。

菲希特補充道，另一個挑戰在於：由於許多僱主不追蹤大多數申請者的種族或性別信息，這些分析結果的價值存疑。

在紐約市設有崗位並受該法規約束的僱主，必須在其官網上公佈"不利影響比率”，以顯示招聘流程是否對不同種族或性別存在差異性影響。他們還需聲明正在使用自動化工具，併為求職者提供申請替代篩選方式的渠道。

違規僱主可能面臨每天每項違規最高1500美元的罰款。LL 144是信息披露法，並不強制要求僱主改變招聘程序。

該法律生效後不久，百事公司就發佈了一份披露報告，展示其食品部門供應鏈崗位申請人羣體評估的影響比率。部分比率低於表明存在不利影響的閾值。目前該報告鏈接已失效。

位於紐約州帕切斯的百事公司總部圖片來源：GABBY JONES/華爾街日報百事公司在聲明中表示：“我們在評估工具是否屬於紐約AEDT法律範疇時準備了這些結果。經審查確認我們的工具不構成AEDT後，我們隨即從網站撤下了相關數據。”

負責監督該法律的紐約市消費者與工人保護局發言人表示，執法行動基於投訴驅動，而自法規生效以來，該機構尚未收到任何投訴。

“除非採取強制措施，否則僱主很可能會置之不理，“代表勞工參與就業訴訟的Outten & Golden律師事務所管理合夥人亞當·克萊恩指出。他補充説，即便企業真的進行並公開偏見審查結果，“也無法驗證這些信息的真實性”。

部分求職者表示，在經歷了多年對應聘者追蹤系統等自動化招聘工具的失望後，他們開始關注這些工具在招聘決策中的作用。去年二月，莫爾豪斯大學一名畢業生起訴人力資源技術巨頭Workday，指控其軟件存在種族、殘疾和年齡歧視。原告稱自己向使用Workday招聘工具的僱主投遞了80至100份工作申請，均遭拒絕。

曾遊説紐約市議會放寬部分法規要求的Workday公司提出撤案動議。上週聯邦法官批准了Workday的請求，但允許原告在2月20日前提交補充證據的新訴狀。

“我們認為這起訴訟毫無法律依據，且完全缺乏支持其主張的事實指控，“Workday在聲明中表示。

Workday稱尚未按照紐約市新規要求進行工具審查，而ADP、Eightfold等人力資源技術供應商已完成了相關審查。

律師和科技公司表示，僱主們將不得不適應對其系統更嚴格的監管。“這僅僅是即將到來的一系列更廣泛義務的開端，“BABL AI創始人希亞·布朗説道，該公司為企業提供人工智能風險和系統審計服務，他特別提到歐盟即將出台的全面監管規則。

聯繫記者勞倫·韋伯請致信 [email protected]