美國公民自由聯盟在聯邦貿易委員會投訴中表示，Aon的人工智能工具存在歧視性 - 彭博社

美國公民自由聯盟表示，此舉是其更廣泛推動的一部分，旨在解決AI招聘軟件和其他自動化技術中的歧視問題。

攝影師：卡爾·科特/蓋蒂圖片社筆記本電腦上的xAI標誌。埃隆·馬斯克運營的AI初創公司是該季度風險投資的亮點。

攝影師：加比·瓊斯/彭博社美國公民自由聯盟在向監管機構投訴中聲稱，一家大型諮詢公司正在銷售歧視殘疾和種族的AI招聘工具，儘管將這些服務營銷給企業時聲稱是“無偏見的”。

與《彭博社》審閲的一份副本顯示的投訴中，與《財富500強》公司合作並銷售各種應聘者篩選軟件的Aon諮詢公司聲稱其工具“公平”，沒有偏見，並且可以“增加多樣性”，美國公民自由聯盟在週三向美國聯邦貿易委員會投訴稱這是虛假或誤導性的説法。

在其投訴中，美國公民自由聯盟表示，Aon的基於算法驅動的人格測試ADEPT-15依賴於會對自閉症和神經非典型人羣以及患有精神健康殘疾的人產生不利影響的問題。根據投訴，Aon還提供一種AI注入的視頻面試系統和一種遊戲化的認知評估服務，這些服務可能會基於種族和殘疾進行歧視。

美國公民自由聯盟呼籲聯邦貿易委員會對Aon的做法展開調查，發佈禁令併為受影響的各方提供其他必要救濟措施。“我們致力於構建解決方案，使我們的客户能夠做出包容性的招聘決策，”一位公司發言人在向彭博社發表的聲明中表示。“我們的評估解決方案的設計和實施——客户在進行其他篩選和審查之外還使用這些解決方案——遵循行業最佳實踐以及EEOC、法律和專業指南。我們正在監測新的和擬議的法律以及監管指導，以確保我們的解決方案保持合規。”發言人還反駁了美國公民自由聯盟對其人格測試的描述，稱Aon設計了該系統以避免衡量自閉症和神經非典型個體的臨牀特徵，符合《美國殘疾人法案》的要求。

一 不斷增長的研究成果和報道，包括彭博新聞的分析，發現人工智能工具容易存在偏見，並可能在人力資源和招聘方面產生意想不到且深遠的後果。但這項技術正在積極在這些領域進行市場推廣，作為簡化招聘流程的解決方案。在 去年的一項總統行政命令中，拜登總統強調了人工智能加劇招聘歧視的風險。然而，迄今為止，聯邦在這個問題上幾乎沒有採取任何行動。

Aon並不是唯一一家為公司提供基於人工智能的應聘者篩選軟件的公司。自動化應聘者跟蹤系統行業已經存在了十多年，其中還包括其他參與者，如人力資源諮詢公司Towers Watson & Co.和Mercer Human Resource Consulting LLC。但是，通過分析Aon公司的系統和其他材料的公開技術文檔，美國公民自由聯盟能夠聚焦於其稱為嵌入在Aon軟件中的偏見問題。

美國公民自由聯盟表示，此舉是其更廣泛的努力，旨在解決AI招聘軟件和其他自動化技術中的歧視問題。美國公民自由聯盟的種族正義項目高級律師Olga Akselrod在接受採訪時表示：“這是一個核心優先事項。美國公民自由聯盟和其他民權團體正在密切關注這一領域，並準備採取行動。”

長達數月的調查

美國公民自由聯盟表示，當該組織同意代表一位自閉症患者、混血兒求職者時，Aon首次引起了他們的注意，這位求職者在申請過程中遇到了Aon的一些評估服務。美國公民自由聯盟於九月左右開始對該公司的做法進行調查。

舉例來説，美國公民自由聯盟表示，在Aon的ADEPT-15人格測試中，有一部分要求候選人在一個光譜上選擇他們最認同的關於自己人格的兩個陳述之間進行選擇。美國公民自由聯盟表示，測試中的一些陳述與臨牀醫生常用的篩選工具中的陳述有重疊，這些工具用於幫助識別自閉症特徵並支持診斷。（Aon對這一描述提出了異議。）

“被問及與你的殘疾密切相關的這些問題的影響是無法忽視的，感覺僱主和供應商在針對你，” 美國公民自由聯盟殘疾權利項目的高級律師布賴恩·迪米克説。“這強化了自閉症患者和其他精神健康殘疾者每天都面臨的歧視。”

AON的招聘評估與醫學評估密切相似

美國公民自由聯盟表示，ADEPT-15人格測試對精神健康殘疾者不利

來源：美國公民自由聯盟針對AON的聯邦貿易委員會投訴

注：醫學聲明取自自閉症指數和Ritvo自閉症阿斯伯格診斷量表-修訂版。

另一個例子，美國公民自由聯盟發現，Aon的gridChallenge，一種遊戲化的認知評估工具的文檔顯示，亞裔、黑人、西班牙裔或拉丁裔，或兩種或兩種以上種族的申請人，平均得分都低於白人考生。美國公民自由聯盟表示，白人和黑人申請人蔘加評估的平均分數之間的差距最大。

“殘疾人和有色人種在就業市場和工作場所已經面臨重大障礙，” 美國殘疾人協會總裁兼首席執行官瑪麗亞·湯説。“Aon的就業工具在減少偏見的欺騙幌子下加劇了這種歧視。”

美國公民自由聯盟發現這些結果後，向負責執行使工作場所歧視非法化的聯邦機構平等就業機會委員會提出了控訴。在此舉之後的某個時候，Aon使其部分技術文檔對公眾不可訪問，阿克塞爾羅德説。

“被篩選出”

在Aon的全球客户中包括寶潔、德勤和亞馬遜的部分業務。美國公民自由聯盟指出，Aon的營銷材料中表示，該公司每年在90個國家的40多種語言中進行“超過3000萬次評估”。儘管這家諮詢公司為全球僱主提供各種人力資源服務，但美國公民自由聯盟表示，尚不清楚Aon的哪些客户使用了該組織在調查中確定的特定服務。

依賴Aon進行招聘軟件的公司不僅有可能錯過高素質的候選人，還有可能錯過那些能為工作團隊帶來多樣性和特殊視角的人，否則這些人將缺席，Dimmick説。與此同時，申請人錯過了重要的機會 —— 甚至可能不知道。“有資格的人沒有得到他們應得的工作，而且在許多情況下，他們的資格甚至沒有被人類評判 —— 他們只是被這些工具篩選出來，”Dimmick説。“他們可能永遠不會知道自己為什麼被篩選出來。”

Larkin Taylor-Parker，自閉症自我倡導網絡的法律總監，表示她通常看到基於人工智能的評估工具出現在初級職位中。

“這樣做的結果是讓我們社區的成員甚至無法開始自己的生活，無法從事你能想象到的最瑣碎的工作，”她説。“這對這個國家的殘疾人有着非常真實的經濟影響。”

風險投資交易正在迴歸 —— 至少對於人工智能公司來説。

上個季度，美國風險投資家在支持初創公司上花費了556億美元，比前一年同期增長了約一半，是兩年來支出最多的季度，根據PitchBook的數據。