美國執法機構尋求打擊人工智能偏見 - 《華爾街日報》

美國執法官員週二表示，他們決心打擊在貸款、住房和招聘等領域使用人工智能引發的歧視和偏見問題，隨着ChatGPT等自動化系統的日益普及，華盛頓方面對此給予了更多關注。

“我國民權法律並未對新科技網開一面，”消費者金融保護局局長羅希特·喬普拉在與記者的電話會議上表示，“企業必須對這些工具的使用負責。”

喬普拉與美國司法部、聯邦貿易委員會和平等就業機會委員會的官員們共同指出了AI偏見風險，同時表示他們正在調配人力資源以應對AI工具新應用場景的爆發式增長。由微軟公司支持的初創企業OpenAI開發的聊天機器人ChatGPT，是當前一系列能快速生成類人文本、代碼、圖像和視頻的新興人工智能工具之一，這些工具在各行業具有廣泛應用前景。

微軟等公司表示，他們在發佈這些工具前會進行偏見測試，並持續更新以確保其被正確使用。

喬普拉稱，其機構正在關注客服聊天機器人可能提供偏見或錯誤信息的風險。他還表示，消費者局正協同努力聯繫科技行業吹哨人，這些人可向該機構舉報其所在公司的技術可能存在的違法情況。

消費者保護局此前已告知金融機構，《平等信貸機會法案》禁止在貸款決策中存在歧視行為，要求貸款方必須明確告知消費者貸款被拒的具體原因，即使該決定由算法作出。

OpenAI的支持者微軟及其他公司表示，正在產品前進行偏見測試。圖片來源：Gabby Jones/彭博新聞聯邦貿易委員會主席莉娜·可汗表示，該機構正密切關注人工智能領域的反競爭行為。

“當今少數強勢企業掌控着關鍵資源——不僅是海量數據存儲，還包括初創企業和其他公司賴以開發部署AI產品的雲服務與算力，“可汗指出，“這種控制權可能為實施不正當競爭手段創造條件。”

聯邦貿易委員會警告企業，若對AI驅動產品功能作出虛假承諾，可能構成非法欺騙性商業行為。可汗強調，若某公司向其他企業提供AI工具，而該工具直接與消費者互動，則兩家企業均需承擔違法責任。

就業機會均等委員會主席夏洛特·伯羅斯指出，企業使用自動化工具篩選求職者時存在違法風險。例如，若AI系統因求職者曾因殘疾治療導致職業空檔而拒絕錄用，則可能違反《美國殘疾人法案》。

司法部民權司助理檢察長克里斯汀·克拉克表示，該機構關注房東使用自動化工具篩選租客的情況，這可能導致黑人或西班牙裔申請人被排除在外。

四家機構週二聯合發佈聲明，概述了人工智能工具如何導致歧視性商業決策。

此外，拜登政府和國會議員正在考慮制定新的法律或法規來監管人工智能工具。

消費者金融保護局局長羅希特·喬普拉表示，新技術必須完全符合民權法。圖片來源：羅德·蘭基/祖瑪通訊社聯繫瑞安·特雷西，郵箱：[email protected]

本文發表於2023年4月26日印刷版，標題為《監管機構關注人工智能偏見風險》。