亞馬遜面部識別系統鬧烏龍，28名美國會議員被誤認成罪犯

【文/觀察者網 王愷雯】商業巨頭亞馬遜2016年推出圖像識別AI系統“Rekognition”，還積極向美國警方推銷以幫助其辦案。不過近日，“Rekognition”卻鬧了一個大烏龍：28名美國國會議員被它識別成了罪犯。

這一錯誤也讓發起這項測試、反對警方使用“Rekognition”的美國公民自由聯盟（ACLU）抓到把柄，他們表示，測試結果引起了民眾對警方使用該系統的嚴重擔憂。

被“Rekognition”誤識別成罪犯的28名議員  圖自ACLU網站

7月26日，ACLU在其網站披露：該組織對“Rekognition”進行了測試，結果系統錯誤地將28名國會議員識別為曾因犯罪而被捕的人員。

這些被誤認為是罪犯的議員來自美國各州，無論黨派。不過，女性只佔一人，有色人種佔40%，其中6人為黑人。

ACLU稱，他們使用的系統與亞馬遜向公眾提供的系統無異，整個測試花費了12.33美元（約合84元人民幣）

他們建立了一個擁有2.5萬張公開罪犯照片的數據庫，然後把國會參眾兩院所有現任議員的照片交給“Rekognition”處理，看2.5萬張照片中是否有照片與國會議員匹配，結果有28張匹配。

“Rekognition”操作步驟  圖自ACLU網站

“Rekognition”是亞馬遜在2016年推出的圖像識別AI系統，據亞馬遜官網介紹，“Rekognition” 能夠為用户提供的圖像和視頻提供高度準確的面部分析和麪部識別功能。用户可以檢測、分析和比較各種使用案例中的面孔，包括用户確認、人員計數和公共安全。

值得注意的是，**亞馬遜頗為積極地向美國司法部門和警方推銷“Rekognition”，此舉引發美國民眾強烈不滿，**認為這侵犯了人的隱私權，或會帶來歧視。

ACLU稱，被識別為罪犯的28名議員中，40%是有色人種，然而國會議員中有色人種的比例僅為20%。

這也證實了今年5月國會“黑人核心小組（Congressional Black Caucus）”給亞馬遜CEO傑夫·貝佐斯（Jeff Bezos）信中的擔憂：黑人、非法移民和抗議者可能會面臨監視。

亞馬遜CEO傑夫·貝佐斯  圖自CNBC

ACLU表示，如果執法部門使用“Rekognition”，不難想象警察會得到一個與罪犯“匹配”的人像，從而導致警察在執法前就對其產生“偏見”。

“無論準確與否**，這樣的識別都可能讓人們失去自由甚至生命**。****有色人種已經不成比例地受到警察的傷害，‘Rekognition’顯而易見會加劇這種情況……最近舊金山警察攔住一輛車，拷住一名黑人婦女強迫她跪在槍口下，就是因為自動車牌識別系統誤認為她的車是偷來的。”

該組織還稱，面部識別可能會威脅到美國憲法第一修正案所保護的行為，例如參與抗議活動或宗教活動；也可能讓移民受到美國政府進一步的虐待。

“這也正是為什麼亞馬遜員工、股東、近70個人權組織，超過400名學術界人士和超過15萬民眾已經站出來，要求亞馬遜停止向政府提供人臉識別監控的原因。”

ALCU最後呼籲國會認真對待這個問題，頒佈法案暫停使用面部識別執法，直到充分考慮其危害並採取有效措施來制止對民眾的威脅。

另據美國科技媒體網站“The Verge”報道，這次烏龍事件發生後，已有3名被誤認為罪犯的議員對此做出回應。

馬薩諸塞州參議員愛德華·馬基（Edward Markey）、伊利諾伊州眾議員路易斯·古蒂爾茲（Luis Gutiérrez）和加利福尼亞州眾議員馬克·索尼爾（Mark DeSaulnier）致信亞馬遜CEO貝佐斯，要求其提供使用“Rekognition”技術執法機構的完整名單，並詢問對13歲以下兒童的保護措施。

“人們對面部識別可能對隱私權和公民權利造成的危害表示嚴重關切，” 信中寫道，“尤其是當它被用作政府監視的工具時。”

本文系觀察者網獨家稿件，未經授權，不得轉載。