倫敦警方人臉識別系統錯誤率或超80%,遭專家呼籲停用_風聞
中国人工智能学会-中国人工智能学会官方账号-CAAI2019-07-11 07:37
人臉識別技術在英國掀起巨大爭議。據英國衞報和天空新聞台報道,一份來自英國艾塞克斯大學的獨立報告顯示,倫敦警察廳通過面部識別技術鎖定的嫌疑犯中,竟有 81% 是無辜的,屬於完全的識別錯誤。
這意味着在很多情況下,不在警察通緝名單上的人,也可能被系統識別為嫌疑人通報給警方。報告結果不僅顯示出,系統的成功率低得讓人大跌眼鏡,更激起了部分專家對警方使用人臉識別技術的擔憂,呼籲停用該技術。在參照了多個案例後,報告在結論處指出,倫敦警察廳使用這項技術將可能是個非法行為。
(來源:天空新聞台)倫敦警察廳最早於 2016 年 8 月開始嘗試使用人臉識別技術,當時正值諾丁山狂歡節,倫敦警察廳藉助人臉識別來監控現場人羣。在那之後,這套人臉識別系統先後在 10 個地點開始了測試使用,其中包括萊斯特廣場、白廳等地。
而此次報告是倫敦警察廳提出需求,委託艾塞克斯大學調查人臉識別系統的準確性。為此,Pete Fussey 教授和 Daragh Murray 博士在所有測試地點中選取了 6 個作為樣本,以此估算系統的整體準確率。結果發現,在系統通報的 42 個嫌疑人目標中,只有8個是正確的,其餘的則是無辜者,莫名其妙地被識別為嫌疑人,以此計算,這套人臉識別系統的誤判率達到了 81%。而倫敦警察廳對這一結果似乎並不買賬。
事實上,在倫敦警察廳自己的統計結果中,系統識別的錯誤率僅有 0.1%。一名來自倫敦警察廳的官員表示,對此次報告中體現出來的負面、不公平的態度感到失望。“我們認為公眾肯定期待我們能夠使用更創新的方法來打擊犯罪,維護倫敦的安全。”
兩個統計結果天差地別,其中的重要原因在於,警方採取了一種非常奇特的統計方式:將成功與不成功的匹配數與系統運行的人臉總數進行對比,如此才得出了錯誤率為 0.1% 的
結果。
(來源:衞報)
強烈的反差再一次掀起了人們對人臉識別技術的合法性、必要性的探討。Pete Fussey 和 Daragh Murray 一致認為,倫敦警察廳使用面部識別缺乏明確的法律依據,同時也沒有考慮到這技術是否會侵犯公民的基本人權。“對此次使用面部識別技術的做法,我們在報告中對相關的基礎文件進行了詳細的分析,”Fussey 教授告訴天空新聞台,他指出倫敦警察廳的做法存在問題,若被告上法庭,倫敦警察廳將很有可能被裁定為非法。
兩名學者還指出了一個重要的操作問題:這麼做是否獲得受影響者的同意?他們認為,將帶有識別技術的攝像頭佈於公共區域,視頻下的每一個人其實都處於公開的監視之下。雖然警方的確在啓用前明確對外公佈了這一措施,但這同樣難以説明公眾同意被監視。
此外,他們警告稱這項技術還可能被濫用,即監控一些通緝名單以外的人,這也是許多英國民眾較為擔心的一點。前英國議會議員 David Davis 對此認為,這項研究表明,技術可能導致司法不公和非法逮捕,同時可能帶來大量的民主問題。“現在我們應該暫停這樣的實驗,直到我們能夠在這方面進行討論和建立相關的法律法規。”David Davis 呼籲,“要記住這些權利:結社自由和抗議自由,對於這些幾百年來我們享有的權利,在沒有充足的理由前,不應該被侵犯。”-End-
參考:https://news.sky.com/story/met-polices-facial-recognition-tech-has-81-error-rate-independent-report-says-11755941https://www.theguardian.com/technology/2019/jul/03/police-face-calls-to-end-use-of-facial-recognition-software