波士頓禁用人臉識別：該技術導致嚴重的種族歧視_風聞

波士頓也宣佈禁用人臉識別技術了。

6月24日，美國馬薩諸塞州的首府和最大城市波士頓的市議會以13票贊成、0票反對的結果通過了《波士頓禁止人臉監控技術條例（Ordinance Banning Face Surveillance Technology in Boston）》。

條例規定，波士頓市的任何市政機關和公務員均不得獲取、保留、擁有、使用人臉監控系統及通過此類系統獲得的信息，而且不能通過與第三方合作繞過條例。違反條例規定獲取的人臉監控數據將被視為違法數據，一經發現會被刪除。

市政府官員表示，波士頓警察局此前並未使用過該技術，但警局目前使用的一款名為BriefCam的視頻分析軟件，它的升級版確實有人臉識別功能。波士頓警方在市議會的工作會議上表示，他們不會註冊這部分軟件更新。

此次條例通過，等於從源頭掐滅該項技術在波士頓的使用。

目前，在禁用人臉識別的城市裏，波士頓城市規模排第二，僅次於舊金山。

而舊金山和波士頓，一個是推特、愛彼迎和優步的總部所在地；一個是哈佛、MIT等知名高校的所在地。都是充滿了科技活力的地區，為什麼會自己禁止人臉識別這種先進的人工智能相關技術？

反對者們提出了兩個原因：

第一，他們認為這項技術將威脅到公民權利，第二，他們認為面部識別技術存在缺陷，將導致嚴重的種族問題。

在種族抗議活動愈演愈烈的當下，第二條原因更為重要。

提出了該法案的波士頓市議員裏卡多·阿羅約（Ricardo Arroyo）與市議員吳弭（Michelle Wu）指出，這項技術對於有色人種來説是非常不準確的。

“它有明顯的種族偏見，這很危險，“阿羅約在聽證會前説。

法案中稱，“已有證據表明，人臉識別技術在識別非裔和亞裔人羣體時準確率更低。人臉識別監控中的種族偏見有可能傷害有色人種羣體，而有色人種本身就已經受到更多的監控和騷擾。”

在週三的會議上和投票前，吳弭表示，波士頓不應該使用種族歧視的技術。“我們正在努力結束系統性的種族主義，所以，結束對有色人種社區的過度監視需要成為其中的一部分。”

值得一提的是，吳弭是美籍華裔議員，父母從台灣移民至美國，她也是波士頓第一個當上市議員的亞裔女性。

紐約時報曾在一篇文章中提到，人臉識別在針對有色皮膚時錯誤率明顯增大。

MIT媒體實驗室（MIT Media Lab）研究員Joy Buolamwini與來自微軟的科學家Timnit Gebru合作的一篇研究論文《性別圖譜：商用性別分類技術中的種族準確率差異》（Gender Shades: Intersectional Accuracy Disparitiesin Commercia lGender Classification）中，作者將微軟、IBM和曠視科技三家人臉識別技術進行對比，結果顯示，AI應用人臉識別針對黑人女性的錯誤率高達21％－35％，而針對白人男性的錯誤率則低於1％，不同種族的準確率差異巨大。

紐約時報稱，該項研究也引發了關於“AI是否存在社會不公甚至種族歧視問題”的探討，但顯然並不是。膚色較深女性較難識別，除了天然人臉特徵更難提取之外，可供訓練的數據集較少也是影響因素之一。

文章表示，當下的人工智能是數據為王，數據的好壞和多少會影響AI的智能程度。因而，如果用來訓練AI模型的數據集中，白人男性的數據多於黑人女性，那麼系統對後者的識別能力就會不如前者。

現有的數據集中存在這一現象，比如根據另一項研究的發現，一個被廣泛使用的人臉識別數據集中，75%都是男性，同時80%是白人。

曠視回應表示，深色人種數據集比較難獲得，所以會差一些；另外，使用RGB攝像頭進行人臉識別時，深膚色人的人臉特徵比較難找，特別是在暗光條件下，這也是一方面的原因。

圖源紐約時報

也是因為如此，今年6月初，IBM致信美國國會議員，宣佈公司將退出通用的面部識別業務，並表示反對將這種技術用於大規模監控和種族定性分析。

在本月早些時候的聽證會上，波士頓警察局長威廉·格羅斯説，目前的技術並不可靠，而且該部門也沒有使用這項技術。

“在這項技術100%準確之前，我對它不感興趣，“他説。“我沒有忘記我是非洲裔美國人，我也會被誤認。“他補充道。

不過，波士頓的禁令並不會影響私人公司或聯邦機構（如FBI）使用該技術。

除了波士頓和舊金山外，馬薩諸塞州的其他五個社區——薩默維爾，布魯克林，北安普頓，斯普林菲爾德和劍橋也有此條禁令。美國公民自由聯盟馬薩諸塞州分會推動了這些地方的禁令，並正在遊説州立法者採取行動。

目前還沒有全州範圍內的禁令，不過一項暫停使用人臉識別系統的法案目前正在馬薩諸塞州聯合司法委員會待審。