爭議中心的前警察與犯罪預測技術 - 彭博社

在卡姆登縣警察局的即時戰術行動情報中心，一名分析師正在檢查 incoming 數據，試圖預測警員應該部署到哪裏。

攝影師：米莎·弗裏德曼（Misha Friedman）為彭博社拍攝佈雷特·戈德斯坦（Brett Goldstein）喜歡講一個故事。故事開始於2010年的一個星期五晚上，他坐在芝加哥街頭一輛黑暗的皇冠維多利亞車裏，仔細研究地圖。戈德斯坦是芝加哥警察局的一名指揮官，負責一個小單位，利用數據分析預測某些類型的犯罪在任何時間可能發生的地點。當天早些時候，他的計算機模型預測某個南區街區暴力事件的概率增加。現在他和他的搭檔在那兒，戈德斯坦開始懷疑自己。

“看起來並不應該是槍擊的目標，”他回憶道。“房子看起來很好。所有東西都修剪得很好。你會期待，如果你在這個社區，你會尋找廢棄的建築，尋找賣毒品的人。我沒有看到這些。”

儘管如此，他們還是進行了監視。戈德斯坦的妻子剛剛生下他們的第二個孩子，他在辦公室忙碌了一天後感到疲憊。他開始打瞌睡。戈德斯坦的搭檔爭辯説數據一定是錯誤的。晚上11點，他們離開了。

幾個小時後，戈德斯坦被他的黑莓手機震動聲驚醒。發生了槍擊事件——就在他駐紮的街區。“這讓我印象深刻，因為我們認為我們不應該在那兒，但計算機認為我們應該在那兒，”戈德斯坦説。他將這次險些錯過的事件視為他對未來執法願景的證明。“我確實相信警察的直覺。但我也相信增強他或她的直覺，”他説。

戈德斯坦在2010年所佔據的芝加哥街區。攝影師：米莎·弗裏德曼，彭博社在南區的那個晚上七年後，戈德斯坦穿上了一套灰色西裝和一些空氣動力學太陽鏡，從曼哈頓中城的酒店出發，前往新澤西。今年春天，他創辦了CivicScape，一家向警察部門銷售犯罪預測軟件的科技公司。九個城市正在使用該軟件或正在實施中，其中包括全國35個最大城市中人口最多的四個城市。部門每年支付3萬美元在人口少於10萬的城市使用該軟件，而在超過100萬的城市則支付15.5萬美元。戈德斯坦想去看看兩個進展最遠的客户——新澤西州卡姆登和林登的警察部門。

戈德斯坦喜歡強調自己缺乏魅力，但他非常適合成為警察部門的推銷員。在芝加哥，他在七年的政府生涯中，從巡警升至城市首席數據官，並經常在與警察的對話中插入一些街頭的戰爭故事。他還在推銷每個部門如今都在追求的東西：技術的複雜性。刑事司法系統產生大量數據，而新的計算方法提供了將任何數字池轉化為有用信息的可能。如今，幾乎每個主要的警察部門都在使用或曾經使用某種形式的商業軟件來預測犯罪，無論是為了確定哪些街區需要加強警力，還是甚至預測哪些人最有可能捲入其中。技術正在改變警務的手段。

並不是每個人都在期待中摩拳擦掌。許多警察仍然將所謂的預測性警務軟件視為胡言亂語。執法之外的批評者認為這實際上是具有破壞性的。這些程序用來預測犯罪模式的歷史信息並不是客觀事實的中立敍述；它們反映了社會經濟差異和對黑人社區的強力執法。計算機科學家將預測性警務視為自動決策如何被濫用的典型案例。其他人則嘲笑它為偽科學。“製造無法解釋的‘威脅’評估的系統在憲法執法中沒有有效的立足之地，”包括美國公民自由聯盟、布倫南正義中心和民主與技術中心在內的民權和技術協會在去年夏天的一份聲明中寫道。

卡姆登警官維達爾·里維拉在他成長的社區巡邏。攝影師：米莎·弗裏德曼，彭博社過去幾年中警察槍擊事件的麻木進展提醒人們，當警察將某些社區視為不成比例的威脅時，所面臨的風險。在6月底的八天內，陪審團未能定罪在明尼蘇達州、俄亥俄州和威斯康星州殺害黑人男性的警官。在每個案件中，警官的辯護都依賴於他對危險的感知。使用預測性警務軟件的最壞情況是將警官部署到目標區域，保持警覺，導致他們在本應是例行接觸的情況下變得暴力。

金斯坦在新澤西訪問的警察部門在他最近的行程中並沒有對公平性提出任何質疑——但仍然存在懷疑。他剛開始與林登警察局的一羣高級官員交談時，負責該市採購流程的男子就坦言他對軟件供應商那些聽起來神奇的承諾感到非常謹慎。金斯坦點頭表示贊同。他説，當他還是警察時，最討厭聽“供應商的廢話”。金斯坦用一種唱歌的語調開始説：“哦，你們將擁有一輛飛行汽車，它會攔住人們，你們將成為超級警察！”他們會向你承諾任何事情。

“你所面臨的是警察與盜賊之間的感知棋局”

金斯坦的公司確實做出一個不尋常的承諾，他們認為這可以同時滿足執法和民權領域的懷疑者。其他為刑事司法環境開發預測軟件的公司出於競爭原因保密他們的算法。今年三月，CivicScape 在GitHub上發佈了他們的代碼，這是一個計算機程序員發佈和評論彼此作品的網站。這是一個前所未有的舉動，立即引起了關注警察科技行業的人的轟動。“他們正在做我多年來一直在呼喊的所有事情，”華盛頓特區大學法學院的教授、即將出版的書籍《大數據警務的崛起》的作者安德魯·弗格森説。

在網上發佈計算機代碼並不能消除對預測性警務的擔憂。人們仍然擔心CivicScape如何應對被認為的不足之處，還有一個大問題是警察部門如何利用它所產生的情報。但比起其他任何公司，CivicScape已經將自己轉變為一個測試案例，探討執法部門以透明和負責任的方式使用人工智能意味着什麼——以及這是否真的可能。

43歲的戈德斯坦並不是一開始就想當警察。他曾是在線餐廳預訂公司Open Table的信息技術總監，但在911事件後，他開始質疑這份工作的意義。2004年，戈德斯坦看到芝加哥警察局入學考試的廣告。“我想，‘參加警察考試有什麼壞處？我喜歡參加考試，’”他回憶道。戈德斯坦參加了考試，表現良好，並在2006年離開了Open Table。

在擔任了13個月的巡警後，戈德斯坦開始致力於開發計算機模型，以預測犯罪發生的地點。後來他被提升為指揮官，負責一個專注於這一策略的新單位。根據邁克爾·馬斯特斯的説法，該單位提供的情報遠遠超過之前使用的情報。馬斯特斯在警校時期首次遇見戈德斯坦，當時他是市長理查德·M·戴利的顧問，後來轉到警察局，現在在CivicScape工作。“我們遠遠領先於我們的時代，”馬斯特斯説。戈德斯坦恰好處於將技術融入日常警務工作的最佳位置。“你不會有那些曾經是警察、並且在警車裏工作的人來構建這些工具，”馬斯特斯説。

戈德斯坦在他的辦公室。攝影師：米莎·弗裏德曼為彭博社像任何在緩慢機構中快速上升的人一樣，戈德斯坦是一個極具爭議的人物。關於他在市政廳有一些家庭關係的傳言不斷，他在建立任何硬漢信譽方面遇到了困難——即使在他 逮捕了一名在戈德斯坦家人面前殺死一名男子的槍手 的休息日。長期的警官們同時認為，預測犯罪的廣泛模式很簡單，這些模式始終集中在城市的同一地區，但預測具體的犯罪行為卻是不可能的。在一個受歡迎的匿名博客“第二城市警察”上，戈德斯坦被稱為金童，他的單位被稱為水晶球單位。這兩者都不是讚美。戈德斯坦的批評者會幸災樂禍 當在他目標區域一街區外發生槍擊事件時，他們偶爾還會在總部當面責罵他。

戈德斯坦承認他未能贏得批評者的支持，他的單位在2011年部門負責人辭職時解散。他承認他從未想出一種嚴格的方法來測試他的技術對犯罪率的影響。戈德斯坦轉到市政廳，然後在2013年離開政府。從那時起，戈德斯坦經營了一家風險投資基金，擔任學術職位，並在“美國代碼”董事會任職，該非營利組織致力於幫助政府使用技術。隨着水晶球單位的解散，芝加哥辯論雙方的人們都退回到他們先入為主的觀念中。

卡姆登縣警察局的即時戰術操作情報中心是你對執法中技術感受的羅夏墨跡測試。RT-TOIC，如其所稱，是一個沒有窗户的房間，部門在此運行其技術倡議。當戈德斯坦本月訪問時，未來派的光澤因建築空調的故障而受到削弱——只有一堆全力運轉的地面風扇才能使其可居住。儘管如此，部門的領導層認為RT-TOIC代表了未來的警務，不僅在卡姆登，而是在任何地方。

大約有十幾個人在裏面工作，他們大多數坐在顯示四到六個電腦屏幕的工作站前。牆上顯示着地圖和監控攝像頭拍攝的畫面的大屏幕。分析師監控社交媒體，尋找提及已知犯罪的賬户。

卡姆登在三個月前將CivicScape整合進RT-TOIC。該公司的地圖始終在運行，每小時更新一次以反映最新數據。當目標變化時，分析師會將屏幕切換到指向那些街區的監控攝像頭。警員將RT-TOIC中發生的事情傳達給街上的警察。巡邏車裏的傢伙們不知道命令是源於某種新奇的數學、上級官員的判斷，還是兩者的混合。凱瑞·耶里科，部門的刑事情報與分析主任表示，這種模糊性是故意的。

卡姆登的傑里米·梅克中尉。攝影師：Misha Friedman 為彭博社在戈德斯坦訪問的那天，耶里科和值班指揮官傑里米·梅克中尉正在討論一個 CivicScape 標記的區域。梅克立即認出了這個區域——他的警員們曾説那裏毒販的活動正在加劇。他們已經部署了額外的警員。

耶里科和梅克都不知道部門的計算機和人類是如何聚焦到同一個地點的。CivicScape 預測系統的核心是一系列神經網絡。神經網絡之所以得名，是因為它們的設計模仿了人腦中神經元的結構，能夠檢查標記了輸入和結果的大數據集。然後，它們確定可以用來預測在面對新數據時會發生什麼的模式。在 CivicScape 的案例中，輸入是客户提供的歷史數據集，結果是過去的犯罪記錄。

神經網絡受到處理巨大數據集的計算機科學家的青睞，但它們的一個缺點是其不透明性。與人類有意識地告訴系統每個因素該考慮什麼的算法不同，神經網絡會找到自己的路徑，無法有效地向人類解釋它們所做的事情。這可能使 CivicScape 的透明度比其他使用不同類型算法的預測警務軟件更低。

卡姆登的警察局長斯科特·湯普森表示，他沒有聽到關於透明度的任何批評。就其本身而言，CivicScape 表示其開放性來自於邀請討論其模型使用的 數據類型。例如，該公司決定完全不使用大麻持有的逮捕記錄，因為廣泛的研究顯示這些逮捕存在種族差異。

Kristian Lum 和 William Isaac，研究人員，他們為人權數據分析小組編寫了自己的統計模型，展示了偏見在預測性警務中的運作方式，他們檢查了代碼。他們都將 CivicScape 的舉動描述為積極，但在看到公司如何落實之前，保留了讚美。

Isaac 説，CivicScape 的代碼庫一個顯著的缺陷是，它發佈了通用代碼，而實際上它為每個單獨的客户調整其系統。警察部門通常抵制發佈法律未強制要求公開的數據，Goldstein 承認他的客户不會允許他分享一些他用來生成預測的數據。沒有訪問代碼的最終版本或完整的數據集，觀察者很難評估算法的作用。

“我認為這是警察部門和公眾之間的一個妥協，”Goldstein 説。“我寧願採取這一步並向前推進，而不是因為我們知道存在缺陷而不採取任何步驟。”Isaac 説，CivicScape 並不完全控制其系統的運作，但 Goldstein 的態度説明了公司和政府機構對預測技術的有問題的處理方式。Goldstein 正確地指出，保密已被確立為基線，然後要求對他在另一個方向採取的任何步驟給予認可。“這應該由他來決定嗎？”Isaac 説。“我認為這是一種虛假的選擇。”

林登，像許多CivicScape的客户一樣，是一個正在經歷轉型的小部門。其首席，喬納森·帕哈姆，2016年底上任，此前該部門因一名警官在斯塔滕島一家脱衣舞俱樂部度過醉酒夜晚後導致致命車禍而籠罩在陰雲之中。帕哈姆是林登的終身居民，擁有25年的警察經驗，也是該部門首位非裔美國人首席。他還認為，警察部門過於強調逮捕人。

帕哈姆表示，他將預測性警務視為抵消人才流失的一種方式。部門缺乏經驗使林登的警員對其社區缺乏基本瞭解。“我們正在關注對你所在地區的個人知識的缺失，並用犯罪頻率的技術知識來補充，”帕哈姆説。

這是增加計算機的一個常見論點。卡姆登的部門也提到了類似的需求。所有的攝像頭、社交媒體分析和自動預測都旨在幫助部門在最少的警員下覆蓋更多的區域。

里維拉佩戴着他的身體攝像頭，記錄視頻和音頻。攝影師：米莎·弗裏德曼，彭博社對艾薩克來説，這是一種短視的刑事司法方法。即使是每小時更新目標區域的行為也會扭曲情況，因為它忽視了在接下來的60分鐘內無法由警察執行的任何潛在服務。將預測技術限制為警察用來抓捕所謂壞人的工具，削弱了其潛在優勢。“你所剩下的只是警察與強盜之間的感知棋局，”艾薩克説。“這是一種非常簡單化的犯罪真實情況的版本。”

帕哈姆提出了類似的觀點。他認為，林登警察局能做的最糟糕的事情就是相信戈爾德斯坦真的擁有神秘的數學，可以讓警員在槍擊事件即將發生時準確到達特定地點。在與戈爾德斯坦的會議上，他告訴部門的高層，必須避免將執法變成視頻遊戲。

帕哈姆回憶起他參與的一次訓練演習。警員們被派往一個火車站，要求採訪站內的人，把他們視為不僅僅是潛在的犯罪嫌疑人。10分鐘後，每位警員會寫下他所學到的內容。獲勝者是提供最有用信息的人。

帕哈姆説，記錄逮捕人數最多的警員表現總是最差。如果執法只是從計算機接收目標然後攻擊目標，那麼計算機模型的精確度就無關緊要。帕哈姆的工作是培養在火車站演習中表現更好的警員。“我們的警員，越是技術嫺熟，他們就越不具有人性，”帕哈姆説。“我不想要那樣。”