如果 AI 和算法無罪，那麼誰在殺死窮人？_風聞

我們浸淫在互聯網編織的虛擬時間中，每天都耗費着大量時間接收算法推薦的內容。消磨時間的快感掩蓋了其後的暴力——“生命的計量化”，每個人不再被當成活生生的人，而是大數據中的一個數據，可被監控，可被操縱。此類隱性的暴力曾見於服務經濟規劃的人口統計 、醫學實驗中的風險概率等等。結果是，“互聯網的民主化承諾”還未兑現，算法已成了便於政府調控的重要工具。當數字智能被運用在福利系統時，窮人的日子反而越過越糟。《衞報》針對這一問題做了一組系列報道，今天單讀翻譯了其中作為總論的文章。就算我們當下無法採取切實的行動，至少可以警惕這個日漸擴散的惡託邦。

如果 AI 和算法無罪，那麼誰在殺死窮人？

撰文：沈律君

社會學家齊格蒙·鮑曼在《現代性與大屠殺》中，呈現了科學的理性計算精神、技術的道德中立地位與社會管理的工程化如何共同合謀，讓納粹針對猶太人的大屠殺得以非常順利地進行。

今天，鮑曼筆下的“現代性”正在完成從工業化向電子化的轉向：電子計算機編程、算法、AI 技術，在數碼的世界裏，程序員和工程師當然繼續弘揚着理性和專業性，更有“絕對客觀”的人工智能接替了工業化時代整個龐大組織結構裏，那些中下層人員的工作。

▲齊格蒙特·鮑曼（Zygmunt Bauman，1925 年—2017 年 1 月 9 日），波蘭社會學家，生前任英國利茲大學和波蘭華沙大學社會學教授

在單讀編譯的這篇文章中，我們可以看到，儘管我們對法西斯和猶太大屠殺的反思已經足夠豐富， 但是對於催生這一慘劇的現代性而言，我們並沒有吃一塹長一智。數碼革命的新技術造成的問題，依然是現代性的問題。只是從前，在每一個環節執行具體工作的是一個個人類個體，他們每個人可以檢視自己的道德。但現在一切正變得更隱形，畢竟我們看不見存在於虛空的 AI ，而道德也止步於算法。

2016 年的金棕櫚電影《我是布萊克》同樣揭露了這個問題。

人近暮年的鰥夫布萊克，居住在英國的小城裏。他無依無靠，靠體力工作維生，卻在某一天，突然查出了心臟病。他已經喪失了工作能力，甚至有生命危險，卻被政府認證還有工作能力，這導致他的殘疾救濟金被取消。憤怒之下，他申請上訴，卻發現自己陷入了英國福利制度的怪圈中——沒有工作也沒有存款的他只能先申請失業救濟，但是這個申請必須證明他有工作能力。等他千辛萬苦證明了有人願意僱用他的時候，他又面臨上訴的失敗——申請殘疾救濟必須證明自己不能工作而且必須會操作電腦……最後，沒有得到任何救濟的他憤而死去。

 ▲電影《我是布萊克》劇照

時至今日，這個故事不再是寓言或誇大，《數字惡託邦》這篇文章揭示了，智能算法如何讓一個更晦暗的未來加速到來。

今天如果我們還在依照 90 年代好萊塢電影來想象一個電子數碼的惡託邦未免太過過時。AI 不會統治人類，至少在最有可能的那個未來不會。恐怖的其實是人類使用 AI，就像曾經使用僱員、動員冗雜的官僚機構一樣。人們以冠冕堂皇的名義——提高管理水平、更高效、更公平（因為機器剔除了感情），讓人工智能替代人類工作，他們以為這樣可以做到絕對理性，就像納粹帝國運轉順暢高效的國家機器那樣。

大屠殺中的每一環節的每一個人都不用為暴行負責，畢竟我只是按動一個按鈕，簽署一個文件，完成一個評估，製造一個商品。而現在，我們甚至連“人”的環節都沒有了。做決策的官員們和寫代碼的工程師，他們是兇手嗎？他們不是嗎？那麼誰是？

這才是一個數字智能的未來真正恐怖之處。

**數字惡託邦：**計算機算法怎麼讓窮人遭殃？

撰文：Ed Pilkington

翻譯：沈律君

在這一全球獨家報道中，《衞報》揭露了一場技術革命，它正在改變全球福利體系，同時也將最弱勢的羣體置於了不利之地。

——埃德·皮爾金頓（Ed Pilkington）於 紐約

從美國的伊利諾伊州到英格蘭的羅奇代爾，從澳大利亞的帕斯到印度北部的敦卡，在政府如何對待窮人這件事情上，整個世界都在發生着一場技術革命。

你看不到它的發生，你可能壓根也沒聽説過。因為它正由關起門來的工程師和程序員制定施行着，躲在安全的政府場所裏，遠離公共視野。

人工智能（AI）、預測算法、風險建模和生物識別技術，是它們驅動了這場鉅變。雖然説，這其中的全部內容，只有數學家和計算機科學家才能徹底理解，但如果你是數以百萬計弱勢羣體中的一員，是這場社會福利制度徹底變革中的接受者、最後一環，你就會知道這場鉅變是多麼真實不虛。它的後果可以很嚴重，甚至可能嚴重得“要命”。

​《衞報》在過去三個月一直在調查，數十億美元是如何投入到了 AI 的研發革新中。這一創新爆炸性地重塑了低收入人羣和國家之間的互動。我們在美國、英國、印度和澳大利亞的記者共同探討了“數字福利國家”的誕生。

這一系列報道披露出了諸如失業救濟金、子女撫養費、住房和食品補貼以及更多其他信息是如何在網上被攪亂的。在“智能扶貧”項目上，發達國家和發展中國家無不花費鉅額資金。在這一進程中，它們把弱勢公民的真實需求轉換成了數字，把曾經屬於社會工作者的判斷工作交給了冷酷無情的機器。

這一系列報道披露出了諸如失業救濟金、子女撫養費、住房和食品補貼以及更多其他信息是如何在網上被攪亂的。在“智能扶貧”項目上，發達國家和發展中國家無不花費鉅額資金。在這一進程中，它們把弱勢公民的真實需求轉換成了數字，把曾經屬於社會工作者的判斷工作交給了冷酷無情的機器。

最可怕的是，《衞報》的記者們勾畫的了一副 21 世紀狄更斯式的反烏托邦圖景，而今這一圖景正在以驚人的速度成形。美國政治學家弗吉尼亞·尤班克斯（Virginia Eubanks）對此有言：“數據聽政府的話，而你會聽到政府誇下海口，告訴你他們是如何用新技術把扶貧變成了一項高尚善良的事業。他們將加快福利金支付，提高效率和透明度，減少浪費，為納税人省錢，消除人為的失誤和偏見，並確保有限的資源能夠滿足最需要的人。但是，這些承諾常常落空。”

▲美國政治學家弗吉尼亞·尤班克斯（Virginia Eubanks）

現如今，財政緊縮政策主導着政治格局，數百萬人的補助救濟金已經被計算機程序大幅度削減甚至終結。這一過程在以一種幾乎沒有人能理解，更沒法去控制的方式進行着。各種失誤、錯誤成為通病，沒有明確的路徑能讓其中的受害者們尋求補償。

本週，“智能扶貧”將被帶上世界的舞台。作為聯合國針對極端貧困的監察員，人權律師菲利普·阿爾斯頓（Philip Alston）將向紐約聯合國大會提交一份開創性的報告。這份報告敲響了警鐘，呼籲人們在數字化社會狂潮中保護人權。

奧爾斯頓的分析一部分基於他就英美兩國的貧困狀況在聯合國所做的官方調研，一部分來自各國政府、各人權組織以及 34 國專家們的觀點和報告。而他的分析很有可能將提供一個簡潔明確的指向，告訴我們這個世界身處何處，又將走向何方。對住在快速擴張的“數碼救濟院”裏的人而言，奧爾斯頓的報告或可有助於解決那些發生在他們身上的騷擾、針對和懲罰。

▲聯合國人權理事會極端貧困與人權問題特別報告員菲利普·阿爾斯頓（Philip Alston）

在伊利諾伊州，《衞報》發現州政府和聯邦政府已聯起手來，要求社會福利受濟者償還以前政府發放的 “超額支付”。在某些情況下，這個“超額”時間長達 30 年。這種“殭屍債務”系統通過數碼技術加持，變成了真正的“殺人武器”。在社會最弱勢羣體那兒，它喚起了恐懼，加深了困境。

就像一個受濟者説的：“你欠的是已經吃了的虧。”

在英國，我們對紐卡斯爾郊外的政府安全機構進行了調查，發現那裏正在花費數百萬美元研發新一代的福利機器人來替代人類。私人企業，包括一個由全球首位機器人億萬富翁領導的紐約公司，它們正在加速這一過程。這催生了新的行業術語：“虛擬勞動力”，“強決策力”，“機器人流程自動化”。

儘管“默認數字化”議程已經把痛苦強加在了數百萬低收入英國人的身上，但政府仍在繼續執行其數字化的使命。社保申領人談到了他們正在忍受的飢餓，污穢，恐懼和驚慌。

在澳大利亞，《衞報》廣泛報道了所謂的“機器人催債”，這一計劃被指責使用了一種有瑕疵的算法來向福利受濟者錯誤追索歷史債務。我們現在可以披露，澳大利亞政府已經開啓了一條新的“數字戰線”，他們將使用數字自動化的方式來暫停數百萬的福利金支付。在沒有任何通知的情況下，受濟者正在發覺——他們的福利金被停了。

▲澳大利亞聯邦政府負責提供和協調社會保障的centrelink部門，推出“機器人催債”計劃向福利受濟者發送賬單

最令人不安的消息來自印度的敦卡。在全球最大的生物特徵識別實驗中，印度政府向所有居民發放了共有 12 位數的唯一識別碼。這就是 Aadhaar。在這裏我們瞭解到，Aadhaar 給當地家庭造成了多麼可怕的人為影響。

由於作為 Aadhaar 登入驗證的指紋信息因電腦故障而未能被識別，莫卡·曼吉（Motka Manjhi）最終付出了慘痛的代價。他賴以為生的每日口糧被斷了，因為不進食，他變得十分瘦弱。5 月 22 日，他暈倒在屋外而死，他的家人確信他死於飢餓。

無論是發展中國家還是發達國家，無論是東方還是西方，《衞報》的調查揭示了這些基於算法構築的新體系——它們的共同特徵。最顯見的相似之處在於，所有這一切都以閃電般的速度發生，在幾乎沒有公共討論與問責的情況下，高新技術已然近乎席捲了包括社會服務、勞動、殘障和衞生在內的各個領域。

在這場鉅變中，福利國家的人文要素正在被稀釋。曾經，社會工作者與你交談，親自評估你的自身需求。如今，你得轉入線上模式，預測分析法會給你做未來風險評分，而算法將決定你的命運。

在這個新世界中，不平等和歧視可能會根深蒂固。英國有五百萬成年人，他們沒有定期訪問互聯網，只有很少或幾乎沒有計算機知識，如果你是他們中的一員，你該怎麼辦？如果所謂算法，實則是在對種族和階級的現有扭曲中孕育而生，如果它只會讓貧窮與富有、白人與黑人、高知與勞工之間的鴻溝更大更深，我們又該怎麼辦？

一種令人不寒而慄的卡夫卡《城堡》式氛圍瀰漫全球。就像莫卡·曼吉死去的悲劇所顯示的那樣，大錯已經鑄成，機器已經失靈，如果在“城堡”中的他們，沒一個真正把你當成“人”來對待，而全都只是把你看做一串有待處理的 12 位的數字，那最終的結果可能是致命的。