互聯網大廠的“鑑黃師”，看片看到集體工傷_風聞

身為全球頂流APP的臉書，怎麼就成了員工眼裏的**“非死不可”？**

最近，200名來自非洲國家肯尼亞的外包員工，起訴了臉書的母公司Meta，以及僱傭他們的外包公司，訴狀中涉及多項嚴重指控，包括故意精神傷害、不公平勞動合同、現代奴役以及非法裁員，總計索賠16億美元。

目前有相當多的國外媒體報道此事，《衞報》、《時代》都在追蹤，還有很多人權組織、勞工組織，也在關注這個案子。在他們眼中，這次審判的結果，很可能改變各大平台的運作模式，也會改變整個互聯網的生態。

衞報

原因很簡單，跟Meta鬧上法庭的這200個外包，做的是一項特殊又常見的工作，內容審核員，即中文互聯網上俗稱的“鑑黃師”。

01 臉書背後的“現代黑奴”

自2019年起，Meta通過一家肯尼亞外包公司，僱用了大量的當地員工，專門審核非洲區臉書用户發佈的內容，他們每天都需要接觸大量的不健康內容，仔細鑑別其是否符合平台規則，並將違規內容從平台上剔除。

如果我們將視角更微觀一些，會發現審核員這份工作更殘酷的細節。

根據涉事者的回憶，他們在招聘啓事上看到的工作內容，只有客服或者篩除虛假信息，當你真的去面試了，主管會要求你籤一份保****密協議，然後才説出實話，工作內容是幫臉書審核違規內容。

而審核員的入職培訓也非常離譜，就是一羣人站在大屏幕旁，集體觀看違規的內容，每播一條，就隨機抽個實習生出來，讓你一段段分析，圖片和視頻是哪裏有問題，具體違反了哪條規定。

有位女審核員清晰地記得，她抽中的是個**兇殺視頻，**她只能目不轉睛地看着屏幕裏，一個人拿着利刃，一下兩下三下，白刀子進紅刀子出，把另一個大活人直接捅死，血流了一地。

看得她渾身顫抖，還要強裝鎮定，跟主管分析視頻內容，在培訓結束後，她直接衝進廁所，關起門來痛哭。

另一位審核員抽中的則是**腐屍的照片，**具體畫面就不描述了，反正她經歷過培訓後，只要看到蜂窩狀的東西，或者什麼蠕動的蟲子，腸胃就會一陣翻滾，忍不住想要嘔吐。

還有個更倒黴的審核員，主管分給他的是**極端組織發的斬首視頻，**恐怖主義+血腥暴力，分析倒是不存在難度，但這是當眾考核，再加上非洲混亂的社會環境，讓這位仁兄換上了PTSD，下班出門都要擔心起恐怖分子跟蹤。

而他們的日常工作，就是類似場景的無限重演。

審核員需要維持平均每50秒審1條內容的速度，不管是文字、圖片，還是長短視頻，都需要快速看完並確定是否違規，否則用户就會因為發佈延遲而不滿。

他們每天還要工作8到12小時，達不到這個速度或者無法承受高強度勞動的人，會被公司迅速解僱。

久而久之，幾乎全部的審核員都受到了嚴重的心理創傷，起訴Meta的外包員工中，81%的人被醫院診斷出出嚴重或極其嚴重的創傷後應激障礙（PTSD），還有許多人表現出了廣泛性焦慮症（GAD）和重度抑鬱症（MDD）。

這種創傷是持續性且難以自愈的，哪怕他們離職，病情也沒有明顯好轉，其中有大約40人，因為過於痛苦，選擇了用酒精和管制藥物來麻痹自己，最終成癮，把人生搞得一團糟，甚至鬧到了妻離子散的地步。

這麼個讓人身心俱疲還可能影響一生的工作，臉書開多少買命錢呢？

答案是時薪1.46 美元，摺合人民幣就是10元。

一塊5090顯卡的價格，就能讓他們工作1370個小時了。這麼點錢根本無法彌補觀看大量不健康內容帶來的心理損傷。

兩年前，該外包公司終於有一位員工勇敢地拿起法律武器，要求Meta賠償身心損失，結果Meta立即指示外包公司開除了與他交往比較密切的幾位同事，此後又開掉了43名試圖建立工會和組織罷工的審核員，今年1月更是開啓大裁員模式，讓外包公司開掉了260個審核員，全都是Meta認為“不可靠”的。

其中有名領頭的審核員叫莫塔翁，他回憶道，當Meta知道審核員們準備聯合反抗之後，直接派了兩個管理層空降肯尼亞，現場指揮外包公司鎮壓他們。

這兩個美國人剛開始試圖通過私下給他漲一倍工資來收買莫塔翁，希望他拿錢之後不要再“搞事”，結果遭到拒絕，美國人馬上變臉，轉去威逼利誘其它員工，讓十幾個人投訴莫塔翁有職場欺凌、騷擾和脅迫的行為，以違反員工守則的理由開除了莫塔翁。

對於其它想反抗的員工，Meta也是這麼幹脆又直接，**年薪20萬美元、高高在上的美國管理層，**毫不掩飾地給這羣審核員撂狠話，“要麼脱離工會，要麼就等着被開”，“你不幹，有的是人幹”。

《Business inside》

確實有些人放棄了，他們擔心持續跟臉書對抗會失去收入來源，也擔心被打擊報復，以後在當地的互聯網行業再也找不到工作。

但也有一部分人，不願意看到臉書和外包公司如此壓榨員工，是要討回公道，於是就有了開頭那一幕，200名憤怒的審核員聯合人權組織，將Meta和外包公司給告了。

案件目前還在審理之中，但深陷輿論風波的Meta已經等不了了，趕緊出來回應。Meta認為這些指控並不成立，關於身心傷害，Meta堅持稱自己已經給審核員提供了必要的**“防護措施”，**對違規內容進行無害化處理，並且還要求外包提供心理健康諮詢。基於這一點的，時薪1.46 美元也是非常合理的，已經高於了肯尼亞的最低工資標準，你還要怎麼樣？

外包公司甚至辯解稱，60%到70%的審核員在接受這份工作前，都生活在貧困線以下，是自己帶領他們脱貧了，功德無量。

審核員們也迅速回擊，揭露了更多的真相。

臉書所謂“防護措施”，就是把簡單的圖片或者視頻變成黑白或者降低分辨率，畫面確實沒那麼刺激了，但你也根本看不清內容，就沒法做出判斷，一旦錯判就要扣工資，所以審核員們根本不會用防護措施，都是直接看原圖原片。

至於心理諮詢師，更是從沒見過。

不知道大家看到這種解釋怎麼想，反正連美國的媒體都看不下去了，紛紛站在審核員一邊，新聞標題寫滿了對Meta的嘲諷。《走進臉書的非洲血汗工廠》、《Meta如何剝削新時代的奴隸》……

《時代》

02 4萬臉書審核員，集體工傷

而這樣的互聯網血汗工廠，並不止一家。

根據《衞報》的統計，臉書在2016、2017年幾次因為不當內容引發爭議後，就大力擴充了審核員隊伍，多以勞務外包的形式存在，目前有多達40000名臉書審核員分佈於全球各地，管理來自不同大區、不同語言的內容。而臉書還僅僅是Meta旗下的平台之一，Meta又只是互聯網巨頭之一，可想而知，整個審核員的羣體是極為龐大的。

審核員們狀告Meta。2018年時，Meta就被迫支付**5200萬美元，與數千名在美國工作的臉書內容審核員達成和解。這些審核員的年薪僅為2.88萬美元，**遠低於當時美國平均水平的3.6萬美元，還不到Meta正式員工薪資的1/3。

但他們乾的是整個Meta最髒最累的活，和肯尼亞的同事一樣，天天盯着違規內容看，每天要審核數千個帖子內容才算達標。2019年，佛羅里達州一位審核員猝死在了工作崗位上，也喚醒了其他人的反抗意識，於是他們對Meta發起了集體訴訟，並獲得了賠償。

可能是經過這件事，臉書意識到了，在高薪資且法律完善的發達國家設置這種崗位，是非常不划算的，外包到欠發達國家才是性價比最高的選擇。

為了降低人力成本，也為了適應不同地區語言環境，Meta將大量的臉書審核崗外包到了有大量廉價勞動力的第三世界國家，像肯尼亞，審核員的薪資還不到美國外包崗1/8，四捨五入等於免費，Meta在菲律賓、印度也找了很多外包。其中印度外包公司的入職年薪為10萬盧比，差不多相當於1500美元，摺合成日薪也就每天6美元。

但他們每天需要工作8小時，而且是分早晚班的，公司必須7x24小時維持審核能力，每個班次要審閲超過2000個帖子，平均每分鐘大約4個。而Meta對於準確度的要求是**必須達到98%以上，**漏判錯判都要罰款。

而且印度分部腦洞清奇，直接讓員工分組審核特定內容，有的組專門鑑黃，有的組專門看兇殺，還有的組整天都在觀看自殺直播。

一部名叫**《網絡清道夫》**的紀錄片，則揭示了菲律賓分部的狀況，這裏的勞動強度更是喪心病狂，員工每天上班只有固定的兩次 15 分鐘休息和 30 分鐘的午餐時間，另外還有 9 分鐘所謂的“健康時間”，其餘時間全部要坐在電腦前審帖子。

他們的KPI指標，達到了驚人的每天2.5萬條帖子，審完才能走，而且每個月出錯不能超過三次，否則就會被開除，菲律賓審核員都無奈地自嘲，“感覺這瀏覽量可以申請吉尼斯紀錄了”。

《網絡清道夫》

不止是Meta，其它的互聯網企業也這麼幹。

像肯尼亞那家臉書的外包公司，它同時還跟谷歌和微軟以及亞馬遜合作，也是提供類似的廉價審核員服務。

TikTok也在北非和東非找了大量的外包，光摩洛哥審核中心就有1400名審核員，他們平均每小時要看200個短視頻，不過時薪好歹比臉書高點，“高達”3美元。

直播平台Bigo Live則選擇了巴基斯坦，巴鐵雖然窮，大學生倒不少，花點小錢就能讓桌子前坐滿有文化的審核員。

約會應用程序**GERDR，**在洪都拉斯找到了外包團隊，這裏是美洲最貧困的地方之一，2美元的時薪就能讓人賣命幹活。

過去我們説奴役、説剝削，可能腦海中浮現的是在棉花田裏勞作的黑奴，和奴隸主揚起的鞭子；後來畫面又變成了，在陰暗的工廠中，目光呆滯的工人像機器一樣重複着流水線組裝工作，或者神情麻木地操作着縫紉機，為有錢的消費者生產手機電腦、鞋服箱包。

網絡時代，剝削方式再一次升級了，巨頭們用極低的價格，僱一羣窮人吃掉互聯網陰暗角落的劇毒垃圾，讓其它用户能夠享受看似體面的環境。

03 為什麼不用 AI ？

可能很多人看完審核員所承受的折磨，可能內心有個疑問。為什麼不使用AI來替代人類審核 ？

首先有必要説明，審核員現在的龐大的工作量，已經是AI和自動化系統進行過濾之後的結果。

以臉書為例，用户們每天要上傳20億張圖片，平攤到4萬個審核員頭上，**每人每天要看5萬張圖，**就算是號稱“肝帝”的菲律賓分部，聽了都要罵娘。

更何況除了圖片之外，還有數以十億計的博文、評論，以及視頻和直播，都需要進行審核，還得保證審核時間不能太長，否則用户捉急，不可能全由審核員來管。

而全人類每天產生的數據，高達**5271億GB，**相當於數億個硬盤，而其中有相當大一部分是需要公開發布的，只要公開，就必然經過審核，如果只靠人工，那麼需要海量的勞動力來完成審核，對社會運轉都是巨大的負擔。

所以，目前互聯網企業普遍採用的是AI/自動化系統與人類審核員搭配工作的方式，具體企業的分配比例和搭配策略不盡相同，比較常見的模式是，AI先進行快速過濾，剔除掉可以完全確定違規的內容（尤其是即時通訊軟件），剩下的一小部分可疑內容，再交給審核員來做最終判斷；也有的公司讓AI自行對內容進行判斷，如果處理出現爭議，再由審核員來解決用户的申訴和舉報。

在頂流互聯網企業中，AI通常可以分攤掉超過90%的工作量，但剩下那一小部分內容，依然需要人類來看，不管哪家企業都做不到完全捨棄人工。

像臉書，在2018年因為種種醜聞被國會老爺拖去質詢時，就在聽證會上承諾，**會通過AI加強對內容的審核。這個AI項目甚至是由首席技術官邁克·施羅普弗直接領導的，有多達150人的核心團隊，實力非常強勁。但AI顯然沒有徹底解決問題，Meta依然要為臉書招募大量的審核員。最讓人哭笑不得的是，邁克·施羅普弗本人承受了巨大的壓力，並且也在工作中接觸了大量違規內容，心態直接爆炸，一聊起審核這事就哽咽含淚，還悲觀地稱“違規內容永遠都不可能降到零”，**直接幹廢了一個高管可還行。

還有個不信邪的案例，YouTube 搞出AI審核系統之後，就覺得自己牛了，直接炒掉了所有的審核員，省了10000人的勞務費。結果AI在接管YouTube的3個月時間內，直接下架了**1100萬個視頻，**什麼概念呢？在審核員的管理下，YouTube一個季度下架的視頻大約660萬，相當於AI直接多“殺”了一倍，這裏麪包含大量誤傷，直接導致用户和核心UP主不滿，**32萬個視頻被用户提出申訴。**其結果是，**YouTube不得不緊急返聘了自己開除的審核員，**求人家回來上班。

當然，國內企業也是差不多的情況，宣傳的時候，AI掃黃，1日處理10億張，審核員即將集體失業。

然後到招聘平台上一搜，月薪6K，急招高級審核員。

至少在目前而言，AI還只能頂半邊天，可以減輕審核員的負擔，但無法做到完全替代人類。

04 黑話的智慧

這倒不是説AI有多蠢，它的長處在於速度和效率，以及永不知疲倦的工作態度，光靠這幾點，還不足以對抗人類的最終武器——“想象力”。

2019年時，新西蘭發生了震驚全球的槍擊案，兇手衝進寺廟射殺了51人，並且全程通過臉書直播，網友也大肆傳播槍擊視頻，而當時臉書的AI系統對此毫無反應，甚至都沒有作為可疑對象上報給審核員，直到臉書得知發生槍擊，才開始開規模刪除。邁克·施羅普弗對此的解釋是，過往的槍擊案視頻，極少有第一視角的拍攝，AI還以為這是啥**FPS遊戲，**就直接開了綠燈。

從這件事你就能看出來，**身為人類的用户，可以不斷創造新類型違規內容，用新的手段去繞開規則，**一切都是在動態變化的。**而AI只能根據現有的經驗做出反應，不能獨立理解新的事物，也無法自己總結規律，**所以審核還是需要有人蔘與。

類似的例子其實非常非常多，在某些平台，你發的文字裏面如果帶有**“微信”會被系統自動屏蔽掉，於是用户們很快就學會了用“WX”來繞開規則，其它人看見這個縮寫，能夠很自然第想起實際要表達的內容，但對於AI來説就很迷惑，WX是什麼單詞麼？還是人名？AI並不會像人類那樣聯想到原本的詞彙去，需要審核員自己去發現這個規律，並且將經驗傳授給AI，它才能明白。等AI學會了屏蔽這個縮寫，人類用户又迅速改用“V”**來指代微信。

這還只是最最初級的變體表達，碰到更高級的黑話就更慘了。AI不可能自己想明白，**“啵啵間”代表直播間，“搞米”等於掙錢，它也不可能猜到，“全國可飛”説的並不是航班，“租車包日”**租的並不是車。就連電話號碼，都能搞出無數種花樣，大家能看出下面這一堆人名中藏着數字嗎？

圖片也是一樣，就拿站在對抗AI的第一線的福利姬們來説。最早的時候是把圖片旋轉倒置或者P成黑白的再發，AI就識別不出來了。這個方法被AI掌握之後，她們很快又想出了髮長圖的辦法，把大量無關的圖片和擦邊放在一起，做成一張長圖，可以迷惑AI。再後來，她們又學會了把圖片切成9張，粉絲在頁面上看正好是**完整的九宮格，還有人把擦邊圖融入GIF，**有些平台的AI只檢測GIF的第一幀，識別不了後面的擦邊。

説白了，內容審核是個魔高一尺道高一丈的過程，而AI本身沒有創造力和想象力，永遠都處於被動的一方。

另一個問題在於，哪怕是同樣的內容，AI和審核員也經常做出不同的判斷。

根據審核員的説法，臉書給他們培訓的時候，拿美萊村慘案當過教材，這是一場大屠殺，發生于越南戰爭期間，留下了大量的血腥照片，幾乎滿屏都是受害者遺體，按照AI的識別標準，肯定是要屏蔽掉的，但臉書卻教育審核員，類似的圖片不能刪除，**這是著名歷史事件照片，曾經產生過重大的社會影響，**刪除會讓別人認為臉書在掩蓋歷史。

同理，臉書的AI會過濾掉虐待、酷刑的圖片，但臉書要求審核員關注事件本身的性質，涉及政治議題的就不能輕易刪除，典型例子為關塔那摩監獄醜聞，這所監獄關押着美軍反恐行動的俘虜，被曝出大規模刑訊逼供，如果臉書屏蔽相關的圖片，會被認為“干預政治”。

哪怕是大家覺得非常簡單的審查色情內容，實際上AI和人也有很多分歧。AI的分析能力，能很清楚地知道你透了多少肉，有沒有露點。但露點不等於應該斃掉，臉書存在一個豁免規則，**允許母親發佈哺乳的照片，**以保障女性的權利。這就麻煩了，AI也搞不明白你到底是哺乳和色情，特別是一些哺乳照中幼兒並未面對鏡頭，很難識別，經常出現誤刪。

05 AI也要審核員

AI目前還無法完全取代審核員，未來會怎麼樣，咱們不好説，但可以確定，AI自己的進化也需要審核員幫助。

2023年初，大家熟悉的OpenAI，也被美媒曝出了**“黑奴”問題。**早期的ChatGPT 調用了數千億詞彙級別的互聯網數據庫，這些資料從各個網站抓取，本身就存在大量的不健康內容，吃這玩意長大的ChatGPT總是在會話時輸出不當內容，包括且不限於黃腔、暴力犯罪、性別歧視、種族歧視。為了解決合規性問題，OpenAI額外訓練了一個能夠識別有害內容的人工智能模型，並將其內置到ChatGPT之中，讓它自動將大模型中的有害數據清除掉。

那OpenAI是怎麼訓練的呢？答案是人力。他們去非洲的肯尼亞找了一批外包審核員，他們每天工作9個小時，需要閲讀並標註150到250 段OpenAI發來的文字，每段的長度從100個單詞到1000多個單詞不等，然後從中挑出違規的部分進行標註，以便AI進行學習，而這些審核員的時薪，只有可憐的2美元。

更離譜在於，OpenAI找的外包公司，跟Meta在肯尼亞找的居然是同一家，啊，又是你。

去年推出GPT4後，OpenAI一度對外宣稱，GPT4對規則的理解能力更強，已經擁有了取代人類審核員的能力。但大家一看GPT4針對內容審核的訓練模式，其實還是要人類介入，它只是跟政策專家做一樣的題目，如果兩者的判斷不一，政策專家就要求GPT4給出解釋。

然後一直迭代答案，直到GPT4給出正確的推理分析為止，這樣GPT4就能通過解釋對於規則的細節有着更深的瞭解，從而實現進化。

縱然擁有AI擁有龐大的數據量和強悍的算力，在這個的複雜世界中，跟多變的人心相比，它依然稚嫩得像個孩子。想要靠AI來替代審核員，就得先給AI找一堆審核員。

可能對於大廠的老闆來説，唯一的好消息就是，人力，有時候比科技更加廉價。