YouTube禁止哪些內容？難以控制的極右翼視頻 - 彭博社

照片：阿拉米與YouTube的許多同事不同，Tala Bardan並不將2017年6月的公司團建視為一個美好的長週末。YouTube的員工們住在洛杉磯市中心的威斯汀酒店，享受了一場私人 Snoop Dogg表演，並前往附近的哈利波特主題公園進行日遊。他們喝免費飲料。然而，當派對於那個星期五早上開始時，Bardan是約十幾名不走運的員工之一，被首席執行官 Susan Wojcicki帶到酒店地下室開了一個關於視頻網站與恐怖分子問題的發人深省的會議。

[摘自*點贊、評論、訂閲：YouTube混亂崛起的內幕*，作者Mark Bergen。來源：Mark Bergen](https://www.penguinrandomhouse.com/books/653248/like-comment-subscribe-by-mark-bergen/)對於恐怖分子的討論對於Bardan來説並不陌生，她在海外的一個相對初級職位上觀看阿拉伯語暴力視頻，這些視頻是YouTube部門篩選出的被歸類為“VE”的素材，公司用這個縮寫來表示暴力極端主義。在會議上，一位高級工程師解釋説，YouTube已決定嘗試從其網站上消除導致伊斯蘭國等組織崛起的整個意識形態。該公司將重新編碼YouTube的推廣算法，以淹沒“具有煽動性的宗教和至上主義內容”。政策人員將制定一個包含14位煽動性人物的名單，所有這些人都是穆斯林男性，無論他們發佈什麼內容都將被禁止。

Bardan的團隊立即被指派執行新規則，週末工作，而其他人都在聚會。一個隊友在凌晨2點被叫醒處理一個特別棘手的視頻，接聽電話時擠在酒店浴室裏，以避免喚醒與之同房的同事。

緊急情況的來源並不神秘。幾個月來，廣告商發現他們的商業廣告出現在伊斯蘭國盟友、新納粹分子和其他令人反感的視頻上後，他們一直在抵制該服務。前一週，三名伊斯蘭極端分子在倫敦橋上殺死了八人。事後的報道顯示，其中一名兇手從YouTube上觀看的有爭議的神職人員Ahmad Musa Jibril的視頻中獲得了靈感。

對YouTube母公司Alphabet Inc.的Google造成的 財務混亂嚴重到足以讓YouTube考慮結束那個曾經讓它成為互聯網巨頭的商業模式——與眾多視頻製作者分享廣告銷售收入。在廣告商抗議期間的某個時刻，員工警告在線創作者，YouTube可能只能在與建立媒體機構或唱片公司有關聯的頻道上播放廣告，實質上刪除了YouTube中的“你”。

“我們總是處於危機之中，” Wojcicki在那年的一次緊急會議上説。

巴爾丹在2017年的撤退時已經在YouTube工作了好幾年，並被教導了其言論理念：只要視頻不展示或煽動過度暴力，就讓視頻保留下來。“這是一個平台，”她被告知。“我們不對上面的內容負責。”

隨着YouTube成為互聯網上訪問量最大的網站之一，這種理念的侷限性變得顯而易見，根據對數十名現任和前任YouTube員工的採訪，該公司一直在努力調整。

在YouTube高層看來，2017年的會議被視為有效地從商業網絡上清除激進伊斯蘭教的第一步，並更認真地對待各種極端主義。廣告商迴歸，幫助將其業務從瀕臨崩潰的邊緣拉回。

但YouTube公司內部較低層次的員工並沒有將其視為一場勝利。在員工撤退後不久，白人民族主義者在弗吉尼亞州夏洛茨維爾發動了一場致命的暴亂，這是美國和國際上極右翼暴力增加的一個分水嶺時刻。一系列年輕的白人男子進行了種族主義襲擊，並附帶着他們在網上被激進化的經歷。

在撤退三年後，巴爾丹和幾位同事組織了一個演示，展示了YouTube上白人至上主義者的普遍存在，列舉了最近在新西蘭、威斯康星、南卡羅來納和德克薩斯發生的致命襲擊事件。YouTube花了多年時間制定處理暴力極端內容的方案。這些方案奏效了。那麼為什麼對這種威脅如此不情願使用呢？

右翼團體愛國者前線成員在2021年12月4日橫穿華盛頓特區的紀念橋。攝影師：Win McNamee/Getty ImagesYouTube的大部分標準內容長期以來一直是無害的、有用的，甚至是令人愉悦的——如何視頻、愚蠢小品和電視上找不到的珍貴素材。但該公司試圖將這種混亂塑造成一個功能性創意經濟的努力卻因一些人傾向於上傳黑暗或非法材料而變得複雜。確切的界限可能很難劃定。在早期，該公司為其版主撰寫了一本70頁的手冊，詳細介紹了處理穿着尿布的成年人或插入物品的描繪視頻的技巧。“憑你的判斷！”一張頁面建議道。手冊的另一部分要求刪除旨在“惡意傳播針對受保護羣體的仇恨”的內容。

制定對大肆行為的標準是極其困難的。有些視頻讚美骷髏測量學的智慧，或者宣揚種族主義陰謀論，以至於許多版主都看不懂。在一次會議上，YouTube政策律師詹妮弗·卡里科（Jennifer Carrico）在點擊了大量超現實的視頻後，大聲問道：“我們打開了什麼樣的潘多拉魔盒？”

政府官員有時要求刪除他們描述為極端分子或團體的視頻。YouTube發現大多數這類請求都是道德説教或幼稚，而公司的律師認為他們無法做出封鎖“恐怖分子”等主觀定義羣體的全面決定。

阿拉伯之春，當世界看到革命在YouTube和社交網絡上展開時，似乎證實了這種方法。YouTube的政策主管維多利亞·格蘭德在2014年的一次演講中説：“捍衞獲取信息的權利意味着直面那些試圖審查他們認為危險的觀念的政府和其他人。”

伊斯蘭國考驗了這種決心。隨着這個激進組織在伊拉克和敍利亞崛起，其成員開始在YouTube上上傳製作精良、影視化的宣傳片。2014年夏天的一段恐怖視頻顯示極端分子扣押了被俘的記者詹姆斯·弗利，在他被斬首前的片刻。視頻以對繼續進行更多殺戮的威脅結束。

這種內容對YouTube來説是一場噩夢。特別是在歐洲，政客們對該平台的壓力前所未有。當布魯塞爾的議員們召集谷歌參加一場關於極端主義的聽證會時，YouTube的人手如此稀缺，以至於在歐洲甚至沒有專門的政策官員。

YouTube儘可能迅速地清除了伊斯蘭國的視頻。沃吉奇基也認為可以用反恐敍事來對抗恐怖主義內容。YouTube的員工們圍繞着這個古老的法律格言： “陽光是最好的消毒劑。”

最終是廣告商的壓力，而不是政客，最終促使YouTube徹底改變了其方法。2017年2月9日，《泰晤士報》報道説，使用YouTube自動廣告系統的知名品牌“不知情地”贊助了“伊斯蘭極端分子、白人至上主義者和色情製作者”的視頻。已經在與谷歌談判的廣告商發起了一場持續的抵制。數月來，YouTube限制了任何與經過審查的工作室、網絡或唱片公司無關的頻道上的廣告——基本上是任何不在電視上的內容。情況變得如此嚴重，以至於YouTube不確定是否能夠再次與獨立創作者分享廣告收入。YouTube的一位主管傑米·拜恩告訴一羣知名的YouTube創作者：“一旦我們度過難關，情況將會好轉。但如果我們不能，你們知道——就完了。”

關於YouTube清除激進伊斯蘭主義的目標，幾乎沒有投訴；問題似乎主要出在它的執行方式上。“組織並沒有做好準備，”一位前員工回憶道，描述YouTube的管理部門為“一團糟”，充斥着管理不善和混亂。就在在威斯汀酒店的撤退之後，這位員工翻閲了最初的過濾代碼，發現其中包括阿拉伯語中的“真主”一詞，這可能會清除掉數百萬無辜視頻。

2018年，YouTube的銷售人員為熱門的中東頻道在齋月期間預訂了贊助商，一名員工將這個區域性的營銷季節描述為“相當於30倍的超級碗”。但當節日到來時，許多廣告卻不見了蹤影。看起來YouTube的審核人員和機器，被訓練成防止與極端主義有任何商業聯繫，卻笨拙地將廣告從幾乎任何帶有伊斯蘭意象或阿拉伯語的視頻中移除。

最終，YouTube解決了這些錯誤。醜聞變得更少。廣告銷售有所改善。Wojcicki創建了一個情報部門，專門發現令人擔憂的趨勢並將其從YouTube上清除。伊斯蘭國的視頻有效地消失了。

YouTube暴力極端主義專家巴爾丹在2019年3月15日一早醒來，得知一名澳大利亞男子在新西蘭基督城的清真寺和伊斯蘭中心開槍，奪走了51條生命。他在網上直播了他的謀殺行為，並將其記錄在一個身體攝像頭上。巴爾丹哭泣，擦乾眼淚，打開電腦，開始觀看恐怖分子的視頻。

槍手的文字、採訪和數字痕跡將揭示他對“大換代”理論的狂熱信仰，該理論認為非白人對西方文明構成種族滅絕威脅。“這個個人聲稱自己並不經常在極右翼網站上發表評論，”新西蘭政府在一份報告中總結道，“對他來説，YouTube是一個更重要的信息和靈感來源。” 槍手從YouTube上的教程學會了組裝他的槍支，他的直播也在那裏播出。

槍擊事件發生後，YouTube急忙刪除了視頻的殘留部分。但該平台被仇恨分子和噴子們洪水般地湧入了對這些謀殺的致敬。有一次，有人每秒鐘發佈了一份新的視頻副本。

“我們沒有足夠的審查員，”領導其情報部門的YouTube副總裁詹妮·奧康納(Jennie O’Connor)在一夜之間懇求道。一名高管後來表示，重新上傳的速度之快讓公司內部的一些人懷疑有國家行為者參與其中。 （YouTube發言人拒絕就此發表評論。） YouTube決定切斷所有與槍擊事件有關的上傳和搜索，這是該網站歷史上的首次。三個月後，YouTube修改了其仇恨言論規則，禁止視頻“聲稱某個羣體優越以此來辯解歧視、隔離或排斥。” 它禁止否認或美化“有充分證據證明的暴力事件”，如大屠殺或校園槍擊事件，以及由施暴者拍攝的致命材料。

這引起了一些波瀾，直到隨後的夏天，喬治·弗洛伊德被謀殺。2020年6月底，隨着美國席捲全國的種族正義抗議活動，YouTube清除了幾個具有煽動性的賬户，包括前龍騎士團領袖大衞·杜克和曾經收到基督城槍手捐款的視頻博主斯蒂芬·莫林尼克斯。 （莫林尼克斯後來表示他“立即譴責了新西蘭恐怖分子”，並辯稱他們沒有共同信仰。）

從外部看，YouTube似乎是在弗洛伊德被謀殺後才意識到這一點。但高管們堅稱，這只是前一年的仇恨言論更新生效，特別是因為頻道直到有多次違規行為才被關閉。“這通常需要時間，”副總裁奧康納説。“我們不會抬頭看一眼然後説，‘哦，YouTube上有仇恨言論。我們真的應該重視這個問題。’”

巴基斯坦卡拉奇的哀悼者為2019年基督城新西蘭清真寺槍擊案的受害者祈禱。攝影師：法裏德·汗/AP當YouTube在削弱伊斯蘭國恐怖分子的能力時，一些員工開始擔心該平台對其他形式的政治極端主義有多麼盲目。馬修·門格林克於2015年加入YouTube擔任工程副總裁，是科技領域中罕見的穆斯林。當他在網站上搜索“聖戰”一詞時，他發現幾乎沒有穆斯林極端分子，但卻有無數來自憤怒的茶黨信徒和直勾勾盯着你的視頻博主的視頻。許多受到YouTube廣告銷售推動的志同道合的頻道網絡，抓住了右翼對歐洲不斷增長的穆斯林移民人口的關注。在那附近有關於《大替換》理論的視頻討論。

門格林擔心YouTube的推薦引擎助長了這種惡語相向。 “任何暴露出偏見的東西—它會像沒商量一樣挖掘這種偏見，”他回憶道。 他建議重新調整代碼，降低那些接近仇恨言論規定線的視頻的排名，並通過推薦替代觀點來對抗批評穆斯林、黑人美國人或猶太人的視頻。 這樣的提議當時被認為是不合理的，不符合Google的風格。

杜克（左）在2020年被刪除的視頻中。門格林於2016年離開了公司。 YouTube在廣告抵制之後，開始採納他的建議，從推薦中刪除了數百萬個有爭議的視頻。 然而，其他人看到在接下來的幾年裏極端內容的惡性蔓延。 巴爾丹幫助組織的2020年的演示突顯了YouTube在內容管理上的雙重標準。 一張幻燈片展示了來自已知伊斯蘭恐怖組織或人物的剪輯截圖，其中包括古蘭經誦讀或對美國的譴責，這些在2017年的規則變更後允許YouTube將其歸類為極端內容。 所有這些視頻都被刪除了。

然後又出現了另一個極端的幻燈片。 它展示了一個來自雅利安國家的領袖的視頻佈道的縮略圖，以及“聯合右翼”夏洛茨維爾集會組織者傑森·凱斯勒在攝像機前討論“白人種族滅絕”的鏡頭。 這些視頻仍然在YouTube上。

從莫林尼克斯的YouTube頻道中剪輯的視頻，已被刪除。員工們認為，問題主要是官僚主義。YouTube有不同的團隊負責處理宗教極端主義（VE）的視頻，以及處理仇恨言論的團隊，白人至上主義者的視頻也被歸類在這裏。反對宗教極端主義的工作有更多的自由度和資源。一位曾在處理仇恨言論的同事向巴爾丹坦白，他們被大量材料淹沒，很少有時間處理被歸類為白人民族主義者的有爭議視頻。

巴爾丹工作的文件包括一系列建議，包括將來自白人民族主義者的內容視為暴力極端主義。到年底，她離開YouTube，從未得到領導層的直接回應。

當YouTube解決這個問題時，它的辯護詞與其他在線平台的説辭相似：處理伊斯蘭極端主義更容易，因為各國政府對定義達成一致；有註冊表和制裁。YouTube主要依賴於英美政府的被禁恐怖組織名單。“相對而言，這更簡單，”奧康納説。她補充説，沒有類似的東西適用於白人民族主義。

凱斯勒在2018年華盛頓特區的“聯合右翼2”集會上。攝影師：克雷格·哈德森/AP在唐納德·特朗普的總統競選活動和隨後的政府任期中，即使是主流政治言論也開始挑戰YouTube的內容準則。該如何處理一個總統曾稱墨西哥人為“強姦犯”，稱幾個國家為“屎坑國家”？特朗普及其盟友多年來還一直指責谷歌和硅谷存在自由主義偏見，這讓YouTube更難做出艱難的判斷。對於訴訟和圍繞社交媒體內容管理的新政府法規的呼籲也在增加。

尋找可用定義的人員在YouTube內部提議，建議將其政策基於南方貧困法律中心的分類，這是一家追蹤仇恨團體和意識形態的知名組織。但是，由於SPLC已成為傑出的特朗普對手，YouTube的領導人拒絕了這一提議，因為存在政治風險，根據兩位熟悉該決定的人士。一位前高管回憶説，SPLC在YouTube內部“變成了一個負面詞彙”。YouTube發言人表示，SPLC“並未被廣泛接受為仇恨團體的權威聲音。”

Susan Corke，SPLC情報項目的主任，負責追蹤極右翼，通過電子郵件表示，YouTube未能積極防止極端分子濫用其平台，對SPLC專業知識的貶低“再次顯示其對用户安全的承諾不足。”

如何標記仇恨和恐怖，以及如何處理這一困境，並非僅限於YouTube，甚至不僅限於互聯網。自2001年9月11日以來，許多政府已將更多資源投入到一種危險的意識形態之上。新西蘭對基督城槍擊的官方分析確定，該國的安全機構“幾乎完全”專注於伊斯蘭極端主義。報告得出結論稱，這種方法“並非基於對恐怖主義威脅的知情評估。”

在2019年，德克薩斯州埃爾帕索購物中心發生大規模槍擊事件，現場附近出現了一個臨時紀念碑。據信，嫌疑人在襲擊前在網上發佈了一個白人民族主義宣言。攝影師：約翰·洛克爾/APYouTube表示，它已大大改善了對各種極端主義的應對。它指出了明確的規則，禁止仇恨言論和宣揚暴力或針對受保護羣體的仇恨內容，並表示它減緩了接近違反其規則的視頻的傳播速度。它已開始刪除某些宣揚“大換人”理論的視頻。當人們今天在YouTube上搜索這個主題時，他們會在搜索結果的頂部找到一個關於這個主題的維基百科條目。

5月14日，一名種族主義槍手在水牛城一家超市殺害了10人，並在Twitch上進行了直播，這是亞馬遜公司旗下的一個YouTube競爭對手。，YouTube刪除了重新上傳的視頻如此迅速，以至於它們實際上不存在。

但這場悲劇也遵循了一個熟悉的模式。槍手發佈了一份在線宣言，其中大部分內容與基督城槍手的意識形態基本一致，公司的批評者稱其仍在幫助傳播這種意識形態。他還在YouTube上觀看了槍械教程。

谷歌繼續鼓勵可能引導易受極端主義信息影響的人們改變方向的內容。它與Define American合作，這是一個移民倡導非營利組織，在水牛城槍擊事件發生前一個月發佈了一份名為 大換人網絡的報告，分析了23個流行的YouTube視頻，被歸類為“反移民”。其中一些來自獨立YouTuber，但許多是由資金充裕的智庫（胡佛研究所）和流行的保守媒體（福克斯新聞）製作的。“這是極端主義，但包裝得感覺很主流，”Define American的數字敍事主任肖娜·西格爾科説。

她的團隊正在嘗試陽光照射的方法，贊助了今年夏天一個YouTube創作者的視頻 揭示了“大換代”理論的危險。這段視頻在第一個月就獲得了30萬次觀看。報告中被標記為“反移民”的YouTube視頻總觀看次數超過1億次，而且還在增加。閲讀下一篇文章： 真相社交存在內容審查問題