社交網絡的暗面：仇恨言論的“魔道之戰”_風聞

這年頭但凡接觸過網絡，一定近距離感受過仇恨言論的力量。

無論是跑到別人評論區下面謾罵的個人暴力，還是發泄對政府、社會不滿的吐槽，亦或是帶有歧視排外極端色彩的危險發言，反正總有一款網友教你做人。

網絡“仇恨值”近年來已經已經發酵到了“難承其重”的程度，成為不少全球惡性恐怖事件的源頭。

大家想必都聽説了，就在8月3日，美國一天時間內留髮生了兩起公共傷害事件，造成30多人死亡。加上今年3月的新西蘭清真寺事件， 4月份以的美國加州猶太教堂事件，這些兇手被發現都是種族歧視的捍衞者，動手之前都曾在網絡上分享過自己的行程與仇恨理念，這顯然不是巧合。

一場全社會與仇恨言論之間的戰鬥正在展開，但成果遠沒有我們想象中那樣卓有成效。

一場抵禦仇恨的全民戰爭

“仇恨”，似乎是一個離普通人生活很遙遠的事情，不幸的是，它正在變得越來越接地氣。

2003年，盧旺達國際刑事法庭審理的“仇恨媒體案”，對兩名散播仇恨言論的前媒體負責人分別判處了終身監禁和35年監禁的刑罰，這是國際法庭首次對媒體進行仇恨言論的限制。

但這種規制很快在互聯網的沖刷下成了過去時，人們往常理解的“仇恨”也逐漸發生變化：

首先是言論主體變了。起初，利用網絡傳播仇恨言論的活動者，大多是一部分極端主義者，隨着所有智能手機用户都開始參與社交網絡討論，助長了仇恨言論的擴散，直接導致相關羣體迅速壯大。

（8月3日美國德州街頭慘案現場，人們在尋找親人）

其次是攻擊範圍變得更廣。二戰後歐洲國家出於抑制種族和宗教仇恨等原因開始對仇恨言論進行立法規制，但在網絡環境下，仇恨言論的議題正在變得越來越廣泛。對外來者、難民、窮人的抵制，對其他種族、性別、地域羣體的歧視，這些“抱怨”和侮辱性語言，看上去似乎並不能產生即時性的危害，卻讓極端的仇恨犯罪行為變得更加隱蔽，令監管喪失警惕。

社交鏈的加強也變相推動了事實性犯罪的增加。仇恨泛化的大背景下， 一些極端主義者更容易通過社交網絡獲得支持。現實中互不相識的極端分子正在網上尋找彼此，並試圖“一起”發動襲擊，製造疊加的恐怖主義事件。比如8月3日美國慘案的兇手克魯修斯，案發之後就得到了8chan網絡社區用户的大量討論和普遍讚揚，這種社區氛圍更容易激勵其他人犯罪。

（白人極端主義造成的案件，是最具殺傷力的事件之一）

累覺不愛的同時，大家可能會疑惑，在這場“仇恨抵禦戰”中，政府和互聯網巨頭們都扮演了什麼樣的角色，為什麼沒有拿出行而有效的治理手段。

政府+巨頭的陽謀，以及小眾網站的暗面

公平地説，在控制網絡仇恨言論這件事上，各國政府與科技巨頭們前所未有地統一戰線和團結。

2016年5月，歐盟委員會宣佈與Facebook、Twitter、YouTube和微軟就控制網絡不法仇恨言論展開合作，互聯網巨頭們集體簽署了一項行為準則，承諾“接到舉報後24小時內屏蔽和刪除相關仇恨言論”。

2018年，監管再次加碼，沒在規定時間內下架相關內容，將面臨高達5000萬歐元的罰款，平台們還必須每六個月上報一次自己對違法內容的處理結果。

而各大平台也表示出了高度的配合，甚至到了捨生忘死的程度。比如Facebook 和 Twitter 對 ISIS 的極端言論採取了嚴厲的封殺態度，還一度引發了恐怖分子的不滿，在網站上發佈恐嚇視頻，展示了一張扎克伯格與傑克多西（Twitter 創始人）中彈的照片進行威脅。

報告顯示，Facebook在2018年7月至9月期間刪除了約290萬條仇恨言論，去年一舉封禁了259個涉嫌發佈和傳播支持恐怖分子材料的賬號。藉助機器學習，YouTube上超過95％的仇恨內容能在24小時內被屏蔽。

既然政府機構打擊態度很強硬，平台們也拿出了“一生懸命”般的魄力在治理，為什麼近年來仇恨言論誘發的暴力事件依然屢禁不止呢？原因總結起來大概有四點：

第一，關於“仇恨言論”目前尚未有權威的定義，這就造成了不同國家、不同公司、不同機構在執行審查時，缺乏一個統一的信息評價標準去有效認定非法信息，難以把握分寸，讓治理措施充滿了不確定性，且缺乏預見性，直接影響處罰效果。比如歐洲人權法院與網絡言論有關的三起案件中，對可以明確定義為仇恨言論的網站經營者進行了追責，而對具有侮辱、誹謗性質的攻擊性語言並沒有進行處罰。

第二，仇恨言論與表達自由之間的衝突仍未解決。言論自由已經成為根深蒂固的社會文化，這就導致輿論導向容易“慕虛名而處實禍”。單純以立法的手段來管理，會直接遭遇多樣化的阻礙而阻礙治理的推進。此前美國對網絡管理的一些立法就多次受到社會團體的否定，最終被法院裁決為違憲。

第三，監督仇恨言論的公共性質與網絡市場化的博弈。一些西方發達國家更傾向於通過市場調節和行業自律來對網絡進行監管，但互聯網的商業化運作對市場的依賴性很強，運營商逐利的天性決定了其不可能真正從社會公眾利益的角度來規範管理，所以客觀上就導致了行業自律行為比較脆弱。

舉個例子，德國司法部曾給Facebook開出200萬歐元的罰單，原因是對涉及仇恨言論的內容，Facebook提供的舉報入口不如其他準則清晰。再比如，埃爾帕索案發生後， 8chan創辦者佈雷南要求現任管理者華特金斯父子與CDN 提供商Cloudflare關停網站，但這二位都拒絕了這種呼籲。

（8chan 的創造者Fredrick Brennan，是一名脆骨症患者）

第四，小眾網站的崛起與暗面。

Facebook和Twitter等大型網站，在刪除危險內容方面更加積極主動，使其社交生態不太適合恐怖分子，而無障礙的交流才是社交的第一要義，於是，諸如8chan之類的小眾網站就有了機會。

用户活躍與廣告分發是小站生存的根源，因此平台有時會刻意放縱審查，比如8chan就把自己當作言論自由的烏托邦，任何發言都會受到歡迎，不管它有多毒，平台都幾乎完全無動於衷。另外小站的人員不足，社區運營能力也比較弱，也無力對UGC內容進行嚴格的監管。

在反誹謗聯盟（anti-defamation league）的CEO喬納森格林布拉特看來，“最壞的罪犯會在那裏分享他們的可怕想法，這些思想被放大和擴展，最終，人們被激化”，誘發更多的大規模傷害事件。8chan也正如網站主題所顯示的那般，成為“互聯網最黑暗的地方”。

這種現狀還有可能改變嗎？

告別烏托邦：欠發達國家的內容監管之路

對比之下我們發現，一些亞洲和欠發達國家，總體市場化的程度不高，但極少爆發出類似仇恨言論的惡性事件。

原因之一，是許多亞洲國家傳統文化中一直強調集體利益和公眾原則，所以在互聯網的管理上，在保護用户權利的同時也非常強調公共利益，更加註重藉助政府的行政效力，通過各類剛性措施來保證互聯網的規範化運轉，這就解決了網絡仇恨言論“該不該管”的問題。

其二，一般情況下，多數國家的網絡內容審查都採取的是“事後追懲”模式，也就是在違法行為發生以後才通過法律予以追究，不做普遍的預先審查。而許多亞洲國家的做法是主動防禦，將普遍過濾的預先審查與人工干預的後期抽查相結合，來防範仇恨言論“禁區”。

舉個例子，韓國的實名制措施就對網絡世界起到了非常明顯的淨化效果，新加坡廣播管理局SBA從1996年開始實施分類許可證制度，有可能從事非法內容服務的互聯網服務商都需要申領許可，並保證最初最大努力刪除法律禁止的內容。越南、緬甸等國更嚴格的措施也基本杜絕了問題的出現。

當然，這些亞洲國家的管理方式也存在一些問題，比如説過度依賴行政手段，從而限制了互聯網產業的發展，新傳播技術的潛在效能沒能夠在社會生活中充分彰顯。

從這些探索的失利與不利中，不難看到，互聯網內容安全監管是一項龐大的工程，需要各種手段跟極端分子鬥智鬥勇，行政、立法、技術、產業等的參與缺一不可。

如今中國正在內容監管領域緊鑼密鼓地部署，爭取在產業效率與網安風險上達到理想化的平衡狀態。仇恨言論“該怎麼管”，其他國家的前車之鑑或許能帶來不少啓發。

而網絡世界裏的魔道鬥法，註定將持續交戰下去，永不止步。