《華爾街日報》：Meta內部就巴勒斯坦地區評論壓制的公平性展開辯論

在巴以衝突期間，Meta Platforms公司一直在艱難應對如何執行其平台規則的問題。圖片來源：Mohammed abed/法新社/蓋蒂圖片社10月7日哈馬斯突襲以色列並殺害平民後，Instagram上來自該地區的仇恨言論激增。Meta Platforms的管理人員加強了自動過濾系統，旨在減緩暴力和騷擾內容的泛濫。

但據一位Meta經理透露，這些評論仍在不斷出現——尤其是來自巴勒斯坦領土的評論。因此Meta再次加強了過濾系統，但僅針對該地區。

在一個面向穆斯林員工的內部論壇上，反對聲浪此起彼伏。

根據《華爾街日報》看到的文件，一名員工在內部發帖稱：“我們所説的和我們目前所做的似乎完全背道而馳。“Meta曾公開承諾在全球範圍內平等執行其政策。

這家社交媒體巨頭一直在艱難應對如何在這場殘酷而混亂的戰爭中最好地執行其內容規則。Meta嚴重依賴自動化工具來監管Instagram和Facebook，但這些工具可能會出錯：它們難以解析巴勒斯坦阿拉伯語方言，在某些情況下，它們沒有足夠的希伯來語數據來有效工作。

在最近的一個故障中，Instagram自動翻譯功能開始將用户個人資料中的"巴勒斯坦人"一詞與一個表情符號和一個無害的阿拉伯短語一起翻譯為"巴勒斯坦恐怖分子”。

當Meta轉而依靠人工審核來填補漏洞時，不同團隊對於規則適用標準及對象存在分歧。

Meta發言人表示，由於巴勒斯坦地區違規內容比例更高，公司不得不降低審核閾值以實現與其他地區相當的效果。Meta已就翻譯故障致歉。

該公司通過特拉維夫辦事處處理以色列事務，負責人曾為以色列總理內塔尼亞胡工作；而迪拜人權政策團隊則負責涵蓋巴勒斯坦在內的阿拉伯地區。知情人士透露，這些團隊常對該地區內容判定存在矛盾。

用户評論區已成為衝突前線。哈馬斯10月7日襲擊以色列邊境城鎮後，Meta監測到以色列、黎巴嫩及巴勒斯坦地區Instagram平台的仇恨言論激增5至10倍。內部文件顯示，公司決定提高潛在違規評論的屏蔽比例。

通常Meta僅在系統80%確定評論構成其定義的"敵對言論”（包括騷擾、暴力煽動等）時才會屏蔽。但文件表明，作為"臨時風險應對措施"——類似Meta曾在戰爭、種族滅絕風險及2021年美國國會暴亂中啓用的緊急預案——該公司將中東多國的判定閾值降至40%，即任何被判定有40%煽動可能性的評論都將被屏蔽。

據參與該項目的產品經理在內部留言系統發佈的帖子稱，這一調整顯著減少了以色列、黎巴嫩、敍利亞、埃及等國的仇恨言論，使Meta安全團隊感到滿意。但隨後數日，巴勒斯坦地區符合Meta敵對言論定義的Instagram評論仍居高不下。

“因此團隊決定臨時進一步降低閾值，“該產品經理寫道，將自動系統判定違規概率≥25%的巴勒斯坦用户評論直接隱藏。

截至週四，Meta內部內容審核員已刪除論壇上詳細記載此次干預措施及後續討論的長篇主題帖。

自10月7日哈馬斯襲擊造成1400人死亡、200人被劫持（以色列官方數據）以來，Meta等社交媒體平台持續面臨多方審查。襲擊畫面在社交平台瘋傳並被新聞轉播，多家公司對內容政策反覆調整。

歐盟週四向Meta和TikTok發出正式問詢，要求説明遏制此類（在多國可能違法的）內容傳播的措施，此前一週已對X平台（原推特）採取相同行動。

Meta目前已封鎖相關話題標籤、限制直播功能並禁止人質圖片傳播。

Meta長期以來在構建自動化系統以執行其非英語及少數富裕大國語言的規則方面困難重重。海外的人工審核團隊通常也更為薄弱。

阿拉伯語內容一直是個痛點——尤其是在巴勒斯坦領土上。部分原因是該公司系統最初未接受理解不同阿拉伯語方言差異的訓練，對巴勒斯坦方言的處理表現更差，根據2022年Meta委託外部顧問撰寫的報告顯示。

Meta直到最近還缺乏自動檢測可能違反其規則的希伯來語內容的系統，2022年的報告稱這導致對希伯來語帖子的執行力度不足。

作為對報告的回應，Meta承諾構建一個自動系統來捕捉希伯來語的違規內容，並提高其檢測阿拉伯語方言的能力。

9月，公司告訴其監督委員會，“擁有功能正常的希伯來語分類器”的目標已經“完成”。但本月早些時候，公司內部承認未在Instagram評論中使用其希伯來語敵意言論分類器，因為系統缺乏足夠數據以充分運作，根據《華爾街日報》查閲的文件。

儘管系統存在限制，鑑於當前衝突，公司現已將其部署用於對抗仇恨評論。Meta發言人表示，該分類器已在公司平台的其他部分投入使用。

巴勒斯坦攝影師莫塔茲·阿扎伊扎持續在Instagram發佈加沙居民傷亡的紀實視頻及其情緒反應，他表示在衝突期間其賬號兩次被Meta關閉。但通過申訴後這些決定得以撤銷——截至週五，他兩週前僅2.5萬粉絲的賬號已增長至超500萬。

另一起事件中，Meta內部宣佈啓動"站點事件”（需立即修復的緊急問題），因公司自動化系統將阿拉伯語中涉及巴勒斯坦人的無害表述誤譯為"巴勒斯坦恐怖分子"等錯誤內容，另一份文件顯示。

調查發現該問題源於機器學習系統的幻覺輸出。

薩爾瓦多·羅德里格斯對本文亦有貢獻。

聯繫記者薩姆·謝克納請致信[email protected]，聯繫傑夫·霍維茨請致信[email protected]，聯繫紐利·珀內爾請致信[email protected]

本文發表於2023年10月23日印刷版，標題為《Meta內部就加沙戰爭內容展開辯論》。