X在以色列襲擊後首次重大馬斯克時代內容政策考驗中失誤 - 《華爾街日報》

上週末爆發的以色列與哈馬斯戰爭，是多年來對社交媒體內容審核能力的最大考驗之一。截至目前，埃隆·馬斯克的X公司表現拙劣，且情況可能惡化。

自哈馬斯於10月7日襲擊以色列以來，社交媒體平台正面臨視頻誤標、信息偽造和暴力內容等多重挑戰。

當宣傳者和投機者用虛假信息淹沒平台時，駭人暴力事件的爆發對所有社交媒體公司的審核能力都構成挑戰。

除X平台外，TikTok和臉書在哈馬斯襲擊以色列後也遭遇虛假誤導內容。即便配備龐大審核團隊和資源的社交媒體平台，過去一週也疲於應對。

研究社交媒體的專家指出，X平台當前處境尤為危險。馬斯克已裁撤公司大量內容安全崗位，並開放原僅面向知名用户和專業記者的認證付費服務。該平台還日益依賴志願者編寫事實核查註釋。

近日X平台上氾濫的帖子包括：被惡意重新利用的舊視頻片段、偽裝成哈馬斯襲擊的電玩畫面，以及偽造的白宮新聞稿。馬斯克本人也因推薦關注兩個被研究人員認定為可疑的賬號引發爭議，相關推文已刪除。

“平台正在失靈，”普林斯頓大學計算機科學助理教授喬納森·梅爾表示。梅爾的研究專門批評平台對問題內容的處理方式，他列舉了美化暴力的血腥畫面和帖文，以及煽動更多暴力的內容。“這些內容唾手可得，且未被迅速刪除，”他説，“證據非常明顯。”

X公司稱一直在刪除新創建的與哈馬斯有關聯的賬户。圖片來源：Josh Edelson/Agence France-Presse/Getty Images歐盟高級官員蒂埃裏·布雷頓近日致函X、Meta Platforms和TikTok，要求它們詳細説明應對圍繞這場衝突的非法內容和虛假信息的計劃。布雷頓週四加大了對X的壓力，發出了進一步的信息請求。

X公司首席執行官琳達·亞卡里諾週一退出了原定下週在《華爾街日報》年度科技大會上的露面，稱她需要專注於這場衝突。

一天後，X公司表示，亞卡里諾正在領導一個全天候工作的小組，打擊誤導性或違反其他政策的內容，並確保其內容審核員保持高度警惕，包括對希伯來語和阿拉伯語內容的審核。X公司還表示一直在刪除新創建的與哈馬斯有關聯的賬户，刪除試圖操縱熱門話題的賬户，與一個行業組織協調，並刪除或標記了數萬條帖文。

馬斯克曾闡述其內容審核策略為"自由表達但不強制傳播"，表示平台可能保留法律允許範圍內的負面或極端內容但不會主動推廣。

根據歐盟新內容審核法規建立的數據庫顯示，在哈馬斯襲擊事件前後數日，X平台報告的審核決策數量遠低於其他社交媒體競爭對手。

襲擊事件前後三天內，X平台日均報告約8,900次內容處理決定，而Facebook日均達415,000次——按各平台在歐盟用户基數比例計算差距更為顯著。其中約四分之三案例中，X僅對帖子標註"NSFW"（工作場所不宜）標籤而非刪除。

埃隆·馬斯克已大幅裁撤X平台（原推特）的內容安全政策崗位。圖片來源：Tom Williams/Zuma Press馬斯克的策略包括重度依賴"社區筆記"功能，該事實核查工具由志願者為誤導性帖子添加背景説明。公司表示通過算法推送被不同觀點用户評為有用的註釋。

一些觀察人士指出，這種策略存在缺陷，認為人們往往會快速滾動瀏覽帖子，如果他們花時間閲讀註釋，很可能已經消化了內容，尤其是視頻內容。

“視覺媒體可以即時解析且更令人難忘，”多倫多都會大學技術與倫理學副教授理查德·拉赫曼表示。

近日，斯坦福互聯網觀察站主任、Facebook前首席安全官亞歷克斯·斯塔莫斯指出，X平台上的賬户（包括一些經過驗證的賬户）傳播了一段2020年阿爾及利亞體育冠軍慶祝活動的視頻，卻虛假聲稱其展示了以色列的襲擊。

儘管該視頻下方附有社區核查註釋，但截至週三，其中一條相關帖子的瀏覽量已達120萬次。而截至週三中午，其他分享該視頻但瀏覽量較少的帖子卻未顯示核查註釋。

X平台週二表示，其志願者三天內撰寫的註釋已獲得數千萬次查看。該公司發佈了註冊鏈接以招募更多用户，並稱近期已更新系統以加快註釋顯示速度，同時正在提升自動識別併為重複使用相同視頻/圖片的帖子附加註釋的能力。

然而除了需要考量這些註釋，用户可能還需費力辨別未驗證賬户的真實性——由於X平台近期開始收費驗證，許多用户不願為此付費。

作家、前美國總統喬治·W·布什演講稿撰寫人大衞·弗魯姆週日於X平台發文稱，過去在推特上花費20分鐘獲取的信息價值遠高於收看20分鐘有線新聞。如今他表示：“你仍能在此找到有用信息，但相比一年前，需要付出更多努力去搜尋、篩選和屏蔽無用內容。”

以色列士兵在卡法阿扎轉移平民遺體。圖片來源：阿米爾·利維/蓋蒂圖片社研究人員指出，關於此次戰爭的誤導性內容浪潮同樣對人員規模更大的社交媒體公司構成挑戰。據社交威脅情報公司Cyabra數據顯示，衝突爆發前48小時內，在X、TikTok和Facebook平台參與相關討論的賬户中超過4萬個系偽造。該公司稱部分虛假賬户提前一年多創建，專門為此次虛假信息攻勢做準備。這些偽造資料在此期間試圖主導輿論，散佈了超過31.2萬條帖文和評論。

Cyabra表示：“這種精密程度，加上虛假賬户的規模及即時開展影響力行動所需的籌備工作，對恐怖組織而言前所未見，已達到國家行為體的組織水平。”

一則在不同程度上席捲X、Facebook和TikTok的病毒式傳言聲稱以色列轟炸了加沙的聖波菲里奧斯希臘東正教教堂。該教堂週一在其Facebook頁面否認了這一説法。研究機構Bellingcat調查發現，部分視頻確實包含空襲的真實信息，但往往與虛假指控相互交織。

Facebook母公司Meta Platforms表示，已成立由專家組成的特別運營中心，其中包括精通希伯來語和阿拉伯語的人員，全天候處理違規內容並與該地區第三方事實核查機構協調。TikTok稱已增加資源防止暴力、仇恨或誤導性內容，包括加強希伯來語和阿拉伯語的內容審核，並與事實核查組織合作。

戰爭畫面的報道可能帶來多重矛盾影響——既可能對觀眾造成心理創傷，又涉及是否應移除那些具有歷史記錄價值、可能作為戰爭罪證據的真實信息。前Facebook首席安全官斯塔莫斯表示，2018年臉書因刪除顯示緬甸政府針對羅興亞穆斯林少數羣體暴力行為的帖子而同時受到讚譽與批評。

2019年新西蘭基督城槍擊案兇手通過Facebook直播行兇過程，這促使平台投資開發能即時標記潛在暴力內容的技術。但斯塔莫斯指出，標記內容仍需人工審核才能刪除，因此平台配備強大的審核團隊至關重要。

巴勒斯坦武裝組織週一威脅稱將開始處決人質並進行直播。此前以色列軍方宣佈將加強空襲攻勢。

布魯金斯學會專注於社交媒體研究的高級研究員達雷爾·韋斯特表示，大量人質處決的直播或錄像內容極有可能出現在社交媒體上，平台要迅速識別並處理這些內容將面臨巨大挑戰。處理措施可能包括刪除內容或添加警告標籤。

“當遇到這種有組織的行動時，可能會有成千上萬人同時發佈內容，“他説，“平台應對起來會非常困難。”

薩姆·謝克納對本文亦有貢獻。

聯繫作者亞歷克莎·科爾斯：[email protected]；聯繫薩拉·E·尼德爾曼：[email protected]