Instagram用血腥內容淹沒用户信息流，一句“抱歉”難以平息眾怒——彭博社
Dave Lee
Instagram用户不應被迫面對暴力與死亡的畫面。
攝影師：Vincent Feuray/AFP/Getty Images
十四歲那年，我在當時最流行的文件共享軟件Limewire上搜索視頻時，誤下載了一段內容。
實際收到的視頻與描述完全不符。至今我仍清晰記得關閉視頻那幾秒後殘留的恐怖畫面——一名年輕女性被殺害的慘狀，當時反應遲緩未能避開這駭人場景。在那個互聯網如同蠻荒西部的年代，這類事情時有發生，使用此類服務就得承擔這種風險。
彭博社觀點越南向埃隆·馬斯克遞出的橄欖枝開了壞先例美日戰爭？只存在於《美國隊長》中當"中國替代者"身份不再足夠為表情包收購InfowarsInstagram用户本不該遭遇這種危險。
然而週四，404 Media、華爾街日報等媒體紛紛報道該應用出現"故障"，將極端暴力和死亡視頻推送到用户日常的朋友和網紅內容之間。據《華爾街日報》報道，週三起信息流開始充斥黑暗內容，受影響者可能包括未成年人。
部分視頻在播放前會顯示“敏感內容”警告，需要用户點擊才能查看。但許多視頻並未如此——它們直接自動開始播放。
閲讀毫無戒心的用户評論時，我想起了14歲的自己，以及那些突如其來、毫無心理準備的暴力視頻帶來的持久陰影。“今天我目睹了十個人死去，”一位用户告訴《華爾街日報》。另一位在Reddit上寫道：“感覺今天失去了部分人性”，稱這導致徹夜難眠。
Instagram母公司Meta平台公司已致歉。“我們已修復導致部分用户在Reels推薦流中看到不當內容的錯誤，”發言人表示。該公司拒絕透露受影響人數。網絡討論表明這絕非孤立事件。
受影響用户必須追究Meta的責任。這是首次出現該公司算法主動對用户造成心理創傷的明確案例。錯誤原因是什麼？將採取哪些措施防止重演？是否有人需擔責？Meta不會主動説明。另一個關鍵問題是：為何Instagram會允許存在名為"BlackPeopleBeingHurt"這類頁面分享的內容？
去年底，140餘名為Meta工作的肯尼亞內容審核員被確診創傷後應激障礙——醫生表示，這是長期篩查創傷性材料所致。值得慶幸的是，Instagram用户週三（或許還有周四）所見，不過是這些每天工作10小時的審核員所處理內容的冰山一角。但請相信我：只需一個片段，就足以在你的腦海中烙下終身印記。
公司堅稱這一錯誤與其近期宣佈的內容審核政策調整無關。上個月，該公司表示將停止刪除部分原先會被禁止的內容，但尚未完整説明當前允許發佈的具體標準。其表示將減少使用自動化流程刪除有害內容，轉而依賴用户舉報。首席執行官馬克·扎克伯格承認這意味着公司"會漏掉更多不良內容"。
Meta針對暴力內容的現行政策允許平台上出現最令人不安的畫面。展示人體"肢解"和"內臟"的影像只要加上警示標籤即可發佈，展示"燒焦"屍體和"割喉"的圖像視頻同樣被允許。不過應家屬要求，Meta員工會刪除此類內容——這倒顯得他們格外仁慈。
不幸的是（雖然並非Meta的過錯），網絡上確實存在對此類俗稱"重口味"視頻的熱衷羣體。其他社交平台也面臨同樣問題，例如Reddit曾清理"觀看死亡"等版塊。但那些案例中，尋求此類內容者需要主動搜尋。而這次不同：作為數十億用户信賴的防護盾，這家公司出現了災難性的系統失效。
在Instagram動態中看到極端暴力內容會對年輕人的心理產生什麼影響？Meta的道歉並不能解決問題。
更多來自彭博觀點的內容：
想要更多彭博觀點？終端讀者請前往OPIN <GO>。或訂閲我們的每日通訊。