Twitch“剪輯”功能被用來利用未成年人-彭博社

該公司推出了新的電話驗證要求，並正在開發技術來捕捉和終止屬於13歲以下兒童的賬户。

攝影師：Gabby Jones/Bloomberg2023年春天，一名12歲男孩在亞馬遜旗下的熱門直播網站Twitch上直播，吃三明治並吹法國號。幾分鐘後，約有十幾名觀眾加入了他。通過Twitch的聊天功能，有人要求他做一個空翻，另一個要求他展示他的肌肉。

作為回應，男孩拉下了他的褲子。整個事件瞬間結束，但一名觀眾使用了名為“剪輯”的功能，捕捉了這個瞬間，製作了一個20秒的視頻。結果的視頻已經被觀看了130多次。

Twitch計劃在今年擴展“剪輯”功能。作為先前宣佈的擴展的一部分，該公司將鼓勵更多用户將瞬息直播事件轉化為短視頻，以便在即將推出的發現動態中展示，或者輕鬆導出到其他社交網絡，包括TikTok。現在，在此舉之前，網絡安全專家警告稱，該工具已經被兒童色情者利用，記錄並分享未成年Twitch用户的虐待行為。

Bloomberg News對Twitch上近1100個視頻進行的分析發現，至少83個短視頻包含涉及兒童的性內容。加拿大兒童保護中心對這些材料進行了審查，發現其中有34個視頻展示了年輕用户（主要是5至12歲的男孩）向攝像頭展示生殖器官，而且通常是在直播過程中受到觀眾鼓勵後才這樣做。另外49個視頻包括涉及未成年人暴露身體部位或受到誘導的性內容。

據該中心稱，這34個最嚴重的視頻已被觀看了2700次。中心指出，其他不當的視頻已被觀看了7300次。當觀眾捕捉到涉及性侵行為的直播時，這些視頻“幾乎成為了那種性虐待的永久記錄”，該中心的主任Stephen Sauer説。

“一旦最初的直播和誘導事件發生，就會發生更廣泛的受害，因為這些材料可能會進一步傳播，”他説。

在Bloomberg提醒公司之後，Twitch刪除了違規內容。Twitch首席執行官Dan Clancy在一份聲明中説：“青少年在任何在線平台上受到傷害都是非常令人不安的。即使是一次也太多了，我們非常重視這個問題。”

Twitch最初於2016年推出了視頻片段功能。在過去一年裏，面對來自字節跳動旗下的短視頻平台TikTok的更大競爭，Twitch的產品團隊將片段的擴展作為一個主要關注點。與此同時，據熟悉安全協議的人士透露，片段功能仍然是該網站上受監管最少的功能之一，他們在討論公司內部運作時要求匿名。

在聲明中，克蘭西表示，“有效打擊兒童侵害”需要合作。他指出，Twitch正在與各個機構合作，並取得了“重大進展”。克蘭西表示，通過不斷審查Twitch上的直播內容，公司正在阻止“有害視頻片段的產生和傳播”。Twitch還在積極地“刪除和禁用”有害視頻片段，同時確保這些視頻“不會通過公共域名或其他直接鏈接提供”。

“和其他在線服務一樣，這個問題是我們將繼續努力解決的，”他補充道。

多年來，公司高管一直在努力消除Twitch上的兒童誘導行為，Twitch託管了超過96,000個直播頻道和700萬月度廣播者。2022年，彭博新聞報道稱，兒童侵害者經常利用Twitch實時追蹤兒童，似乎有超過297,000名兒童成為目標。

自該報道以來，Twitch已經宣佈了幾項變化。該公司推出了新的電話驗證要求，並正在開發技術來捕捉和終止13歲以下兒童的賬户。該公司還加大了對先前被禁止的未成年人創建新賬户的限制。Twitch使用語言分析工具來檢測兒童誘導行為，並使用人工智能技術來標記裸露內容。

今年4月，Twitch裁員了至少15%的內部信任和安全團隊，並增加了對外部提供商的依賴，以識別和刪除有問題的內容。目前，Twitch主要集中監控其直播內容，該公司表示會使用人工審核員、人工智能和其他工具進行審核。相比之下，在審核視頻片段方面，Twitch完全依賴用户舉報可疑或令人不安的內容。

2022年最後一個季度，Twitch每天檢測到318起表面上的兒童誘導行為，其中五分之一導致賬户被暫停，根據澳大利亞網絡安全專員最近的一份報告。

專家表示，Twitch的設計固有地存在着內容審核的挑戰。通常，像YouTube和Instagram這樣的社交媒體網站可以通過將新內容與先前包含類似內容的來源進行比較來識別用户試圖上傳濫用視頻的情況。在Twitch的直播中，兒童被獵取的情況是實時發生的，因此沒有先前的視頻可以進行比較。

“哈希技術尋找與先前看到的內容匹配的內容，”美國國家失蹤與被剝削兒童中心的Lauren Coffren説道。“直播意味着這是全新的。”

四月份，一羣美國參議員跨黨派提出了《保護社交媒體上的兒童法案》，旨在改善Twitch等用户生成內容網站上兒童的安全。

Sauer表示，社交媒體公司不能再被信任來自我監管。“我們已經在一旁看着這個行業進行自願監管25年了，”他説。“我們知道這根本行不通。我們看到太多孩子在這些平台上受到剝削。我們希望政府介入並説，‘你們必須建立這些保障措施。’”