研究人員稱Twitter漏掉了數十張已知的兒童性虐待材料圖片——《華爾街日報》

推特表示，1月份暫停了約40.4萬個創建或參與傳播兒童性剝削內容的賬户。圖片來源：David Paul Morris/Bloomberg斯坦福大學研究人員稱，近幾個月推特未能阻止數十張已知的兒童性虐待圖片在其平台上發佈，這種情況表明其基本執法存在疏漏。

斯坦福互聯網觀察站的研究人員在調查多個平台的兒童安全問題時表示，他們向推特工作人員通報了調查結果，該問題似乎在5月份得到了解決。

研究人員表示，推特上週告訴他們，已經改進了檢測系統的某些方面，並要求研究人員今後如發現此類案件激增，及時向該公司發出警報。

對於《華爾街日報》就研究人員報告發送的電子郵件，推特沒有回應置評請求。

斯坦福互聯網觀察站首席技術專家、該報告的合著者David Thiel表示，在3月12日至5月20日的兩個多月時間裏，研究人員的系統在約10萬條推文的數據集中，檢測到40多張發佈在推特上的圖片曾被標記為兒童性虐待材料。

研究人員稱，這些圖片出現在推特上令人震驚，因為它們之前被標記為兒童性虐待材料(CSAM)，並且是公司可用於篩選發佈到其平台上的內容的數據庫的一部分。Thiel説：“這是防止CSAM在網上傳播的最基本措施之一，但似乎沒有奏效。”

長期以來，阻止兒童性虐待材料的挑戰一直是許多互聯網平台面臨的難題，而不僅僅是推特。在10月底收購推特後，埃隆·馬斯克將這一問題列為重點，並在推文中承諾，從推特上刪除此類材料是“第一要務”，並且“將永遠是我們的首要任務”。

馬斯克沒有回應置評請求。

推特表示，1月份暫停了約40.4萬個創建或參與兒童性剝削材料的賬户，該公司稱，自11月以來，此類賬户的暫停數量增加了112%。推特在2月份的一條推文中表示：“我們不僅更快地發現了更多不良行為者，還在建立新的防禦措施，主動降低包含此類內容的推文被發現的可能性。”

許多學術研究人員表示，推特對其數據訪問政策的改變將使他們不太可能發現像斯坦福大學研究小組檢測到的疏漏。推特表示，正在提高其應用程序編程接口（API）的訪問價格，該接口允許研究人員分析數據，大型用户每月可能被收取4.2萬美元或更多費用。

許多學術研究人員表示，這些價格將使API對他們來説變得難以負擔，阻礙未來對推特的研究。“這對平台透明度是一個重大打擊，”蒂爾説。

研究社交媒體和其他互聯網平台濫用行為的斯坦福互聯網觀察站上週因新的費用停止了使用推特的企業級API，蒂爾説。他表示，由於與馬斯克收購前的推特達成協議，該小組此前無需為API訪問付費。

馬斯克在2月份發推文表示，對API訪問收費旨在幫助打擊不良行為者使用的機器人，而Twitter在3月份表示正在研究如何繼續與學術界合作。對於不使用大量數據的開發者，Twitter網站表示提供免費層級和其他選項，包括每月100美元的方案。

斯坦福大學的研究人員表示，他們使用了名為PhotoDNA的技術，該技術基於包括美國國家失蹤與受虐兒童中心在內的組織維護的數據庫，掃描與兒童性虐待相關的圖像。PhotoDNA為圖像創建獨特的數字簽名（稱為哈希值），平台可以據此檢查用户上傳圖像的哈希值。

“在Twitter的小型數據集中發現任何PhotoDNA匹配結果都令人意外，“蒂爾説。

研究人員表示，他們使用了一個自動化計算機程序，該程序根據特定關鍵詞從Twitter接收數據流。這些圖像的鏈接會自動通過PhotoDNA進行檢測，以識別已知的兒童性虐待材料圖像。研究人員表示，任何匹配的圖像都不會被顯示或保存，可用的元數據會報告給國家失蹤與受虐兒童中心進行調查。

PhotoDNA已被科技公司和執法機構等組織使用。Twitter此前表示，它使用PhotoDNA和其他工具來標記和刪除兒童性剝削材料。

推特未就目前是否仍在使用該工具發表評論。

斯坦福大學研究人員表示，推特上週告知他們在部分兒童性虐待材料數據庫中發現了誤報內容，已進行人工過濾。推特稱，未來研究人員可能還會發現誤報案例。

研究人員指出，推特面臨的挑戰在於其允許發佈部分成人裸露內容，這增加了識別和刪除違規內容的複雜性。推特明令禁止涉及或宣揚兒童性剝削的材料。

馬斯克此前曾批評斯坦福互聯網觀察站在2020年美國總統大選期間的內容審核工作。他在3月的推文中指責該機構是"宣傳機器”。

斯坦福互聯網觀察站主任亞歷克斯·斯塔莫斯（與項目研究經理蕾妮·迪雷斯塔共同撰寫報告）表示，該機構在全球互聯網問題上保持無黨派立場。“我們希望推特能重新與學術研究人員合作，保護其平台免受不當操縱。“他説。

聯繫記者亞歷克莎·科爾斯：[email protected]

本文發表於2023年6月6日印刷版，標題為《推特被曝漏篩兒童性虐待圖像》。