Roblox遊戲平台持續與性侵者作鬥爭 - 彭博社

艾略特·格雷插圖

收聽並關注The Big Take蘋果播客，Spotify或您獲取播客的任何地方。

## Big Take

捕食者可能潛伏的遊戲平台

18:30

Roblox已成為擁有數千萬13歲以下用户的最大在線遊戲樂園。該公司表示，其人工智能聊天過濾器和人類版主的結合使該平台對所有年齡段的用户都安全。但彭博商業週刊的調查表明，Roblox可能存在明顯的漏洞。

在今天的Big Take播客中，主持人大衞·古拉與記者奧利維亞·卡維爾和塞西莉亞·丹納斯塔西奧討論了捕食者如何利用該平台對兒童進行策劃，以及Roblox為保護年輕用户所做的努力。

閲讀更多：Roblox正在努力遠離戀童癖者，但並不總是成功

終端客户端：在桌面上運行*{NSUB BIGTAKEPOD <GO>}*以訂閲

以下是對話的輕微編輯轉錄：

**大衞·古拉：**Roblox是世界上最大的在線遊戲平台之一。彭博社負責報道視頻遊戲的塞西莉亞·丹納斯塔西奧向我解釋了它的運作方式。

**塞西莉亞·丹納斯塔西奧：**把它想象成一個視頻遊戲的商場，裏面有許多小區。但是進入商場不收取入場費，進入任何小區也不需要付費。

**古拉：**就像我記憶中的商場一樣，Roblox是許多孩子去玩耍的地方。平台上的世界和角色看起來像是《樂高大電影》和《我的世界》之間的混合：方塊狀、三維的，通常很色彩豐富。這個平台上有數百萬個用户製作的遊戲。

**丹納斯塔西奧：**在Roblox中有一些遊戲，你可以假裝自己在比薩店工作，或者你可以反覆地從樓梯上扔下自己，或者你可以養虛擬的獨角獸，它們都非常奇怪和奇幻，是那種真正吸引孩子的遊戲。

**奧利維亞·卡維爾：**當我開始研究Roblox時，我對它的流行程度感到震驚。

**古拉：**這是彭博調查記者奧利維亞·卡維爾。她説每天有超過7700萬人登錄Roblox。其中超過40%的人年齡不到13歲。

**卡維爾：**這就是孩子們今天所在的地方。Roblox歡迎孩子們。它邀請各個年齡段的孩子。你可以以3歲、4歲、5歲的年齡創建賬户，並在這個平台上玩耍。這真的讓我感到驚訝。

**古拉：**使它如此受歡迎的一點是它非常容易訪問。

**D’Anastasio：**這真的非常簡單，這就是為什麼孩子們下載並玩它 - 無論是在iPhone、iPad、Android、PC、PlayStation，還是其他你能想到的設備上，都可以免費玩。

**Gura：**註冊很簡單。塞西莉亞説大約需要60秒。你輸入你的出生日期，選擇一個用户名和密碼，然後你可以自定義一個頭像。在Roblox上每個人都是匿名的。一旦你上線，你可以與其他玩家互動，還可以與他們聊天。

**D’Anastasio：**我們為這個故事採訪的許多信任和安全專家都表示，Roblox的開放聊天是其最危險的功能之一。你可以創建一個賬户。你可以和任何人交談。任何人都可以和你交談。

**Gura：**Roblox使用人類審核員和人工智能的組合，並表示適合所有年齡段的孩子。但正如奧利維亞和塞西莉亞發現的那樣，匿名性可能會被利用。這讓一些年輕用户變得脆弱。

**Gura：**今天在節目中，彭博商業週刊對性侵犯者如何滲透到全球最大的在線遊樂場進行了調查，以及為保護用户安全而進行的持續鬥爭。這是彭博新聞的重要內容，我是大衞·古拉。

**Gura：**在我們繼續今天的節目之前，我想告訴你，我們將談論一些嚴峻的話題，包括兒童虐待。

**Gura：**Roblox於2006年推出，雖然增長穩定，但塞西莉亞·丹納斯塔西奧説它在大流行期間的受歡迎程度激增，當時孩子們被困在家裏。

**達納斯塔西奧：**Roblox剛剛發展成了這個虛擬的死衚衕，你知道，當它在2021年上市時，估值達到了410億美元。

**古拉：**如今，它的市值約為250億美元，公司賺錢的一種方式是通過在平台上購買的一種虛擬貨幣，稱為“Robux”。

**達納斯塔西奧：**孩子們購買這種貨幣。孩子們向父母乞求這種貨幣。這是巨大的。去年，Roblox主要通過銷售Robux賺取了35億美元。

**古拉：**在Roblox上，用户可以用這種貨幣購買虛擬配飾，比如翅膀、帽子或服裝，讓他們的化身看起來像一隻蟑螂，或者像《家庭奇趣》節目中的Peter Griffin。像耐克和古馳這樣的知名品牌在該平台上銷售虛擬商品。但大部分物品和遊戲都是由獨立開發者製作的。塞西莉亞説，在Roblox的世界中，遊戲開發者可以擁有龐大的粉絲羣。

**達納斯塔西奧：**Roblox開發者就像是數字平台上的現代神王。這聽起來可能有些誇張，但有很多人變得如此受歡迎，以至於他們不得不完全匿名化自己——在Roblox上只保留一個化身和用户名，因為孩子們渴望瞭解這些人的信息，這些人正在打造他們塑造身份、建立聯繫、成長的空間。

**古拉：**其中一位變得極其受歡迎的開發者自稱為“Doctor Rofatnik”。

這是對世嘉遊戲《索尼克小刺蝟》中反派的一個不那麼微妙的暗示。奧利維亞·卡維爾説，“羅法特尼克博士”創造了基本上是索尼克仿製品的遊戲，名為“索尼克日食在線版。”

**卡維爾：**通過世嘉，你必須為遊戲付費。在這裏的Roblox上，你可以免費訪問，他知道孩子們喜歡索尼克，所以他創造了這個空間，成千上萬的孩子來玩《索尼克日食在線版》。

**古拉：**隨着他的遊戲變得越來越受歡迎，羅法特尼克博士本人也變得越來越受歡迎。塞西莉亞和奧利維亞告訴我，他的標誌性頭像會在他建造的世界中四處遊蕩，享受着人們的讚美。

**丹納斯塔西奧：**在Roblox上，他只是穿着一頂高高的白色帽子，一條紅領帶和一枚美國國旗徽章，看起來很時髦，很專業，甚至有點政治色彩。

**卡維爾：**他説自己是行業的先見之明者。他自誇自己。他聲稱自己28歲，住在加利福尼亞，是該平台的第一位創意設計師約翰·謝德萊茨基的弟弟，後者是孩子們中的傳奇人物。

**古拉：**後來被稱為“Doc”的他還告訴用户，他有一位所謂的“火辣的西班牙女友”，開着一輛快車。他鼓勵在Roblox上與他聊天的用户將這些對話帶到其他在線平台上。

**丹納斯塔西奧：**你可以點擊Discord鏈接或X鏈接，你們的關係突然變成跨平台的，然後，在那裏，它可以蓬勃發展。

Gura: 不久，Doc成為了跨平台的名人。

Carville: 於是，他創建了一個在線王國，讓孩子們可以仰慕他，與他互動，定期與他交談。有些人説他在線上24小時不間斷。無論何時你聯繫他，他都會回覆。

Gura: Olivia説，Doc的許多追隨者覺得他的“黑暗和前衞”的幽默吸引人。但同時，他會用Robux支付給他們。

Gura: 他為什麼要支付給他們？他讓他們做什麼來換取這種虛擬貨幣？

Carville: 他實際上有數十名孩子為他工作。他們還會為他設計新角色，或者遊戲內的新空間，他會為此支付報酬。

Gura: Olivia説，Doc還鼓勵欺凌。他使用種族主義和恐同言論。在2020年，一羣在Roblox上的少年義勇決定他們受夠了。提前告訴你：他們警示的內容可能令人不安。

Carville: 這些玩家對Doctor Rofatnik展開了攻擊，他們所做的是發佈他與一個年僅12歲的女孩的對話截圖，這個女孩為他工作，他在對話中談論綁架她、強姦她。他與她進行了非常不當的、過度性化的對話，所有這些截圖都被上傳到一份文件中，然後發佈在Twitter上。

Gura: 其中一名玩家將該文件交給了警察，但沒有任何結果。

但最終，那個12歲女孩的母親看到了那些消息，她自己聯繫了Roblox。

**卡維爾：**她媽媽向Roblox報告，並解釋説，有一個非常詭異、危險的男人，或者一個開發者，正在接近她的孩子，並請求平台幫助。因此，Roblox收到了許多用户關於Doctor Rofatnik賬號的投訴。

**卡維爾：**在被告知他與這些年輕用户交流的消息四天後，他們封鎖了他的賬號。他們關閉了他的賬號。

**古拉：**但事情並沒有就此結束。

**卡維爾：**這只是個開始。

**古拉：**我們馬上回來。

**古拉：**Roblox封鎖了Doctor Rofatnik的賬號，但背後的那個人仍然能夠在平台上活躍。他只是又創建了另一個賬號。

在他的主賬號被封之前，Doc將他的遊戲《Sonic Eclipse Online》的所有權轉讓給了一個朋友，由朋友代為運營。Roblox讓這個遊戲保持活躍，因為他們表示遊戲本身並不構成安全隱患，並告訴彭博社他們繼續搜尋並封禁Doc的任何替代賬號。因此，孩子們繼續玩着Doc開發的遊戲。他們通過遊戲內購繼續支付他。他們繼續崇拜他。

其中一個是來自印第安納州的十幾歲女孩。

**卡維爾：**2022年5月，一名15歲女孩失蹤。她的媽媽回家後發現，她卧室裏的所有電子設備都不見了。她最喜歡的毯子不見了。一些衣服不見了。充電器也不見了。

**卡維爾：**她看到自己在Instagram上發佈了一張照片，照片中她坐在一個陌生人的車裏，朝窗外看着，然後寫道：“再見，印第安納。”

**古拉：**執法人員開始調查他們認為是一起兒童綁架案件，一名偵探詢問了女孩的家人她在網上和誰聊過天。

**卡維爾：**她開始聽説這個神秘人物，聲稱自己是一個流行的開發者，活躍在遊戲平台Roblox上。他住在加利福尼亞。她喜歡畫畫。他曾經給媽媽打過電話，告訴她他想購買這個十幾歲女孩的藝術作品。

**卡維爾：**之後，亞馬遜的包裹開始送到門口，女孩收到了各種不同的工具或技術來幫助她的藝術創作。她收到了一個泰迪熊，外賣食物。麥當勞，中式麪條都會送來。

**古拉：**根據偵探與受害者家人的交談記錄，警方獲得了女孩在社交媒體上的私人通訊，他們發現她和一個男人交換了數百條性暗示的信息。

**古拉：**FBI接手了這個案件，特工們追蹤到這些亞馬遜包裹的地址在新澤西。

**卡維爾：**六輛無標誌的汽車駛入街道，在這所房子進行了蹲點，幾分鐘後，這名十幾歲的受害者和阿諾德·卡斯蒂略一起出現在街角。

**古拉：**阿諾德·卡斯蒂略，或者“羅法特尼克博士”，在虛擬世界Roblox中對這個女孩進行了策劃，然後在現實世界中對她進行了虐待。

他並不是加利福尼亞州著名遊戲設計師的28歲哥哥。他是一個孤獨的22歲男子，根據檢察官的説法，他在七年級時被母親帶出學校，讓他通過開發視頻遊戲來賺錢。他仍然和母親住在一個位於車庫樓上的小公寓裏。卡斯蒂略把他的受害者安置在他在隔壁樓裏租的一個房間裏。

**卡維爾：**檢察官描述了她被關押的房間是一個又小又潮濕的小房間，他在地板上扔了一張單人牀墊。他給她買了染髮劑，改變她的外貌。

**古拉：**奧利維亞説她和彭博社的遊戲記者塞西莉亞·丹納斯蒂奧設法確定 - 並且Roblox確認 - 卡斯蒂略在被捕當天在Roblox上活躍。他使用的用户名不同於DoctorRofatnik；但他仍然在該平台上活躍。他承認了“運輸未成年人以從事犯罪性活動”和“脅迫和誘使未成年人”罪名，卡斯蒂略現在正在服刑15年。

**古拉：**自2018年以來，美國各地警方至少逮捕了兩打人，他們綁架或虐待了他們在Roblox上認識的受害者。這是彭博商業週刊編制的數據顯示。

**古拉：**奧利維亞和塞西莉亞聯繫了Roblox，請其發表評論。

**卡維爾：**我們收到了來自Roblox首席安全官Matt Kaufman的一份聲明，他表示安全和文明是Roblox的基石。

**卡維爾：**他們説，每天有數千萬人，無論年齡大小，在Roblox上都能獲得安全和積極的體驗。

**丹納斯塔西奧：**Kaufman還否認了兒童危害是Roblox普遍存在或系統性問題的説法。他表示，公司擁有強大的系統和協議，旨在捕捉任何試圖規避規則的人，包括試圖讓未滿13歲的用户在Roblox之外進行對話的行為。

**古拉：**但奧利維亞和塞西莉亞表示，他們與現任和前任員工交談後得知，2022年之前，Roblox並沒有建立自動系統來主動搜索超出基本文本過濾之外的潛在危險行為。

根據他們的消息來源，那時候，“潛在危險行為”這個詞甚至都沒有出現在公司的管理指南中。

自阿諾德·卡斯蒂略被捕以來，Roblox已經做出了一些改變：

公司新增了兩名兒童安全調查員和一個兒童虐待管理團隊。還有一名兒童安全官直接向Roblox的首席執行官彙報。在7月15日，經過彭博商業週刊多次詢問後，Roblox宣佈將更改默認設置。今年秋天之後，9歲以下的用户將自動限制只能玩那些沒有比輕微暴力和不真實血腥更令人不安的遊戲。

家長將有選擇讓他們的孩子訪問更成熟的內容的選項。但這個問題的規模才剛剛顯現出來。

2022年，Roblox向國家失蹤和被剝削兒童中心報告了近3000起兒童被剝削事件。到了2023年，這個數字增加到了超過13000起。

Gura: 真正讓兒童安全專家擔憂的是Roblox的野心。它是一家上市公司，正試圖變得更大，為了實現這一目標，它的目標是每天擁有10億用户。

Gura: 那麼，你與很多公司的過去和現在的員工交談過。他們對將公司擴大到那個規模的挑戰以及同時擴大安全方面的事情有什麼看法？

D’Anastasio: 很難找到一個平台，安全和增長不是對立的，而Roblox就是這樣一個平台。我在公司交談過的消息來源説，人工智能實際上無法察覺到誘導的微妙跡象。

Gura: 《彭博商業週刊》的八名現任和前任信任和安全工作者表示，Roblox的用户增長優先於兒童安全。他們描述了對更多資源的呼籲被無視，導致安全事件報告積壓。

一位Roblox發言人對有關資源和積壓的説法提出了異議，並表示公司正在開發“大量的安全功能”。

Roblox表示，每秒鐘平台上發送50,000條聊天消息。但讓Roblox難以監管的不僅僅是數量。

**達納斯塔西奧：**如何判斷一個頭像是否在模擬性行為？如何判斷一個頭像是否在模擬強姦？這些都是巨大的挑戰，我認為Roblox並沒有完全應對。

**古拉：**您已經與在線安全專家交談過。他們給那些孩子在這個虛擬世界中以及那些試圖在很小的年齡就開始使用的孩子的父母們什麼建議？

**達納斯塔西奧：**在所有這些平台上，關於兒童安全的問題是父母能做什麼？父母能做什麼？父母如何能夠進入他們孩子的設備並確保他們的安全？而不是必須有哪些默認設置？必須有哪些年齡限制措施？必須有哪些聊天過濾器？必須有哪些審查協議，這些公司應該僱傭多少審查人員？

我認為問題的一部分在於，父母們並沒有必要的對這些平台的瞭解，這種瞭解對於他們真正向這些公司提出要求、或者要求政客提出具體要求是必要的。

我自己不是父母，所以也許我在説話時有些不妥，當然，他們可以禁用很多設置，但是，你知道，我們存在於一個平台渴望增長而安全與之相沖突的市場中。

而且，並沒有很多法律或政策在迫使公司採取那些將保護兒童的常識措施。這是安全專家一遍又一遍地對我們重複説的事情。

**卡維爾：**這次談話的很多內容都是如此陰暗和令人沮喪，雖然我們不想把責任推給父母，但Roblox應該做更多來保持其平台的安全性。他們甚至自己也這麼説。他們一直在努力改進他們的安全措施。

但是有些事情是家長可以做的，他們應該知道。你知道，在這個應用中有安全功能。如果你做一些研究，你可以打開這些安全設置。它們不是默認開啓的，但你可以進去為你的孩子做這些事情，與他們坦誠地談論他們在遊戲中的經歷。讓他們可以來找你進行這些對話。

我認為，你知道，家長應該主動關注他們的孩子在做什麼，因為不幸的是，這些平台現在做得還不夠。

本集由：大衞·福克斯製作；高級製片人：娜奧米·沙文和金·吉特爾森；編輯：亞倫·愛德華茲和羅伯特·弗裏德曼；高級編輯：伊麗莎白·龐索特。執行製片人：尼科爾·賓斯特博爾；音效設計/工程師：亞歷克斯·杉浦；事實核查：阿德里安娜·塔普**。**

沙特阿美公司的風險投資部門已經向韓國芯片製造商Rebellions Inc.投資了1.5億美元，作為推動沙特阿拉伯人工智能產業發展的一部分。

Rebellions正在與三星電子公司合作開發其專有芯片，以服務生成式人工智能市場。這家初創公司於6月同意將其業務合併與競爭對手Sapeon Korea Inc.，這是SK Telecom Co.的一個單位，並表示正在考慮在韓國進行可能的首次公開募股。