Roblox游戏平台持续与性侵者作斗争 - 彭博社

艾略特·格雷插图

收听并关注The Big Take苹果播客，Spotify或您获取播客的任何地方。

## Big Take

捕食者可能潜伏的游戏平台

18:30

Roblox已成为拥有数千万13岁以下用户的最大在线游戏乐园。该公司表示，其人工智能聊天过滤器和人类版主的结合使该平台对所有年龄段的用户都安全。但彭博商业周刊的调查表明，Roblox可能存在明显的漏洞。

在今天的Big Take播客中，主持人大卫·古拉与记者奥利维亚·卡维尔和塞西莉亚·丹纳斯塔西奥讨论了捕食者如何利用该平台对儿童进行策划，以及Roblox为保护年轻用户所做的努力。

阅读更多：Roblox正在努力远离恋童癖者，但并不总是成功

终端客户端：在桌面上运行*{NSUB BIGTAKEPOD <GO>}*以订阅

以下是对话的轻微编辑转录：

**大卫·古拉：**Roblox是世界上最大的在线游戏平台之一。彭博社负责报道视频游戏的塞西莉亚·丹纳斯塔西奥向我解释了它的运作方式。

**塞西莉亚·丹纳斯塔西奥：**把它想象成一个视频游戏的商场，里面有许多小区。但是进入商场不收取入场费，进入任何小区也不需要付费。

**古拉：**就像我记忆中的商场一样，Roblox是许多孩子去玩耍的地方。平台上的世界和角色看起来像是《乐高大电影》和《我的世界》之间的混合：方块状、三维的，通常很色彩丰富。这个平台上有数百万个用户制作的游戏。

**丹纳斯塔西奥：**在Roblox中有一些游戏，你可以假装自己在比萨店工作，或者你可以反复地从楼梯上扔下自己，或者你可以养虚拟的独角兽，它们都非常奇怪和奇幻，是那种真正吸引孩子的游戏。

**奥利维亚·卡维尔：**当我开始研究Roblox时，我对它的流行程度感到震惊。

**古拉：**这是彭博调查记者奥利维亚·卡维尔。她说每天有超过7700万人登录Roblox。其中超过40%的人年龄不到13岁。

**卡维尔：**这就是孩子们今天所在的地方。Roblox欢迎孩子们。它邀请各个年龄段的孩子。你可以以3岁、4岁、5岁的年龄创建账户，并在这个平台上玩耍。这真的让我感到惊讶。

**古拉：**使它如此受欢迎的一点是它非常容易访问。

**D’Anastasio：**这真的非常简单，这就是为什么孩子们下载并玩它 - 无论是在iPhone、iPad、Android、PC、PlayStation，还是其他你能想到的设备上，都可以免费玩。

**Gura：**注册很简单。塞西莉亚说大约需要60秒。你输入你的出生日期，选择一个用户名和密码，然后你可以自定义一个头像。在Roblox上每个人都是匿名的。一旦你上线，你可以与其他玩家互动，还可以与他们聊天。

**D’Anastasio：**我们为这个故事采访的许多信任和安全专家都表示，Roblox的开放聊天是其最危险的功能之一。你可以创建一个账户。你可以和任何人交谈。任何人都可以和你交谈。

**Gura：**Roblox使用人类审核员和人工智能的组合，并表示适合所有年龄段的孩子。但正如奥利维亚和塞西莉亚发现的那样，匿名性可能会被利用。这让一些年轻用户变得脆弱。

**Gura：**今天在节目中，彭博商业周刊对性侵犯者如何渗透到全球最大的在线游乐场进行了调查，以及为保护用户安全而进行的持续斗争。这是彭博新闻的重要内容，我是大卫·古拉。

**Gura：**在我们继续今天的节目之前，我想告诉你，我们将谈论一些严峻的话题，包括儿童虐待。

**Gura：**Roblox于2006年推出，虽然增长稳定，但塞西莉亚·丹纳斯塔西奥说它在大流行期间的受欢迎程度激增，当时孩子们被困在家里。

**达纳斯塔西奥：**Roblox刚刚发展成了这个虚拟的死胡同，你知道，当它在2021年上市时，估值达到了410亿美元。

**古拉：**如今，它的市值约为250亿美元，公司赚钱的一种方式是通过在平台上购买的一种虚拟货币，称为“Robux”。

**达纳斯塔西奥：**孩子们购买这种货币。孩子们向父母乞求这种货币。这是巨大的。去年，Roblox主要通过销售Robux赚取了35亿美元。

**古拉：**在Roblox上，用户可以用这种货币购买虚拟配饰，比如翅膀、帽子或服装，让他们的化身看起来像一只蟑螂，或者像《家庭奇趣》节目中的Peter Griffin。像耐克和古驰这样的知名品牌在该平台上销售虚拟商品。但大部分物品和游戏都是由独立开发者制作的。塞西莉亚说，在Roblox的世界中，游戏开发者可以拥有庞大的粉丝群。

**达纳斯塔西奥：**Roblox开发者就像是数字平台上的现代神王。这听起来可能有些夸张，但有很多人变得如此受欢迎，以至于他们不得不完全匿名化自己——在Roblox上只保留一个化身和用户名，因为孩子们渴望了解这些人的信息，这些人正在打造他们塑造身份、建立联系、成长的空间。

**古拉：**其中一位变得极其受欢迎的开发者自称为“Doctor Rofatnik”。

这是对世嘉游戏《索尼克小刺猬》中反派的一个不那么微妙的暗示。奥利维亚·卡维尔说，“罗法特尼克博士”创造了基本上是索尼克仿制品的游戏，名为“索尼克日食在线版。”

**卡维尔：**通过世嘉，你必须为游戏付费。在这里的Roblox上，你可以免费访问，他知道孩子们喜欢索尼克，所以他创造了这个空间，成千上万的孩子来玩《索尼克日食在线版》。

**古拉：**随着他的游戏变得越来越受欢迎，罗法特尼克博士本人也变得越来越受欢迎。塞西莉亚和奥利维亚告诉我，他的标志性头像会在他建造的世界中四处游荡，享受着人们的赞美。

**丹纳斯塔西奥：**在Roblox上，他只是穿着一顶高高的白色帽子，一条红领带和一枚美国国旗徽章，看起来很时髦，很专业，甚至有点政治色彩。

**卡维尔：**他说自己是行业的先见之明者。他自夸自己。他声称自己28岁，住在加利福尼亚，是该平台的第一位创意设计师约翰·谢德莱茨基的弟弟，后者是孩子们中的传奇人物。

**古拉：**后来被称为“Doc”的他还告诉用户，他有一位所谓的“火辣的西班牙女友”，开着一辆快车。他鼓励在Roblox上与他聊天的用户将这些对话带到其他在线平台上。

**丹纳斯塔西奥：**你可以点击Discord链接或X链接，你们的关系突然变成跨平台的，然后，在那里，它可以蓬勃发展。

Gura: 不久，Doc成为了跨平台的名人。

Carville: 于是，他创建了一个在线王国，让孩子们可以仰慕他，与他互动，定期与他交谈。有些人说他在线上24小时不间断。无论何时你联系他，他都会回复。

Gura: Olivia说，Doc的许多追随者觉得他的“黑暗和前卫”的幽默吸引人。但同时，他会用Robux支付给他们。

Gura: 他为什么要支付给他们？他让他们做什么来换取这种虚拟货币？

Carville: 他实际上有数十名孩子为他工作。他们还会为他设计新角色，或者游戏内的新空间，他会为此支付报酬。

Gura: Olivia说，Doc还鼓励欺凌。他使用种族主义和恐同言论。在2020年，一群在Roblox上的少年义勇决定他们受够了。提前告诉你：他们警示的内容可能令人不安。

Carville: 这些玩家对Doctor Rofatnik展开了攻击，他们所做的是发布他与一个年仅12岁的女孩的对话截图，这个女孩为他工作，他在对话中谈论绑架她、强奸她。他与她进行了非常不当的、过度性化的对话，所有这些截图都被上传到一份文件中，然后发布在Twitter上。

Gura: 其中一名玩家将该文件交给了警察，但没有任何结果。

但最终，那个12岁女孩的母亲看到了那些消息，她自己联系了Roblox。

**卡维尔：**她妈妈向Roblox报告，并解释说，有一个非常诡异、危险的男人，或者一个开发者，正在接近她的孩子，并请求平台帮助。因此，Roblox收到了许多用户关于Doctor Rofatnik账号的投诉。

**卡维尔：**在被告知他与这些年轻用户交流的消息四天后，他们封锁了他的账号。他们关闭了他的账号。

**古拉：**但事情并没有就此结束。

**卡维尔：**这只是个开始。

**古拉：**我们马上回来。

**古拉：**Roblox封锁了Doctor Rofatnik的账号，但背后的那个人仍然能够在平台上活跃。他只是又创建了另一个账号。

在他的主账号被封之前，Doc将他的游戏《Sonic Eclipse Online》的所有权转让给了一个朋友，由朋友代为运营。Roblox让这个游戏保持活跃，因为他们表示游戏本身并不构成安全隐患，并告诉彭博社他们继续搜寻并封禁Doc的任何替代账号。因此，孩子们继续玩着Doc开发的游戏。他们通过游戏内购继续支付他。他们继续崇拜他。

其中一个是来自印第安纳州的十几岁女孩。

**卡维尔：**2022年5月，一名15岁女孩失踪。她的妈妈回家后发现，她卧室里的所有电子设备都不见了。她最喜欢的毯子不见了。一些衣服不见了。充电器也不见了。

**卡维尔：**她看到自己在Instagram上发布了一张照片，照片中她坐在一个陌生人的车里，朝窗外看着，然后写道：“再见，印第安纳。”

**古拉：**执法人员开始调查他们认为是一起儿童绑架案件，一名侦探询问了女孩的家人她在网上和谁聊过天。

**卡维尔：**她开始听说这个神秘人物，声称自己是一个流行的开发者，活跃在游戏平台Roblox上。他住在加利福尼亚。她喜欢画画。他曾经给妈妈打过电话，告诉她他想购买这个十几岁女孩的艺术作品。

**卡维尔：**之后，亚马逊的包裹开始送到门口，女孩收到了各种不同的工具或技术来帮助她的艺术创作。她收到了一个泰迪熊，外卖食物。麦当劳，中式面条都会送来。

**古拉：**根据侦探与受害者家人的交谈记录，警方获得了女孩在社交媒体上的私人通讯，他们发现她和一个男人交换了数百条性暗示的信息。

**古拉：**FBI接手了这个案件，特工们追踪到这些亚马逊包裹的地址在新泽西。

**卡维尔：**六辆无标志的汽车驶入街道，在这所房子进行了蹲点，几分钟后，这名十几岁的受害者和阿诺德·卡斯蒂略一起出现在街角。

**古拉：**阿诺德·卡斯蒂略，或者“罗法特尼克博士”，在虚拟世界Roblox中对这个女孩进行了策划，然后在现实世界中对她进行了虐待。

他并不是加利福尼亚州著名游戏设计师的28岁哥哥。他是一个孤独的22岁男子，根据检察官的说法，他在七年级时被母亲带出学校，让他通过开发视频游戏来赚钱。他仍然和母亲住在一个位于车库楼上的小公寓里。卡斯蒂略把他的受害者安置在他在隔壁楼里租的一个房间里。

**卡维尔：**检察官描述了她被关押的房间是一个又小又潮湿的小房间，他在地板上扔了一张单人床垫。他给她买了染发剂，改变她的外貌。

**古拉：**奥利维亚说她和彭博社的游戏记者塞西莉亚·丹纳斯蒂奥设法确定 - 并且Roblox确认 - 卡斯蒂略在被捕当天在Roblox上活跃。他使用的用户名不同于DoctorRofatnik；但他仍然在该平台上活跃。他承认了“运输未成年人以从事犯罪性活动”和“胁迫和诱使未成年人”罪名，卡斯蒂略现在正在服刑15年。

**古拉：**自2018年以来，美国各地警方至少逮捕了两打人，他们绑架或虐待了他们在Roblox上认识的受害者。这是彭博商业周刊编制的数据显示。

**古拉：**奥利维亚和塞西莉亚联系了Roblox，请其发表评论。

**卡维尔：**我们收到了来自Roblox首席安全官Matt Kaufman的一份声明，他表示安全和文明是Roblox的基石。

**卡维尔：**他们说，每天有数千万人，无论年龄大小，在Roblox上都能获得安全和积极的体验。

**丹纳斯塔西奥：**Kaufman还否认了儿童危害是Roblox普遍存在或系统性问题的说法。他表示，公司拥有强大的系统和协议，旨在捕捉任何试图规避规则的人，包括试图让未满13岁的用户在Roblox之外进行对话的行为。

**古拉：**但奥利维亚和塞西莉亚表示，他们与现任和前任员工交谈后得知，2022年之前，Roblox并没有建立自动系统来主动搜索超出基本文本过滤之外的潜在危险行为。

根据他们的消息来源，那时候，“潜在危险行为”这个词甚至都没有出现在公司的管理指南中。

自阿诺德·卡斯蒂略被捕以来，Roblox已经做出了一些改变：

公司新增了两名儿童安全调查员和一个儿童虐待管理团队。还有一名儿童安全官直接向Roblox的首席执行官汇报。在7月15日，经过彭博商业周刊多次询问后，Roblox宣布将更改默认设置。今年秋天之后，9岁以下的用户将自动限制只能玩那些没有比轻微暴力和不真实血腥更令人不安的游戏。

家长将有选择让他们的孩子访问更成熟的内容的选项。但这个问题的规模才刚刚显现出来。

2022年，Roblox向国家失踪和被剥削儿童中心报告了近3000起儿童被剥削事件。到了2023年，这个数字增加到了超过13000起。

Gura: 真正让儿童安全专家担忧的是Roblox的野心。它是一家上市公司，正试图变得更大，为了实现这一目标，它的目标是每天拥有10亿用户。

Gura: 那么，你与很多公司的过去和现在的员工交谈过。他们对将公司扩大到那个规模的挑战以及同时扩大安全方面的事情有什么看法？

D’Anastasio: 很难找到一个平台，安全和增长不是对立的，而Roblox就是这样一个平台。我在公司交谈过的消息来源说，人工智能实际上无法察觉到诱导的微妙迹象。

Gura: 《彭博商业周刊》的八名现任和前任信任和安全工作者表示，Roblox的用户增长优先于儿童安全。他们描述了对更多资源的呼吁被无视，导致安全事件报告积压。

一位Roblox发言人对有关资源和积压的说法提出了异议，并表示公司正在开发“大量的安全功能”。

Roblox表示，每秒钟平台上发送50,000条聊天消息。但让Roblox难以监管的不仅仅是数量。

**达纳斯塔西奥：**如何判断一个头像是否在模拟性行为？如何判断一个头像是否在模拟强奸？这些都是巨大的挑战，我认为Roblox并没有完全应对。

**古拉：**您已经与在线安全专家交谈过。他们给那些孩子在这个虚拟世界中以及那些试图在很小的年龄就开始使用的孩子的父母们什么建议？

**达纳斯塔西奥：**在所有这些平台上，关于儿童安全的问题是父母能做什么？父母能做什么？父母如何能够进入他们孩子的设备并确保他们的安全？而不是必须有哪些默认设置？必须有哪些年龄限制措施？必须有哪些聊天过滤器？必须有哪些审查协议，这些公司应该雇佣多少审查人员？

我认为问题的一部分在于，父母们并没有必要的对这些平台的了解，这种了解对于他们真正向这些公司提出要求、或者要求政客提出具体要求是必要的。

我自己不是父母，所以也许我在说话时有些不妥，当然，他们可以禁用很多设置，但是，你知道，我们存在于一个平台渴望增长而安全与之相冲突的市场中。

而且，并没有很多法律或政策在迫使公司采取那些将保护儿童的常识措施。这是安全专家一遍又一遍地对我们重复说的事情。

**卡维尔：**这次谈话的很多内容都是如此阴暗和令人沮丧，虽然我们不想把责任推给父母，但Roblox应该做更多来保持其平台的安全性。他们甚至自己也这么说。他们一直在努力改进他们的安全措施。

但是有些事情是家长可以做的，他们应该知道。你知道，在这个应用中有安全功能。如果你做一些研究，你可以打开这些安全设置。它们不是默认开启的，但你可以进去为你的孩子做这些事情，与他们坦诚地谈论他们在游戏中的经历。让他们可以来找你进行这些对话。

我认为，你知道，家长应该主动关注他们的孩子在做什么，因为不幸的是，这些平台现在做得还不够。

本集由：大卫·福克斯制作；高级制片人：娜奥米·沙文和金·吉特尔森；编辑：亚伦·爱德华兹和罗伯特·弗里德曼；高级编辑：伊丽莎白·庞索特。执行制片人：尼科尔·宾斯特博尔；音效设计/工程师：亚历克斯·杉浦；事实核查：阿德里安娜·塔普**。**

沙特阿美公司的风险投资部门已经向韩国芯片制造商Rebellions Inc.投资了1.5亿美元，作为推动沙特阿拉伯人工智能产业发展的一部分。

Rebellions正在与三星电子公司合作开发其专有芯片，以服务生成式人工智能市场。这家初创公司于6月同意将其业务合并与竞争对手Sapeon Korea Inc.，这是SK Telecom Co.的一个单位，并表示正在考虑在韩国进行可能的首次公开募股。