Twitch“剪辑”功能被用来利用未成年人-彭博社

该公司推出了新的电话验证要求，并正在开发技术来捕捉和终止属于13岁以下儿童的账户。

摄影师：Gabby Jones/Bloomberg2023年春天，一名12岁男孩在亚马逊旗下的热门直播网站Twitch上直播，吃三明治并吹法国号。几分钟后，约有十几名观众加入了他。通过Twitch的聊天功能，有人要求他做一个空翻，另一个要求他展示他的肌肉。

作为回应，男孩拉下了他的裤子。整个事件瞬间结束，但一名观众使用了名为“剪辑”的功能，捕捉了这个瞬间，制作了一个20秒的视频。结果的视频已经被观看了130多次。

Twitch计划在今年扩展“剪辑”功能。作为先前宣布的扩展的一部分，该公司将鼓励更多用户将瞬息直播事件转化为短视频，以便在即将推出的发现动态中展示，或者轻松导出到其他社交网络，包括TikTok。现在，在此举之前，网络安全专家警告称，该工具已经被儿童色情者利用，记录并分享未成年Twitch用户的虐待行为。

Bloomberg News对Twitch上近1100个视频进行的分析发现，至少83个短视频包含涉及儿童的性内容。加拿大儿童保护中心对这些材料进行了审查，发现其中有34个视频展示了年轻用户（主要是5至12岁的男孩）向摄像头展示生殖器官，而且通常是在直播过程中受到观众鼓励后才这样做。另外49个视频包括涉及未成年人暴露身体部位或受到诱导的性内容。

据该中心称，这34个最严重的视频已被观看了2700次。中心指出，其他不当的视频已被观看了7300次。当观众捕捉到涉及性侵行为的直播时，这些视频“几乎成为了那种性虐待的永久记录”，该中心的主任Stephen Sauer说。

“一旦最初的直播和诱导事件发生，就会发生更广泛的受害，因为这些材料可能会进一步传播，”他说。

在Bloomberg提醒公司之后，Twitch删除了违规内容。Twitch首席执行官Dan Clancy在一份声明中说：“青少年在任何在线平台上受到伤害都是非常令人不安的。即使是一次也太多了，我们非常重视这个问题。”

Twitch最初于2016年推出了视频片段功能。在过去一年里，面对来自字节跳动旗下的短视频平台TikTok的更大竞争，Twitch的产品团队将片段的扩展作为一个主要关注点。与此同时，据熟悉安全协议的人士透露，片段功能仍然是该网站上受监管最少的功能之一，他们在讨论公司内部运作时要求匿名。

在声明中，克兰西表示，“有效打击儿童侵害”需要合作。他指出，Twitch正在与各个机构合作，并取得了“重大进展”。克兰西表示，通过不断审查Twitch上的直播内容，公司正在阻止“有害视频片段的产生和传播”。Twitch还在积极地“删除和禁用”有害视频片段，同时确保这些视频“不会通过公共域名或其他直接链接提供”。

“和其他在线服务一样，这个问题是我们将继续努力解决的，”他补充道。

多年来，公司高管一直在努力消除Twitch上的儿童诱导行为，Twitch托管了超过96,000个直播频道和700万月度广播者。2022年，彭博新闻报道称，儿童侵害者经常利用Twitch实时追踪儿童，似乎有超过297,000名儿童成为目标。

自该报道以来，Twitch已经宣布了几项变化。该公司推出了新的电话验证要求，并正在开发技术来捕捉和终止13岁以下儿童的账户。该公司还加大了对先前被禁止的未成年人创建新账户的限制。Twitch使用语言分析工具来检测儿童诱导行为，并使用人工智能技术来标记裸露内容。

今年4月，Twitch裁员了至少15%的内部信任和安全团队，并增加了对外部提供商的依赖，以识别和删除有问题的内容。目前，Twitch主要集中监控其直播内容，该公司表示会使用人工审核员、人工智能和其他工具进行审核。相比之下，在审核视频片段方面，Twitch完全依赖用户举报可疑或令人不安的内容。

2022年最后一个季度，Twitch每天检测到318起表面上的儿童诱导行为，其中五分之一导致账户被暂停，根据澳大利亚网络安全专员最近的一份报告。

专家表示，Twitch的设计固有地存在着内容审核的挑战。通常，像YouTube和Instagram这样的社交媒体网站可以通过将新内容与先前包含类似内容的来源进行比较来识别用户试图上传滥用视频的情况。在Twitch的直播中，儿童被猎取的情况是实时发生的，因此没有先前的视频可以进行比较。

“哈希技术寻找与先前看到的内容匹配的内容，”美国国家失踪与被剥削儿童中心的Lauren Coffren说道。“直播意味着这是全新的。”

四月份，一群美国参议员跨党派提出了《保护社交媒体上的儿童法案》，旨在改善Twitch等用户生成内容网站上儿童的安全。

Sauer表示，社交媒体公司不能再被信任来自我监管。“我们已经在一旁看着这个行业进行自愿监管25年了，”他说。“我们知道这根本行不通。我们看到太多孩子在这些平台上受到剥削。我们希望政府介入并说，‘你们必须建立这些保障措施。’”