Meta正努力将恋童癖者赶出Facebook和Instagram——《华尔街日报》

Meta 平台公司花费数月试图解决Instagram和Facebook上的儿童安全问题，却仍难以阻止其系统助长甚至推广庞大的恋童癖账号网络。

这家社交媒体巨头在《华尔街日报》与斯坦福大学、马萨诸塞大学阿默斯特分校研究人员揭露Instagram算法关联未成年人色情内容交易账号网络后，于六月成立了儿童安全专项组。

五个月后，本报与加拿大儿童保护中心的测试显示，Meta的推荐系统仍在推广此类内容。该公司已删除涉及恋童癖的话题标签，但其系统有时会推荐略有变化的新标签。即便收到问题账号和用户群组的举报，Meta的清理行动也时断时续。

测试表明该问题已从Instagram蔓延至更庞大的Facebook群组生态，包括多个公然以儿童性化为主题的大型群组。全球月活用户超30亿的Facebook，一直将群组功能作为连接同好用户的核心卖点。

Meta发言人表示公司已从Facebook搜索结果中屏蔽19万个群组，封禁数万账号，但进展未达预期。“剥削儿童是令人发指的罪行，网络捕食者是顽固的罪犯，“发言人补充说Meta近期宣布将与其他平台合作铲除这类行为，“我们正持续推进今年早些时候专项组制定的整改措施。”

公司表示，还采取了其他方法来发现并删除违反其儿童剥削政策的账户，并改进了技术以识别直播视频中的成人裸体和性行为。

Meta的总部位于加州门洛帕克（如上图所示），于6月成立了一个儿童安全工作组。照片：Ian Bates为《华尔街日报》拍摄斯坦福互联网观察站一直在研究互联网平台对儿童性内容处理的情况，在9月的一份报告中肯定了Meta的一些进展，但提到Instagram上恋童癖者之间的联系时表示，“整体生态系统仍然活跃，内容执行方面还有很大的改进空间。”

加拿大儿童保护中心是一家非营利组织，致力于开发自动筛查工具以保护儿童，该组织表示，一个拥有多达1000万粉丝的Instagram账户网络在被举报给公司数月后，仍在直播儿童性虐待视频。《华尔街日报》的测试显示，Facebook的算法帮助建立了专门用于交易儿童性虐待内容的大型Facebook群组。

Meta表示，其工作组（有时有超过100名员工）已禁止了数千个恋童癖者用来推广或搜索儿童性化内容的标签，删除了恋童癖账户，并为内容审核员提供了更多指导。公司表示，正在努力加强软件工具，限制其算法连接恋童癖者，并帮助锁定吸引他们的论坛和内容。

近年来，Meta已将注意力和资源转向人工智能、虚拟现实和元宇宙领域。据现任及前任员工透露，过去一年的大规模成本削减导致数百名专注于"高严重性"内容安全员工被裁，其中包括部分儿童安全专家。

Meta表示公司持续投资儿童安全工作，包括组建团队专门识别并移除平台上的儿童剥削内容。

Meta始终不愿大幅限制其个性化内容推荐系统——正是这套系统助其成为全球最大社交媒体公司。发言人表示，粗暴限制或移除那些也能连接用户与合规内容的功能并非防止不当推荐的合理方案，公司正通过安全投入维护平台健康。“我们的系统每天帮助数百万用户找到与其相关的积极兴趣小组”，他举例称包括癌症互助群组和招聘信息。

《华尔街日报》查阅的公司文件显示，今年早些时候Meta高管层曾指示负责用户安全问题的诚信团队优先考虑"减少广告商摩擦"和避免"意外限制产品善意使用"等目标。在被曝光的规划文件中，这些任务的优先级被排在了儿童剥削等有害内容治理等传统安全工作之前。

“对于诚信团队成员而言，确保社区安全是他们的首要任务，这是不言而喻的，”Meta发言人表示。

与其他科技公司一样，Meta长期以来不得不打击利用其平台诱骗儿童或交易儿童性虐待材料的行为。《华尔街日报》6月的文章显示，Instagram不仅托管此类活动，其推荐系统还将恋童癖者相互联系起来，并引导他们找到内容卖家。

在过去五个月中，对于查看过包含关于儿童的不当讨论的公开Facebook群组的《华尔街日报》测试账户，Facebook的算法推荐了其他名称如“小女孩”、“漂亮男孩”和“仅限青少年”的群组。这些群组中的用户在性语境下讨论儿童，发布据称涉及虐待的内容链接，并组织私人聊天，通常通过Meta自己的Messenger和WhatsApp平台进行。《华尔街日报》记者没有发表评论、点击任何链接或加入任何聊天。

部分得益于Facebook的“你应该加入的群组”算法，此类论坛的成员数量可以迅速膨胀。在一个庆祝乱伦的公开群组中，20万用户讨论了诸如一个男人的侄女在9岁时是否“准备好了”等话题，并安排交换据称涉及他们自己孩子的性内容。在另一个拥有80万用户的群组中，管理员分享了女学生的图片，以推广一个名称涉及女性内衣的西班牙语网站。

当《华尔街日报》的研究账户通过用户报告标记了许多此类群组时，公司经常宣布这些群组是可以接受的。“我们已经查看并发现该群组不违反我们的社区标准，”Facebook在回复关于一个名为“乱伦”的大型Facebook群组的报告时表示。

直到《华尔街日报》将特定群组提请Meta通讯团队注意后，该公司才将其删除。

该问题不仅限于Instagram，还涉及更广泛的Facebook群组生态系统。图片来源：Wilfredo Lee/美联社Meta表示，经过改进的软件工具将通过限制恋童癖账户在其平台上的联系能力来解决此类问题。这项工作重点扩展了一项技术的应用，该技术旨在通过评估用户行为来识别"潜在可疑成年人”，以确定他们是否对儿童构成威胁。

此前该技术已被用于限制被Meta系统判定可能属于恋童癖者的Facebook或Instagram账户查找和联系儿童。Meta现在计划利用该技术阻止恋童癖者相互关注并形成志同道合的群组。该技术旨在限制推荐表现出可疑行为的账户和群组。

Meta发言人表示，公司首次开始禁用可疑行为评分超过特定阈值的个人账户。

今年五月，美国一位外部研究人员记录了一个Instagram账户网络（部分账户拥有数百万粉丝）正在直播儿童性虐待视频。该研究人员向Meta和当局报告了此活动。《华尔街日报》也向Meta通讯团队标记了这些账户，当时该公司表示正在调查。

Meta在10月下旬表示已封禁数百个账户。但据加拿大儿童保护中心的独立调查显示，在该网络被举报给Meta五个多月后，相关账户仍在定期发布混合成人色情、儿童性虐待和兽交视频的内容。

“我们经常困惑，‘为什么我们能在几分钟内就发现这些庞大的犯罪网络？’“该中心主席Leanna McDonald质疑道，“为什么平台方没有人处理这些问题？”

斯坦福互联网观察站的研究人员发现，当Meta删除其认为涉及恋童癖的Instagram或Facebook话题标签时，系统往往无法识别——有时反而会推荐——仅做了细微变体的新标签。例如在禁用#Pxdobait标签后，搜索推荐会引导用户在原词组末尾添加特定表情符号。

斯坦福团队向Meta提供了Instagram儿童性剥削社群热门群组分析报告。五个月后，部分被标记的群组仍在运营。

Meta发言人回应称，解散群组是复杂且耗时的过程。该公司表示，自7月1日起已因违反儿童安全政策移除了16,000个群组。

斯坦福互联网观察站首席技术官David Thiel指出这些群组本应更容易审核：“通过成员交叉分析就能轻松排序群组，排名靠前的几乎全部存在问题。”

尽管Meta允许用户举报违规内容，但《华尔街日报》6月的报道显示，其系统经常忽略或驳回儿童剥削内容的举报。Meta当时回应称已发现并解决导致大量用户报告未被处理的软件故障，并正在为内容审核员提供新培训。

然而，在《华尔街日报》向Meta举报涉及儿童色情的Facebook群组问题四个月后，由该报研究账号提交的相关用户举报仍未得到常规处理。

Meta曾表示其审核准确率约为90%。但该公司5月的内部审查发现，其对用户举报未成年人色情内容的处理决定经常难以解释。

Meta聘请外部承包商协助内容审核。其6月成立的儿童安全工作组派团队前往孟买——该公司外包审核人员的最大枢纽。

调查团队发现审核员培训不足，且Meta的IT系统有时会显示空白屏幕，而非本应审核的"高敏感度"内容。其他案例中，合同工被要求审核他们不懂的外语文本。

Meta承认这些缺陷，并表示已取得改进进展。

但在春末至夏季期间，该公司裁减了儿童安全专家及全球运营团队（负责处理有时涉及儿童安全的"高敏感度"内容审核问题）的相当部分人员。在Meta全球内容审核总部都柏林，超过130名员工被裁，部分面向北美的安全工作被转交给中东北欧团队。

Meta发言人表示被裁的都柏林员工仅偶尔处理儿童安全问题。

Meta的全球内容审核中心设在都柏林。其办公室位于该市硅港区，如上图所示。摄影：Paulo Nunes dos Santos/彭博新闻社“对涉嫌包含儿童性化材料的内容进行人工审核，是由经过专门培训的人员完成的，”一位发言人表示。

在《华尔街日报》于6月公布调查结果后，Meta表示正在重新权衡儿童安全与赋予用户最大自由之间的关系。

此前，Meta一直拒绝封禁Instagram和Facebook上的#CP标签（恋童癖者常用的“儿童色情”缩写），因为同样的首字母组合有时被用于关于脑性麻痹（cerebral palsy）和西班牙语鸡汤（caldo de pollo）的帖子。

Meta限制了这个术语及包括#乱伦和#洛丽塔在内的数千个其他术语的可搜索性。

斯坦福大学研究人员9月对Instagram的审查发现，一些他们在春季发现的未成年性内容卖家仍拥有活跃账户，并通过微调之前的标签来推广非法材料。

Instagram的一个旨在帮助用户发现新内容的系统，会在用户输入搜索词时自动推荐个性化的变体。斯坦福研究人员发现，即使对于Meta已禁止的搜索词，这种情况也会发生。

在《华尔街日报》的一个Instagram测试账户上，Meta不允许显示“儿童链接”的搜索结果，但系统却推荐了一个替代词：“儿童色情链接”。在《华尔街日报》查询后Meta屏蔽该术语后，系统又开始推荐新短语，如“儿童内衣”和“childp链接”。

近日，Facebook的"推荐加入的群组"功能中，竟出现了涉及绑架、与11岁幼童"约会"甚至用氯仿迷晕女性等犯罪话题的群组推荐。

在《华尔街日报》向Meta公司举报这些氯仿迷药群组后，该公司将其下架。然而两周内，一个专门讨论用氯仿迷晕儿童、拥有1800名成员的群组再次出现在Facebook的推荐列表中。

在该群组中，用户上传了用布条捂住女孩面部的照片。一名成员发布了一张微笑幼女的照片并配文"适合绑架吗？"，其他成员纷纷表示认同。

经《华尔街日报》标记举报后，Meta公司也移除了该群组。

联系记者杰夫·霍维茨请致信[email protected]，联系凯瑟琳·布伦特请致信[email protected]

本文发表于2023年12月2日印刷版，原标题为《Meta平台难阻恋童癖泛滥》。