《华尔街日报》："灾难配方"：内部人士警告Meta的隐私保护举措将为儿童性侵者提供庇护

当Meta 平台本月开始为Facebook私信部署加密功能时，这项被其安全团队员工长期警告将导致灾难性后果的项目正在推进。

这项加密功能（Meta表示也将应用于Instagram）是2019年首次宣布的隐私增强计划最终成果。早在此前，大卫·厄布等员工就曾内部警告：加密会限制平台检测和报告儿童性虐待内容的能力。

2018年，时任Facebook工程总监的厄布领导着专注检测有害行为的"社区诚信"团队。当团队开始研究成年人与未成年人的不当互动时，发现"可能认识的人"推荐算法竟是恋童癖锁定受害者的主要渠道。

“情况比我们预想的恶劣百倍，“厄布近期受访时透露，“数百万恋童癖正在瞄准数千万儿童。”

得知高管层正推进消息加密后，厄布向主管表明若实施加密将辞职——这会使团队发现的儿童安全问题无法追踪。数日内他便被撤职停岗，最终离职。

Meta将隐私称为基本人权，隐私倡导者也长期敦促科技企业采用这种"端到端"加密（仅收发双方可查看内容）。2019年3月马克·扎克伯格宣布该计划时称：“未来通讯将转向私密加密服务，人们能确信对话安全无虞。”

Meta首席执行官马克·扎克伯格一直是推动公司隐私保护举措的核心人物。图片来源：Andrej Sokolow/DPA/Zuma Press他也承认其中风险，表示这一转型需要与执法部门合作，以预防可预见的滥用行为。“当数十亿人使用某项服务进行联系时，其中难免有人会将其用于儿童剥削、恐怖主义和勒索等极端恶劣的用途，“扎克伯格写道。

发言人安迪·斯通表示，Meta此后一直致力于应对这些风险，称公司"花费多年时间在Facebook和Instagram上建立了完善的安全措施，以预防和打击滥用或非法活动”。

尽管包括苹果在内的其他公司已在其通讯平台实施类似加密技术，且Meta旗下的WhatsApp已是全球最大加密通讯应用，但这些服务通常不会让用户与陌生人建立联系。

Facebook和Instagram均具备强大的搜索和推荐功能，允许用户查找并向陌生人发送消息。为这类服务添加加密技术后，陌生人之间的通信将完全隐匿——包括不法分子接触儿童的行为。

其他具有类似发现功能的社交媒体平台均未提供加密服务。TikTok于2020年全面禁止16岁以下用户使用私信功能，并要求16岁以上青少年主动选择开启收发消息权限。该平台表示不提供加密是因为"我们高度重视保障年轻用户的安全体验”。YouTube则在2019年取消了私信功能，称希望"专注于改善公共对话质量”。

Meta表示已采取措施，使未成年用户的通信更安全。该平台限制自称年龄超过19岁的用户主动与未关注他们的青少年发起对话，并致力于阻止行为可疑的成年人与青少年账户互动。

隐私权倡导者指出，在数字时代，加密技术对于保护通信免受政府、黑客及平台运营企业的窥探至关重要。“每个人都需安全保障，在这个个人信息被罪犯、警察和企业肆意利用与滥用的世界里，端到端加密乃至更广泛的网络安全应成为全民优先事项，“美国公民自由联盟在10月的声明中强调。

与此同时，执法机构与儿童安全倡导者长期担忧加密技术会加大打击儿童性剥削犯罪的难度。

“对你来说太老了”

据法庭文件显示，当Meta员工准备实施Facebook消息加密时，芝加哥地区的卡尔·奎尔特正通过Facebook和另外两个通讯平台向菲律宾未成年女孩索要色情照片。他在Facebook上使用"马修·琼斯"的化名。

2020年5月，奎尔特在女孩16岁生日前两周开始通过Facebook与其聊天。他自称55岁，“对你来说太老了”，但数日后便要求对方发送胸部及私处照片，并承诺提供购药钱款和家庭食品费用作为交换。

女孩上传了三张裸照，并说道：“我这样做是为了帮助我的兄弟姐妹们，让他们能多吃一天饭。”

奎尔特继续在Facebook上给女孩发信息，告诉她自己将在那年12月访问菲律宾，并要求她承诺将她的童贞献给他。

Facebook的调查人员发现了这些信息，并将它们转交给了当局。直到最近，该公司还允许某些员工筛选信息，以发现潜在的儿童性虐待和对人类生命的紧迫威胁。联邦调查人员发现，奎尔特一直在使用同一个Facebook账户，向至少八名菲律宾女孩索取性内容。

奎尔特于2020年11月被捕，距离他计划的旅行还有一个月。今年，他因对儿童进行性剥削认罪，被判处30年联邦监禁。

“他们的信任与安全团队能够访问信息起到了关键作用，”调查奎尔特的国土安全部芝加哥办公室负责人布莱恩·菲茨杰拉德说。“一个随机的陌生人不应能在初次接触后就与未成年人进行加密通信。”

‘Meta独有的灾难配方’

在Facebook上推出加密功能之前，Meta曾考虑采取措施限制全面加密的使用情况，并考虑允许某些员工在特定情况下收集额外数据或访问信息。Meta前青年政策负责人Vaishnavi J表示，内部曾讨论过将Facebook和Instagram上的儿童账户排除在加密之外。

据她和其他前员工向《华尔街日报》透露，这些措施被否决的原因，既是为了避免为平台上青少年用户的遭遇承担潜在责任，也因为这将要求员工持续投入时间和资源处理问题行为。J在今年早些时候的裁员中失去了工作，此次裁员是扎克伯格所称Meta“效率之年”计划的一部分。

“Meta总是辩称这是全行业共有的问题。但没有其他公司会将推荐算法与加密通讯功能结合，”她说，“这是Meta独有的灾难配方。”

Meta位于加州门洛帕克的园区。该公司已开发内部工具以更好地利用未加密数据，试图弥补无法查看消息内容的缺陷。图片来源：Justin Sullivan/Getty ImagesMeta发言人斯通称，关于成本或节省人力因素影响未成年用户加密豁免决策的说法“荒谬至极”。

现任Meta首席信息安全官的盖伊·罗森曾在2019年5月告知员工，实施消息加密后，需通过公司仍能获取的未加密数据，采用不同方法识别恶意行为者**。**

他在《华尔街日报》查阅的内部脸书帖子中写道：“我们必须全力以赴，在加密私密通讯的限定范围内，采取一切可行措施保障用户安全。”

部分员工对此举表示支持，也有人表达了担忧。一名员工写道，如此广泛地引入加密技术将带来"未知的未知数”——即公司无法完全预见的各种潜在滥用行为。

“我个人认同这些担忧并曾明确表态，“罗森回复道，“我们能做的最好的事就是把这个项目执行到位。”

罗森通过Meta公司表示不予置评。

Meta安全团队能采取的解决方案存在局限性。埃尔布在了解加密计划后，曾向WhatsApp有加密经验的同事咨询如何解决儿童剥削问题。他回忆说，同事们表示Facebook必须限制其推荐和内容发现功能，以避免出现埃尔布所担忧的 predatory 行为。

埃尔布称，Meta高管拒绝了他的团队提出的通过"可能认识的人"算法停止向成年人推荐未成年人的方案，且公司对大规模封禁其团队识别出的数百万个涉嫌儿童剥削的账户缺乏积极性。

斯通反驳了Meta未充分回应团队调查结果的说法，表示这项工作促使公司开始避免向疑似施虐者推荐青少年，相关措施在数月内对数百万个行为异常的账户实施了限制。斯通称，自2020年以来，Meta已取缔32个涉及16万个账户的儿童剥削网络。

Meta已建立内部工具"MACSA”（恶意儿童安全行为者）来更好地利用未加密数据，以弥补无法查看消息的缺陷。该系统会标记存在可疑互动的账户，例如多次被年轻用户屏蔽的成年用户，或发布过儿童剥削内容被删帖的账户。

在《华尔街日报》六月的一篇文章揭露Instagram算法如何关联并推广公开涉及未成年人性内容的账户后，Meta加强了Macsa系统。该算法现已整合60种行为特征指标。若用户触发过多警示信号，Meta将限制其查找和联系儿童的功能，甚至可能封停账户。

车辆驶过加州门洛帕克Meta总部入口处的标识。该公司是向美国国家失踪与受虐儿童中心提供线索的最大来源，其中多数线索依赖于将被停止扫描的通讯内容。图片来源：Kori Suzuki/华尔街日报现任及前任员工表示，Macsa系统虽具价值，但无法替代端到端加密将削弱的调查能力。

倡导网络安全的非营利组织ConnectSafely首席执行官拉里·马吉德指出，加密通讯虽可能增加调查难度，但能通过隔绝潜在性犯罪者获取未成年人通讯的途径来提升安全性。作为Meta安全咨询委员会成员，其组织接受包括Meta在内的科技公司资助。

马吉德补充道：“部分未成年人会通过通讯应用向可信赖对象分享位置信息、医疗状况、心理健康问题、性取向等高度隐私内容。”

诱骗离家

去年，加州一名15岁女孩在成人礼派对前夕失踪，她的朋友和小妹妹告诉警方，她一直在Instagram上与一个名叫“安吉尔”的男子聊天。

警方确认安吉尔是38岁的丹尼尔·纳瓦罗，但他否认知道法庭文件中称为A.T.的女孩的下落。通过搜查令获得的他们之间的Instagram信息却讲述了另一个故事。法庭文件称，纳瓦罗数月来一直在向A.T.索取露骨图像，并声称会让她怀孕。

法庭文件称，纳瓦罗诱骗她离家，并将她带到墨西哥。当局利用这些信息获得了逮捕令，在他返回美国时将其抓获，并从他在蒂华纳的父亲家中找回了A.T.。纳瓦罗正等待审判，罪名是引诱和运输未成年人意图从事犯罪性活动。他拒不认罪。

Meta是国家失踪与受虐儿童中心最大的线索来源，这些线索随后可以转交给执法部门。2022年，Meta向该中心报告了超过2600万起儿童剥削事件。其中超过2000万起依赖于公司检测到的Instagram和Facebook信息内容，无需用户协助，这项工作在加密信息下将无法进行。

“除非未成年人实际上向平台报告，否则没有人知道这种情况正在发生，”该中心的高级副总裁约翰·谢汉说。

Meta表示，已成功提高年轻用户标记不当信息的频率，这将使公司能够在加密下裁决更多虐待报告。

Instagram上的敲诈勒索

去年某天早晨，詹妮弗·布塔醒来时，发现她17岁的儿子乔丹·德梅自杀了。

根据法庭文件，前一天晚上，尼日利亚的诈骗者使用一个被黑的账户，假装是一个在Instagram上与他调情的女孩，引诱他发送裸照。据称，这些诈骗者随后威胁说，除非他支付1000美元，否则就把照片发给他认识的所有人。德梅没有足够的钱满足他们的要求，并表示如果他们真的实施威胁，他就会自杀。

“好啊。快点做吧。”诈骗者回复道。

2021年圣诞节，詹妮弗·布塔和她的儿子乔丹·德梅。照片：詹妮弗·布塔德梅在与诈骗者首次接触后不到六小时就自杀了。在他自杀前，他从手机上删除了对话。警方从Instagram上恢复了这些信息，以及据称诈骗者与100多名其他受害者的通信，这些材料为起诉并将两名男子引渡到美国铺平了道路。他们已表示不认罪，正在等待审判。

“如果警方无法获取这些信息，我可能还在想乔丹为什么自杀，”她说。“在Instagram上加密信息将为那些能接触到我们孩子的人创造一个温床，让他们认为‘我永远不会被抓到’。”

写信给杰夫·霍维茨，邮箱：[email protected]，凯瑟琳·布伦特，邮箱：[email protected]

出现在2023年12月23日的印刷版中，标题为《Meta内部人士对其加密推进发出警告》。