《华尔街日报》：Instagram算法向关注儿童的成人推送有害视频合集

Instagram的Reels视频服务旨在向用户推送系统判定其可能感兴趣的短视频流，内容涵盖体育、时尚或幽默等主题。

《华尔街日报》测试显示，这款Meta Platforms拥有的社交应用同样会向被算法判定可能对儿童存在不健康兴趣的用户推送相关内容。

该报通过建立仅关注年轻体操运动员、啦啦队员及其他活跃在平台上的青少年网红测试账号，试图探究Instagram的Reels算法会推荐何种内容。

Instagram系统向这些测试账号推送了大量令人不适的露骨内容，包括儿童性感影像、成人色情视频，以及部分美国知名品牌的广告。

《华尔街日报》在观察到这类青少年账号的数千粉丝中常包含大量成年男性，且许多关注者同时表现出对儿童及成人色情内容的兴趣后，设立了相关测试账号。该报还测试了在关注这些用户后算法的推荐内容，结果出现了夹杂广告的更为令人不安的内容。

在Instagram推荐的视频流中，约会应用Bumble的广告出现在以下两个视频之间：一个视频展示某人抚摸真人大小乳胶娃娃的面部，另一个视频中面部被数字模糊处理的少女掀起上衣露出腹部。另一案例中，必胜客广告紧跟着一段视频播放——画面里男子躺在床上，手臂环抱字幕所称的10岁女童。

加拿大儿童保护中心（一家儿童保护组织）独立进行了类似的测试，结果相似。

Meta表示，《华尔街日报》的测试制造了一种不反映数十亿用户真实体验的场景。该公司未解释算法为何会汇总展示儿童、性内容和广告的独立视频流，但一位发言人指出，Meta已于10月推出新的品牌安全工具，让广告主能更好地控制广告展示位置，且Instagram每月会删除或降低约400万条疑似违规视频的曝光度。

《华尔街日报》6月曾报道，Meta旗下Facebook和Instagram的算法为大量对儿童性剥削内容感兴趣的用户建立了联系。Meta发言人回应称，报道发布后成立的工作组已扩大自动化监测系统，每月封禁数万个可疑账户。该公司还加入了新的行业联盟以共享儿童剥削潜在迹象。

测试中出现广告与不当内容并排的品牌包括迪士尼、沃尔玛、在线约会公司Match Group、销售勃起功能障碍药物的Hims及《华尔街日报》自身。多数品牌零售商要求其广告不得出现在性暗示或露骨内容旁。

“我们的系统能有效减少有害内容，并已在安全、安保和品牌适用性解决方案上投入了数十亿美元，”负责与广告行业关系的Meta副总裁萨曼莎·斯泰森表示。她称Instagram上不当内容的出现率很低，公司正投入巨资进一步降低其存在。

Instagram母公司Meta（总部如图，位于加州门洛帕克）推出Reels功能与短视频平台TikTok竞争。图片来源：Kori Suzuki/华尔街日报在《华尔街日报》联系到测试中广告与不当视频相邻的企业后，多家公司表示Meta已告知正展开调查，并将出资聘请第三方机构进行品牌安全审计。

由于认为Meta对其投诉的回应不尽人意，Match集团自10月起开始逐步取消旗下Tinder等应用在Meta平台的广告投放。目前该集团已全面停止Reels广告，并终止了所有主要品牌在Meta各平台的推广。“我们绝不愿意付费让Meta将品牌推向潜在侵害者，或使广告与这类内容相邻。”Match发言人贾斯汀·萨科强调。

Bumble发言人罗比·麦凯表示“绝不会故意将广告投放在不当内容附近”，公司已暂停在Meta所有平台的广告投放。

迪士尼品牌管理副总裁查理·凯恩称，公司对社交媒体广告内容设定了严格标准，并持续敦促Meta等平台完善品牌安全功能。一位发言人透露，自《华尔街日报》向迪士尼提交调查结果后，公司已推动Meta“最高层面对此问题进行处理”。

沃尔玛拒绝置评，必胜客未回应置评请求。

Hims公司表示将敦促Meta避免此类广告投放，并认为Meta承诺解决该问题的态度令人鼓舞。

《华尔街日报》称对其广告与明显成人性行为视频相邻出现表示震惊，将要求Meta采取行动。

Meta创建Reels是为了与北京字节跳动旗下短视频平台TikTok竞争。两款产品都向用户持续推送他人发布的视频流，并通过插播广告盈利。两家公司的算法会根据用户过往观看行为，推送平台计算出最可能吸引其停留的内容。

《华尔街日报》记者在新购设备上以成人身份创建Instagram测试账号，关注体操运动员、啦啦队员等年轻网红。测试显示，仅关注未成年女孩会触发Instagram推送成人色情内容账号视频，并与沃尔玛等消费品牌广告并列展示——例如某女性暴露下体的视频后立即播放了沃尔玛广告。

当测试账号再关注那些同样关注未成年账号的用户时，平台推荐内容更加令人不安：既有成人色情内容，也有儿童性暗示素材，包括穿着衣服的女孩抚摸躯干的视频，以及儿童模仿性行为的画面。

算法推荐系统专家指出，测试表明尽管体操看似无害话题，但Meta的行为追踪已识别出部分关注青春期前女孩的Instagram用户存在观看性化儿童内容倾向，并据此定向推送。

“小众内容比大众兴趣内容能提供更强烈的信号，”加州大学伯克利分校人类兼容人工智能中心的高级科学家乔纳森·斯特雷表示。

在《华尔街日报》的测试账户中，如上图所示的迪士尼乐园广告出现在具有性暗示性质的视频旁边。一位迪士尼高管表示，公司已敦促Meta改进品牌安全功能图片来源：达尼亚·马克斯韦尔/洛杉矶时报/盖蒂图片社Meta现任和前任员工在采访中透露，Instagram算法从全站聚合儿童性化内容的倾向在内部被视为已知问题。他们表示，一旦Instagram将用户标记为对某类内容感兴趣，其推荐系统就会持续推送更多相关内容。

据这些员工称，要阻止系统向对此类内容感兴趣的用户推送有害信息，需要对同样服务于普通用户的推荐算法进行重大调整。《华尔街日报》查阅的公司文件显示，平台安全人员被普遍禁止实施任何可能导致日活用户数量可测量下降的改动。

测试账户显示，问题Reels流中经常插入广告。一则宣传迪士尼乐园假日游的广告旁，播放着成人模拟与父亲发生性关系的视频，以及另一名年轻女性身着内衣、嘴角滴落假血的画面。Hims公司广告紧接在一段明显处于痛苦性侵情境的女性视频之后出现，并附有所谓"完整视频"的链接。

据前员工透露，早在2020年Reels上线前，Meta员工就已意识到该产品存在安全隐患。

部分问题在于：相比文字或静态图片，自动化审核机制更难解析视频内容。另一重挑战来自Reels的运作机制——与Instagram和Facebook其他功能通常展示好友分享的内容不同，Reels会推送用户未关注来源的视频。

两位前员工透露，在Reels推出前的内部安全分析中，Meta安全人员曾预警该产品可能将儿童视频与不当内容串联展示的风险。Meta前青少年政策负责人Vaishnavi J表示，安全审查提出的建议是：“要么提升内容检测能力，要么停止推荐任何未成年人内容（即所有儿童相关视频）"。

当时TikTok迅猛发展，正吸引着Instagram年轻用户及其目标广告商的注意力。据J所述，Meta当时并未采纳安全分析报告中的任何建议。

Meta数字广告业务联络人Stetson反驳了公司忽视儿童安全问题的指控：“我们在全面推广前对Reels进行了近一年的测试，配备了完善的安全管控措施。”

视频分享平台对社交媒体公司的吸引力在于：相比文字或静态图片，视频能更长时间吸引用户注意力，这对广告商极具诱惑力。

社交媒体平台偏爱视频内容，因为相比文字或静态图片，视频更能长时间吸引用户注意力。图为Meta首席执行官马克·扎克伯格在9月的一场活动中。图片来源：Godofredo A. Vásquez/Associated Press在初期难以充分释放Reels产品变现潜力后，Meta已优化其算法推荐机制，为用户提供更个性化的视频流服务。

社交媒体平台与数字广告代理商常将不当广告投放归咎于意外失误。但《华尔街日报》与加拿大儿童保护中心运营的测试账户显示，Meta平台似乎有意向对性内容感兴趣的用户定向推送某些数字营销内容。

测试账户中反复出现的广告包括：含有成人裸露内容的"约会"应用与直播平台、提供"特殊服务"的按摩院，以及专为网络性爱设计的人工智能聊天机器人。根据Meta自身政策，此类广告本应被禁止。

《华尔街日报》于8月就测试结果向Meta发出通报。此后数月的跟踪测试表明，该平台仍在持续推送包含幼童画面、成人内容及疑似儿童性剥削材料推广的系列视频。

该非营利组织指出，截至11月中旬，Instagram仍在稳定推荐其所谓的"成人及儿童进行性暗示摆拍"内容。

在《华尔街日报》开始就广告投放问题联系广告商，且相关公司提出质疑后，Meta告知他们正在调查此事，并将支付品牌安全审核服务费用，以确定企业广告出现在其认为不可接受的内容旁的频率。

Meta尚未提供解决问题的时间表，也未解释未来将如何限制涉及儿童的不当内容推广。

《华尔街日报》的测试账户发现，该问题甚至影响到Meta旗下品牌。其WhatsApp加密聊天服务和Ray-Ban Stories智能眼镜的广告曾出现在成人色情内容旁。由Meta前首席运营官雪莉·桑德伯格运营的公益组织"Lean In Girls”（旨在赋能年轻女性）的广告，则直接出现在一位常穿学生制服演出的成人色情内容创作者推广内容之前。桑德伯格拒绝置评。

加拿大儿童保护中心通过自身测试得出结论：Instagram定期推送的 clothed children（着衣儿童）视频和图片，同时出现在美国国家失踪与受虐儿童中心的数字数据库中——该数据库收录的影像资料均被确认为儿童性虐待材料。该组织表示，施虐者常利用这些女孩的图片在暗网论坛兜售非法内容。

加拿大儿童保护中心执行主任莉安娜·麦克唐纳指出，这类内容（通常不展示裸体但对儿童进行性化）的特性，体现了社交媒体如何改变了网络儿童性虐待的形态。该组织对Meta的算法实质上可能助长儿童性虐待网络社区招募新成员的能力表示担忧，这些社区会大量散布通往更私密论坛的非法内容链接。

“一次又一次，我们看到推荐算法引导用户发现并深陷这些网络剥削儿童的社区，”麦克唐纳说道，并指出令人不安的是，这一过程竟由各大公司的广告收入所资助。

罗比·惠兰对本文亦有贡献。

联系杰夫·霍维茨，邮箱：[email protected]；联系凯瑟琳·布朗特，邮箱：[email protected]

本文发表于2023年11月28日印刷版，标题为《Instagram推送有毒视频合集》。