TikTok给青少年推送黑暗内容——《华尔街日报》

美国禁止TikTok的呼声日益高涨。政府官员正试图将这款中国所有的热门短视频平台排除在学校、公务人员乃至全州范围之外，理由是用户数据可能落入不法分子手中。

但相比数据隐私，TikTok算法的操控力或许更令人忧心——尤其对家长而言。

一项最新研究显示，当研究人员注册虚构的13岁青少年账号后，该平台立即推送了大量关于饮食失调、身材焦虑、自残和自杀的内容。

类似现象早有先例：《华尔街日报》2021年调查发现TikTok会将观众引向危险内容。虽然后续TikTok加强了家长控制功能并承诺优化算法，但新研究表明青少年用户的体验改善有限。

青少年在社交媒体接触的内容可能造成心理伤害，大量研究佐证了这一观点。最直观的例证可参考我早前的专栏：有青少年因反复观看TikTok上模仿抽动秽语综合征行为的视频后，出现了生理性抽搐症状。

TikTok发言人表示公司拥有超4万人的内容审核团队，2022年第四季度删除了约8500万条违反社区准则的帖子，其中2.8%涉及自杀、自残和饮食失调内容。平台也会处理用户举报内容。“我们欢迎反馈与监督，致力于与合作伙伴保持建设性沟通。“发言人补充道。

反数字仇恨中心整理的TikTok视频截图，内容涉及对自残行为的认同。皮尤研究中心数据显示，三分之二的美国青少年使用TikTok，16%的美国青少年表示他们几乎持续在线。青少年频繁使用社交媒体——加上算法可能诱导他们陷入危险内容——是美国心理学会最新发布的青少年社交媒体使用建议的考量因素之一。

该学会本周指出，家长应监督年幼子女的社交媒体浏览行为，警惕不当使用。美国心理学会还敦促家长和科技公司对鼓励儿童自我伤害的内容保持高度警觉。

“每39秒一次”

致力于阻止网络仇恨与虚假信息传播的非营利组织"反数字仇恨中心"测试了青少年看到的内容。去年八月，研究人员创建了八个模拟美、英、加、澳13岁青少年的TikTok账号。在30分钟内，这些账号对平台"推荐页"展示的关于身材形象和心理健康的视频稍作停留，并点击爱心表示喜欢。

研究人员称，TikTok几乎立即开始推荐关于自杀和饮食失调的视频。他们补充说，这些账号的推荐页平均每39秒就会出现一次涉及身材形象和心理健康的内容。

反数字仇恨中心整理的TikTok视频截图，内容涉及对身材焦虑和自杀念头的认同。研究人员公布调查结果后，他们标记的许多视频已从TikTok消失。但发布这些内容的许多账号依然存在，这些账号还包含其他宣扬极端节食、讨论自残和自杀的视频。

TikTok确实会删除明显违反其准则的内容，例如直接提及自杀的帖子。但人们描述自身自杀感受的视频可能不会被判定违规——也不会受到审核员的审查。这些内容甚至可能对某些人有所帮助。不过儿童心理学家表示，这类视频也可能产生有害影响。

TikTok高管曾表示，该平台可以成为分享艰难经历感受的场所，并援引专家观点称积极应对负面情绪对观众和发布者都有益处。他们表示TikTok会删除宣扬或美化自残的内容，同时允许教育性或康复类内容。

该公司称持续调整算法以避免向用户重复推荐单一内容。

「悲伤与孤独」

反数字仇恨中心向我提供了完整研究报告，包括TikTok向虚拟青少年账号推荐的595个视频链接。该机构还提供了包含所有视频的合集，其中部分内容在平台上已不可见。我还查看了被标记账号发布的内容。

几个小时后，我不得不停下来。如果这一连串快速播放的悲伤视频让我感到不适，一个14岁的孩子日复一日观看这类内容会作何感受？

一个账号专门发布"悲伤孤独"的音乐。另一个账号每段视频都展示着哭泣的少女，配文涉及自杀。还有一个账号充斥着病房拍摄的视频，每段都配有表达轻生念头的文字，例如"最后一个魔术，我将变成令人失望的存在”。

反数字仇恨中心整理的TikTok视频截图，内容涉及身材焦虑与饮食失调。用户发明了各种创意方式规避TikTok的内容过滤机制。例如平台禁止出现"自杀"字眼，人们就用谐音词"下水道滑梯”，或只写"尝试"二字让观众自行联想。那些发布饮食失调内容的创作者同样绕过了平台审查。

要对月活超十亿的平台内容进行全面监管绝非易事。但清除有害内容与算法助推之间存在本质区别。

“如果科技公司无法根除这些内容，至少不该设计将孩子引向这些信息的算法，“美国心理学会首席执行官小亚瑟·C·埃文斯说道。

家长能做什么

**关注孩子观看的内容。**全国儿童医院的儿科心理学家阿里安娜·霍埃特建议，让青少年向你展示他们的“推荐”页面。如果发现有害内容，这表明他们可能正在接触此类内容。这可以为你提供一个开启相关对话的契机。

**设置家庭配对功能。**家长可以创建自己的TikTok账户，并利用该应用的家庭配对功能来限制不适合年龄的内容，并控制孩子在应用上的使用时间。

**过滤推送内容。**用户可以通过关键词过滤屏蔽不希望看到的视频或话题标签。若仍有漏网之鱼，青少年可点击"不感兴趣”。

**重置推荐流。**部分青少年反馈，当其推荐内容问题严重时，他们会注销账户重新注册。现在TikTok允许用户直接刷新推荐流而无需新建账户。但需注意，新的内容偏好陷阱会不断形成，因此仍需谨慎对待点赞或停留观看的内容。

——欲获取更多《科技与家庭》专栏文章、建议及家庭科技问题解答，请订阅我的每周通讯。

写信给朱莉·贾根，邮箱：[email protected]

刊登于2023年5月15日印刷版，标题为《TikTok给青少年投喂黑暗食谱》。