犹他州总检察长声称,TikTok 知道其 TikTok Live 功能鼓励性内容 - 彭博社
Alexandra S. Levine
据犹他州周五公布的一项诉讼,TikTok早已知道其受欢迎的视频直播鼓励性内容,包括利用和“诱导”未成年人的直播。
诉讼称,TikTok还通过内部调查发现,名为TikTok Live的功能促进了洗钱,并允许用户贩卖毒品和资助恐怖主义。
来自十多个州的两党总检察长团体去年秋季起诉了TikTok,指控该应用在经济和心理上对未成年人造成伤害。犹他州也在六月份以类似理由起诉TikTok。其中几起诉讼——包括来自佛蒙特州、新罕布什尔州、肯塔基州和哥伦比亚特区——集中在TikTok Live上。这些诉讼引用了福布斯的调查报道,发现成年男性经常利用直播诱使少女表演挑逗性,有时是性行为,以换取可以兑换成现金的数字“礼物”。
犹他州和其他州的投诉基于一批通过传票获得的 内部TikTok文件,但许多具体指控在公开文件中被编辑掉了。尽管TikTok努力保持记录的机密性,犹他州地区法院法官于12月19日裁定解封诉讼中的大部分材料。
犹他州新解封的投诉显示,该公司在福布斯报道后对TikTok Live进行了全面的内部调查。该调查代号为“梅拉梅克计划”,此前未曾报道。调查确认该应用程序促进了潜在的非法金融交易和问题直播,在这些直播中,未成年人会参与暗示性或性别化的活动,而观众则用可以兑换现金的虚拟礼物来淋浴他们。
木星计划
投诉还详细说明了木星计划,这是对平台上洗钱现象的另一个内部调查。该调查同样未曾报道,发现TikTok Live及其赠礼功能被用于非法洗钱,用于贩卖毒品和其他犯罪。该调查于2021年启动。诉讼声称,TikTok员工还讨论了Live如何被用于资助海外恐怖组织,包括伊斯兰国。
“这起诉讼忽视了TikTok自愿实施的众多积极措施,以支持社区安全和福祉,”一位TikTok发言人在声明中表示。“相反,投诉挑选误导性的引用和过时的文件,并将其断章取义,扭曲了我们对社区安全的承诺。”
未编辑的投诉在TikTok可能在美国根据总统乔·拜登于四月签署的国家安全法被禁止的两周多一点前提出。该措施旨在解决长期以来对TikTok应用程序的担忧,该应用程序由中国母公司字节跳动有限公司拥有,可能被用来收集有关美国人的敏感情报,或操纵人们看到的与关键政治和社会问题相关的内容。TikTok在未成年人中的受欢迎程度,以及它可能对他们造成的众所周知的危险,只加剧了这些担忧。
查看更多:随着TikTok失去选择,这位亿万富翁有一个拯救它的计划
内部演示
犹他州的诉讼强调了TikTok员工的聊天记录、内部演示的幻灯片以及与福布斯报告和梅拉梅克项目相关的其他通信,该项目发现数十万年龄在13到15岁的未成年人正在进行直播,并收到来自成年人的令人不安的评论,诉讼称。
“你在支付我的账单,”一位14岁的TikToker在福布斯报告中描述的一次直播中对成千上万的陌生人说。观众,包括成年男性,提出要给女孩发送TikTok礼物和钱,以换取她在镜头前闪现和展示她的脚。在另一场有成千上万观众的直播中,一位年轻的青少年慢慢用剪刀剪掉她的T恤,评论者承诺如果她脱衣服并脱掉胸罩,就会送出数千个TikTok“币”,这可能转化为数百美元。TikTok在应用程序上分享虚拟礼物时会抽取一部分费用。
在《福布斯》审查的案例中,以及TikTok通过梅拉梅克项目的审查中,用户年龄过小,不允许参与直播。当时,TikTok的政策禁止16岁以下的人进行直播,18岁以下的人发送或接收虚拟礼物。然而,诉讼称,TikTok的内部调查发现,2022年有112,000名未成年用户在一个月内主持了直播。
此后,TikTok收紧了直播的要求。如今,用户必须年满18岁才能使用该功能。
TikTok还发现,其算法提升了这些类型的性别化视频,使其更广泛地传播。“交易性性内容符合大多数商业成功指标,并被推送到TopLives,因为算法优先考虑参与度,”诉讼中提到的一份2022年5月的内部幻灯片中说道。
‘显著收入’
梅拉梅克项目发现,年轻的青少年主持人在直播中“面临被诱导的风险”,直播带来了“来自交易性赠礼的显著收入……主要是以交换[性]内容为目的”,评论和直接消息被“用来提出请求,骚扰主持人”,而主持人定期引导观众在其他平台上支付给他们,幻灯片中提到。
现在,主持人可以为直播设置消费限制,并利用自己的主持人来帮助保护直播,包括过滤某些关键词或评论,或屏蔽或静音观众。直播也由TikTok自己的安全团队和检测系统进行监控。
犹他州商业部执行主任玛格丽特·布斯(Margaret Busse)表示,虽然社交媒体对未成年人可能造成的风险众所周知,但关于TikTok直播的揭露——以及当金钱在交易时危险如何加剧——为这个问题增加了新的复杂性。
“当他们理解发生了什么时,他们也理解了这带来的金钱数量,他们不想对此采取任何行动,”她在接受彭博社采访时说道。“在我看来,这真是令人难以置信的有罪。”
查看更多:TikTok的算法不断向脆弱的孩子推送自杀内容
TikTok对这些问题的认识,以及在商业目标与儿童安全之间的挣扎,似乎早于2022年发布的《福布斯》调查。
‘有限的选择’
根据诉讼,2021年6月,一名高级TikTok员工发出警报称“我们在保护未成年人免受直播内容影响方面的选择非常有限”,并敦促“在我们建立可靠的内容过滤策略之前,我们需要考虑阻止所有L1(13-15岁)观看(或以任何方式互动)直播。”
诉讼中引用的2022年2月TikTok领导者之间的内部聊天显示这些担忧依然存在。
“我不明白他们为什么不能限制对直播的访问,”一位领导写道。
“我不知道我们是否可以合理地期待在这一点上增加对直播的限制,”另一位回复道。“这对平台的战略来说是如此重要的一部分。”
“我们不能关闭访问到窒息产品增长能力的程度,但我们确实需要利用我们拥有的信号来限制访问,当我们知道伤害或虐待行为的可能性更高时,”另一位回应说。“让我们试着找到这个平衡。”
该公司强调了其承诺执行其政策,并表示去年关闭了超过4500万次直播。