研究人员称Twitter漏掉了数十张已知的儿童性虐待材料图片——《华尔街日报》

推特表示，1月份暂停了约40.4万个创建或参与传播儿童性剥削内容的账户。图片来源：David Paul Morris/Bloomberg斯坦福大学研究人员称，近几个月推特未能阻止数十张已知的儿童性虐待图片在其平台上发布，这种情况表明其基本执法存在疏漏。

斯坦福互联网观察站的研究人员在调查多个平台的儿童安全问题时表示，他们向推特工作人员通报了调查结果，该问题似乎在5月份得到了解决。

研究人员表示，推特上周告诉他们，已经改进了检测系统的某些方面，并要求研究人员今后如发现此类案件激增，及时向该公司发出警报。

对于《华尔街日报》就研究人员报告发送的电子邮件，推特没有回应置评请求。

斯坦福互联网观察站首席技术专家、该报告的合著者David Thiel表示，在3月12日至5月20日的两个多月时间里，研究人员的系统在约10万条推文的数据集中，检测到40多张发布在推特上的图片曾被标记为儿童性虐待材料。

研究人员称，这些图片出现在推特上令人震惊，因为它们之前被标记为儿童性虐待材料(CSAM)，并且是公司可用于筛选发布到其平台上的内容的数据库的一部分。Thiel说：“这是防止CSAM在网上传播的最基本措施之一，但似乎没有奏效。”

长期以来，阻止儿童性虐待材料的挑战一直是许多互联网平台面临的难题，而不仅仅是推特。在10月底收购推特后，埃隆·马斯克将这一问题列为重点，并在推文中承诺，从推特上删除此类材料是“第一要务”，并且“将永远是我们的首要任务”。

马斯克没有回应置评请求。

推特表示，1月份暂停了约40.4万个创建或参与儿童性剥削材料的账户，该公司称，自11月以来，此类账户的暂停数量增加了112%。推特在2月份的一条推文中表示：“我们不仅更快地发现了更多不良行为者，还在建立新的防御措施，主动降低包含此类内容的推文被发现的可能性。”

许多学术研究人员表示，推特对其数据访问政策的改变将使他们不太可能发现像斯坦福大学研究小组检测到的疏漏。推特表示，正在提高其应用程序编程接口（API）的访问价格，该接口允许研究人员分析数据，大型用户每月可能被收取4.2万美元或更多费用。

许多学术研究人员表示，这些价格将使API对他们来说变得难以负担，阻碍未来对推特的研究。“这对平台透明度是一个重大打击，”蒂尔说。

研究社交媒体和其他互联网平台滥用行为的斯坦福互联网观察站上周因新的费用停止了使用推特的企业级API，蒂尔说。他表示，由于与马斯克收购前的推特达成协议，该小组此前无需为API访问付费。

马斯克在2月份发推文表示，对API访问收费旨在帮助打击不良行为者使用的机器人，而Twitter在3月份表示正在研究如何继续与学术界合作。对于不使用大量数据的开发者，Twitter网站表示提供免费层级和其他选项，包括每月100美元的方案。

斯坦福大学的研究人员表示，他们使用了名为PhotoDNA的技术，该技术基于包括美国国家失踪与受虐儿童中心在内的组织维护的数据库，扫描与儿童性虐待相关的图像。PhotoDNA为图像创建独特的数字签名（称为哈希值），平台可以据此检查用户上传图像的哈希值。

“在Twitter的小型数据集中发现任何PhotoDNA匹配结果都令人意外，“蒂尔说。

研究人员表示，他们使用了一个自动化计算机程序，该程序根据特定关键词从Twitter接收数据流。这些图像的链接会自动通过PhotoDNA进行检测，以识别已知的儿童性虐待材料图像。研究人员表示，任何匹配的图像都不会被显示或保存，可用的元数据会报告给国家失踪与受虐儿童中心进行调查。

PhotoDNA已被科技公司和执法机构等组织使用。Twitter此前表示，它使用PhotoDNA和其他工具来标记和删除儿童性剥削材料。

推特未就目前是否仍在使用该工具发表评论。

斯坦福大学研究人员表示，推特上周告知他们在部分儿童性虐待材料数据库中发现了误报内容，已进行人工过滤。推特称，未来研究人员可能还会发现误报案例。

研究人员指出，推特面临的挑战在于其允许发布部分成人裸露内容，这增加了识别和删除违规内容的复杂性。推特明令禁止涉及或宣扬儿童性剥削的材料。

马斯克此前曾批评斯坦福互联网观察站在2020年美国总统大选期间的内容审核工作。他在3月的推文中指责该机构是"宣传机器”。

斯坦福互联网观察站主任亚历克斯·斯塔莫斯（与项目研究经理蕾妮·迪雷斯塔共同撰写报告）表示，该机构在全球互联网问题上保持无党派立场。“我们希望推特能重新与学术研究人员合作，保护其平台免受不当操纵。“他说。

联系记者亚历克莎·科尔斯：[email protected]

本文发表于2023年6月6日印刷版，标题为《推特被曝漏筛儿童性虐待图像》。