X在以色列袭击后首次重大马斯克时代内容政策考验中失误 - 《华尔街日报》

上周末爆发的以色列与哈马斯战争，是多年来对社交媒体内容审核能力的最大考验之一。截至目前，埃隆·马斯克的X公司表现拙劣，且情况可能恶化。

自哈马斯于10月7日袭击以色列以来，社交媒体平台正面临视频误标、信息伪造和暴力内容等多重挑战。

当宣传者和投机者用虚假信息淹没平台时，骇人暴力事件的爆发对所有社交媒体公司的审核能力都构成挑战。

除X平台外，TikTok和脸书在哈马斯袭击以色列后也遭遇虚假误导内容。即便配备庞大审核团队和资源的社交媒体平台，过去一周也疲于应对。

研究社交媒体的专家指出，X平台当前处境尤为危险。马斯克已裁撤公司大量内容安全岗位，并开放原仅面向知名用户和专业记者的认证付费服务。该平台还日益依赖志愿者编写事实核查注释。

近日X平台上泛滥的帖子包括：被恶意重新利用的旧视频片段、伪装成哈马斯袭击的电玩画面，以及伪造的白宫新闻稿。马斯克本人也因推荐关注两个被研究人员认定为可疑的账号引发争议，相关推文已删除。

“平台正在失灵，”普林斯顿大学计算机科学助理教授乔纳森·梅尔表示。梅尔的研究专门批评平台对问题内容的处理方式，他列举了美化暴力的血腥画面和帖文，以及煽动更多暴力的内容。“这些内容唾手可得，且未被迅速删除，”他说，“证据非常明显。”

X公司称一直在删除新创建的与哈马斯有关联的账户。图片来源：Josh Edelson/Agence France-Presse/Getty Images欧盟高级官员蒂埃里·布雷顿近日致函X、Meta Platforms和TikTok，要求它们详细说明应对围绕这场冲突的非法内容和虚假信息的计划。布雷顿周四加大了对X的压力，发出了进一步的信息请求。

X公司首席执行官琳达·亚卡里诺周一退出了原定下周在《华尔街日报》年度科技大会上的露面，称她需要专注于这场冲突。

一天后，X公司表示，亚卡里诺正在领导一个全天候工作的小组，打击误导性或违反其他政策的内容，并确保其内容审核员保持高度警惕，包括对希伯来语和阿拉伯语内容的审核。X公司还表示一直在删除新创建的与哈马斯有关联的账户，删除试图操纵热门话题的账户，与一个行业组织协调，并删除或标记了数万条帖文。

马斯克曾阐述其内容审核策略为"自由表达但不强制传播"，表示平台可能保留法律允许范围内的负面或极端内容但不会主动推广。

根据欧盟新内容审核法规建立的数据库显示，在哈马斯袭击事件前后数日，X平台报告的审核决策数量远低于其他社交媒体竞争对手。

袭击事件前后三天内，X平台日均报告约8,900次内容处理决定，而Facebook日均达415,000次——按各平台在欧盟用户基数比例计算差距更为显著。其中约四分之三案例中，X仅对帖子标注"NSFW"（工作场所不宜）标签而非删除。

埃隆·马斯克已大幅裁撤X平台（原推特）的内容安全政策岗位。图片来源：Tom Williams/Zuma Press马斯克的策略包括重度依赖"社区笔记"功能，该事实核查工具由志愿者为误导性帖子添加背景说明。公司表示通过算法推送被不同观点用户评为有用的注释。

一些观察人士指出，这种策略存在缺陷，认为人们往往会快速滚动浏览帖子，如果他们花时间阅读注释，很可能已经消化了内容，尤其是视频内容。

“视觉媒体可以即时解析且更令人难忘，”多伦多都会大学技术与伦理学副教授理查德·拉赫曼表示。

近日，斯坦福互联网观察站主任、Facebook前首席安全官亚历克斯·斯塔莫斯指出，X平台上的账户（包括一些经过验证的账户）传播了一段2020年阿尔及利亚体育冠军庆祝活动的视频，却虚假声称其展示了以色列的袭击。

尽管该视频下方附有社区核查注释，但截至周三，其中一条相关帖子的浏览量已达120万次。而截至周三中午，其他分享该视频但浏览量较少的帖子却未显示核查注释。

X平台周二表示，其志愿者三天内撰写的注释已获得数千万次查看。该公司发布了注册链接以招募更多用户，并称近期已更新系统以加快注释显示速度，同时正在提升自动识别并为重复使用相同视频/图片的帖子附加注释的能力。

然而除了需要考量这些注释，用户可能还需费力辨别未验证账户的真实性——由于X平台近期开始收费验证，许多用户不愿为此付费。

作家、前美国总统乔治·W·布什演讲稿撰写人大卫·弗鲁姆周日于X平台发文称，过去在推特上花费20分钟获取的信息价值远高于收看20分钟有线新闻。如今他表示：“你仍能在此找到有用信息，但相比一年前，需要付出更多努力去搜寻、筛选和屏蔽无用内容。”

以色列士兵在卡法阿扎转移平民遗体。图片来源：阿米尔·利维/盖蒂图片社研究人员指出，关于此次战争的误导性内容浪潮同样对人员规模更大的社交媒体公司构成挑战。据社交威胁情报公司Cyabra数据显示，冲突爆发前48小时内，在X、TikTok和Facebook平台参与相关讨论的账户中超过4万个系伪造。该公司称部分虚假账户提前一年多创建，专门为此次虚假信息攻势做准备。这些伪造资料在此期间试图主导舆论，散布了超过31.2万条帖文和评论。

Cyabra表示：“这种精密程度，加上虚假账户的规模及实时开展影响力行动所需的筹备工作，对恐怖组织而言前所未见，已达到国家行为体的组织水平。”

一则在不同程度上席卷X、Facebook和TikTok的病毒式传言声称以色列轰炸了加沙的圣波菲里奥斯希腊东正教教堂。该教堂周一在其Facebook页面否认了这一说法。研究机构Bellingcat调查发现，部分视频确实包含空袭的真实信息，但往往与虚假指控相互交织。

Facebook母公司Meta Platforms表示，已成立由专家组成的特别运营中心，其中包括精通希伯来语和阿拉伯语的人员，全天候处理违规内容并与该地区第三方事实核查机构协调。TikTok称已增加资源防止暴力、仇恨或误导性内容，包括加强希伯来语和阿拉伯语的内容审核，并与事实核查组织合作。

战争画面的报道可能带来多重矛盾影响——既可能对观众造成心理创伤，又涉及是否应移除那些具有历史记录价值、可能作为战争罪证据的真实信息。前Facebook首席安全官斯塔莫斯表示，2018年脸书因删除显示缅甸政府针对罗兴亚穆斯林少数群体暴力行为的帖子而同时受到赞誉与批评。

2019年新西兰基督城枪击案凶手通过Facebook直播行凶过程，这促使平台投资开发能实时标记潜在暴力内容的技术。但斯塔莫斯指出，标记内容仍需人工审核才能删除，因此平台配备强大的审核团队至关重要。

巴勒斯坦武装组织周一威胁称将开始处决人质并进行直播。此前以色列军方宣布将加强空袭攻势。

布鲁金斯学会专注于社交媒体研究的高级研究员达雷尔·韦斯特表示，大量人质处决的直播或录像内容极有可能出现在社交媒体上，平台要迅速识别并处理这些内容将面临巨大挑战。处理措施可能包括删除内容或添加警告标签。

“当遇到这种有组织的行动时，可能会有成千上万人同时发布内容，“他说，“平台应对起来会非常困难。”

萨姆·谢克纳对本文亦有贡献。

联系作者亚历克莎·科尔斯：[email protected]；联系萨拉·E·尼德尔曼：[email protected]