《华尔街日报》：Meta内部就巴勒斯坦地区评论压制的公平性展开辩论

在巴以冲突期间，Meta Platforms公司一直在艰难应对如何执行其平台规则的问题。图片来源：Mohammed abed/法新社/盖蒂图片社10月7日哈马斯突袭以色列并杀害平民后，Instagram上来自该地区的仇恨言论激增。Meta Platforms的管理人员加强了自动过滤系统，旨在减缓暴力和骚扰内容的泛滥。

但据一位Meta经理透露，这些评论仍在不断出现——尤其是来自巴勒斯坦领土的评论。因此Meta再次加强了过滤系统，但仅针对该地区。

在一个面向穆斯林员工的内部论坛上，反对声浪此起彼伏。

根据《华尔街日报》看到的文件，一名员工在内部发帖称：“我们所说的和我们目前所做的似乎完全背道而驰。“Meta曾公开承诺在全球范围内平等执行其政策。

这家社交媒体巨头一直在艰难应对如何在这场残酷而混乱的战争中最好地执行其内容规则。Meta严重依赖自动化工具来监管Instagram和Facebook，但这些工具可能会出错：它们难以解析巴勒斯坦阿拉伯语方言，在某些情况下，它们没有足够的希伯来语数据来有效工作。

在最近的一个故障中，Instagram自动翻译功能开始将用户个人资料中的"巴勒斯坦人"一词与一个表情符号和一个无害的阿拉伯短语一起翻译为"巴勒斯坦恐怖分子”。

当Meta转而依靠人工审核来填补漏洞时，不同团队对于规则适用标准及对象存在分歧。

Meta发言人表示，由于巴勒斯坦地区违规内容比例更高，公司不得不降低审核阈值以实现与其他地区相当的效果。Meta已就翻译故障致歉。

该公司通过特拉维夫办事处处理以色列事务，负责人曾为以色列总理内塔尼亚胡工作；而迪拜人权政策团队则负责涵盖巴勒斯坦在内的阿拉伯地区。知情人士透露，这些团队常对该地区内容判定存在矛盾。

用户评论区已成为冲突前线。哈马斯10月7日袭击以色列边境城镇后，Meta监测到以色列、黎巴嫩及巴勒斯坦地区Instagram平台的仇恨言论激增5至10倍。内部文件显示，公司决定提高潜在违规评论的屏蔽比例。

通常Meta仅在系统80%确定评论构成其定义的"敌对言论”（包括骚扰、暴力煽动等）时才会屏蔽。但文件表明，作为"临时风险应对措施"——类似Meta曾在战争、种族灭绝风险及2021年美国国会暴乱中启用的紧急预案——该公司将中东多国的判定阈值降至40%，即任何被判定有40%煽动可能性的评论都将被屏蔽。

据参与该项目的产品经理在内部留言系统发布的帖子称，这一调整显著减少了以色列、黎巴嫩、叙利亚、埃及等国的仇恨言论，使Meta安全团队感到满意。但随后数日，巴勒斯坦地区符合Meta敌对言论定义的Instagram评论仍居高不下。

“因此团队决定临时进一步降低阈值，“该产品经理写道，将自动系统判定违规概率≥25%的巴勒斯坦用户评论直接隐藏。

截至周四，Meta内部内容审核员已删除论坛上详细记载此次干预措施及后续讨论的长篇主题帖。

自10月7日哈马斯袭击造成1400人死亡、200人被劫持（以色列官方数据）以来，Meta等社交媒体平台持续面临多方审查。袭击画面在社交平台疯传并被新闻转播，多家公司对内容政策反复调整。

欧盟周四向Meta和TikTok发出正式问询，要求说明遏制此类（在多国可能违法的）内容传播的措施，此前一周已对X平台（原推特）采取相同行动。

Meta目前已封锁相关话题标签、限制直播功能并禁止人质图片传播。

Meta长期以来在构建自动化系统以执行其非英语及少数富裕大国语言的规则方面困难重重。海外的人工审核团队通常也更为薄弱。

阿拉伯语内容一直是个痛点——尤其是在巴勒斯坦领土上。部分原因是该公司系统最初未接受理解不同阿拉伯语方言差异的训练，对巴勒斯坦方言的处理表现更差，根据2022年Meta委托外部顾问撰写的报告显示。

Meta直到最近还缺乏自动检测可能违反其规则的希伯来语内容的系统，2022年的报告称这导致对希伯来语帖子的执行力度不足。

作为对报告的回应，Meta承诺构建一个自动系统来捕捉希伯来语的违规内容，并提高其检测阿拉伯语方言的能力。

9月，公司告诉其监督委员会，“拥有功能正常的希伯来语分类器”的目标已经“完成”。但本月早些时候，公司内部承认未在Instagram评论中使用其希伯来语敌意言论分类器，因为系统缺乏足够数据以充分运作，根据《华尔街日报》查阅的文件。

尽管系统存在限制，鉴于当前冲突，公司现已将其部署用于对抗仇恨评论。Meta发言人表示，该分类器已在公司平台的其他部分投入使用。

巴勒斯坦摄影师莫塔兹·阿扎伊扎持续在Instagram发布加沙居民伤亡的纪实视频及其情绪反应，他表示在冲突期间其账号两次被Meta关闭。但通过申诉后这些决定得以撤销——截至周五，他两周前仅2.5万粉丝的账号已增长至超500万。

另一起事件中，Meta内部宣布启动"站点事件”（需立即修复的紧急问题），因公司自动化系统将阿拉伯语中涉及巴勒斯坦人的无害表述误译为"巴勒斯坦恐怖分子"等错误内容，另一份文件显示。

调查发现该问题源于机器学习系统的幻觉输出。

萨尔瓦多·罗德里格斯对本文亦有贡献。

联系记者萨姆·谢克纳请致信[email protected]，联系杰夫·霍维茨请致信[email protected]，联系纽利·珀内尔请致信[email protected]

本文发表于2023年10月23日印刷版，标题为《Meta内部就加沙战争内容展开辩论》。