《华尔街日报》：布法罗枪击案考验网络反恐协议

纽约州布法罗市发生的致命超市袭击事件在亚马逊旗下直播平台Twitch上进行了直播。图片来源：LINDSAY DEDARIO/REUTERS新西兰惠灵顿——纽约州布法罗超市枪击案的直播，展示了全球打击网络恐怖主义内容协议的效力与局限。

自2019年新西兰基督城清真寺枪击案（白人至上主义者杀害51人并在Facebook直播暴行）后，包括美国、德国、印度在内的50多个国家，以及Facebook母公司Meta、谷歌母公司Alphabet和推特等互联网企业已签署支持《基督城倡议》。

《基督城倡议》最初目标是建立社交媒体平台对暴力极端主义视频的协同响应机制。Meta发言人表示，公司已采取自主措施，包括投资检测技术，并与《基督城倡议》等组织合作。

但上周末发生在布法罗的袭击（通过旗下直播平台Twitch播出）表明，科技公司远未实现平台内容防火墙。Twitch称在枪击开始后两分钟内删除了直播流，比以往平台响应更快。但事发逾24小时后，视频仍在Facebook、推特和YouTube传播。

新西兰政府协议协调员保罗·阿什表示：“布法罗枪击事件无疑将为《基督城呼吁》的倡议目标提供更多推动力。作为一个共同体，我们将分析这起悲剧事件，并运用所得经验进一步强化危机应对措施。”

澳大利亚莫道克大学信息技术系主任戴夫·帕里教授指出，《基督城呼吁》的一项成功举措是促使科技公司利用全球互联网反恐论坛作为共享袭击视频和图像数字指纹（即哈希值）的中心枢纽。

这个由科技企业于2017年成立的技术协作论坛表示，在布法罗枪击案发生后的24小时内，其成员向哈希共享数据库添加了约870条独立内容——包括130个版本的直播视频和740张图片。这些哈希值能使算法在上传时识别问题内容。

鉴于海量的视频上传量以及用户对文件进行篡改以规避算法检测的能力，网络监管堪称艰巨任务。人工智能的进步可能仍不足以应对这一挑战。

“网络上存在大量战斗类画面，包括电子游戏场景，而袭击视频往往画质低劣，这使得’先理解后拦截’的智能方案实施难度大增，“帕里教授解释道。

科技公司被要求在网络内容监管上把握微妙平衡——既要限制暴力极端主义，又不能损害言论自由。Meta公司表示已在全球封禁250多个白人至上主义组织，并从平台移除了近900个军事化社会运动账号。

各国政府还会对认定为包含恐怖主义和暴力极端主义内容的信息进行标记。在基督城倡议成员国澳大利亚，政府官员表示，从2020年初到今年3月中旬，他们向各平台提交了近6000条内容，其中超过4200条被删除。

“危机应对只是其中一部分，“阿什表示，他称基督城倡议是一项正在进行的工作。

他说，需要进一步努力的领域包括了解算法在让人们接触暴力极端主义方面的作用，以及设计干预措施。

“显然，阻止此类内容产生和传播的任务仍然是重中之重，“阿什说。基督城倡议领导人将在今年晚些时候评估进展情况。

三年前在巴黎举行的基督城倡议启动仪式。图片来源：charles platiau/pool/Shutterstock作为该倡议咨询小组成员的新西兰伊斯兰妇女委员会全国协调员阿利亚·丹泽森表示，人们曾期望基督城倡议能超越其阻止基督城视频传播的直接关注点，去解决基于宗教和种族等因素的仇恨在网上泛滥的原因。

“但它只是停在了那里，“丹泽森说。

她说，各国政府需要终结社交媒体为极端分子提供的匿名性和有罪不罚现象，以及互联网公司对其允许的内容缺乏法律后果的局面。

但也有人认为，社交媒体公司在内容审核和言论监管方面已经做得过火。

包括国际特赦组织、无国界记者组织和电子前沿基金会在内的60多个民间社会组织，反对欧盟议会于2021年4月通过的一项立法，该立法要求在线平台在被标记后一小时内删除恐怖主义内容。这些组织指出，该法律具有跨国性质且缺乏司法监督，容易被政府滥用，可能助长过度审查并威胁言论自由。

默多克大学的帕里先生表示，任何超越当前被动删除极端主义内容的全球性努力，都面临着可能无法克服的挑战。社交媒体是国际化的，但监管却是地方性的，并受制于国内利益。各国在内容监管的共同工具或规则上尚未达成一致。

通过使算法更加随机化以减少基于用户观看偏好推送内容的“回音室效应”，也可能面临广告商和社交媒体公司的抵制。

斯图尔特·康迪对本文亦有贡献。

致信 斯蒂芬·莱特，邮箱：[email protected]

本文发表于2022年5月23日的印刷版，标题为《枪击事件考验在线反恐协议》。