Alethea，Graphika正在使用人工智能帮助公司打击在线虚假信息 - 彭博社

插图：Carolina Moscoso for Bloomberg Markets

当客户开始从 硅谷银行 提取数十亿美元时，肖恩·艾布（Shawn Eib）立即介入。在弗吉尼亚州的家中，他开始在笔记本电脑上浏览互联网的黑暗角落。可疑的消息来源，包括美国军方指控宣传俄罗斯宣传的网站，助长了恐慌。

检察官将另一则帖子与一名面临 美国诈骗指控的中国商业高管联系在一起，指责银行的失败是中国共产党的“无限制金融战”。许多其他人将评论与暗示快速致富的加密货币计划联系在一起。其中一则帖子写道：“我本可以像这家伙一样赚个大钱！”

在 Bloomberg Markets 四月/五月期刊中亮相Bloomberg Markets艾布，一名38岁的前新奥尔良洛约拉大学IT管理员，是一名网络虚假信息侦探。他为 Alethea Group Inc. 工作，这是少数几家专门为希望保护自己免受互联网谎言和社交媒体操纵的公司、非营利组织和政府而深入研究在线信息的网络安全初创公司之一。

风险投资公司和私人投资者从2018年到2022年向这类初创公司投入了超过3亿美元，据数据公司PitchBook称。仅去年，微软收购了由反极端主义研究员克林特·沃茨创立的Miburo，他现在领导着其数字威胁分析中心；Spotify收购了另一家极端主义监测机构Kinzen；亚马逊等公司投资了总额2400万美元的Logically，该公司跟踪数字仇恨言论、外国宣传和加密诈骗。

SVB危机说明了为什么会引起如此大的兴趣。一个组织的声誉是在多年甚至几十年内建立起来的，代表了无形的财富，可以构成其价值的很大一部分。在互联网时代，它可能会在一夜之间被摧毁。更广泛的问题是彻头彻尾的谎言，而不仅仅是煽动恐慌的帖子，这些谎言会破坏世界金融体系。欧洲银行管理局已经警告称，银行因“传播不准确信息的活动”而“容易受到”挤兑。

为了应对这种风险，反虚假信息的初创公司通常配备人工智能软件，用于搜索可疑内容。然后他们发布报告或通知企业受害者有关在线谎言。这些公司通过各种方式赚钱。有些公司收取咨询费或按月保留。Alethea拒绝讨论定价。其主要竞争对手之一，Graphika Inc.，表示典型的安排是每年起价约10万美元的订阅。

银行挤兑也显示了所谓的虚假信息缓解行业的挑战和局限性。毕竟，SVB无法得到保护，很难将恶意行为者与那些合理指出银行管理决策真正风险的人区分开来。

外部人员很难验证关于该行业有效性的声明。在德克萨斯大学奥斯汀分校研究宣传的塞缪尔·伍利（Samuel Woolley）表示，这些公司在讨论他们的方法时“细节不足”。“技术决定论很容易，”伍利说，他是一位助理教授，表示已经拒绝了创建自己的虚假信息检测公司的提议。“但你必须考虑社会和文化背景，就像管理银行一样。”

硅谷银行总部。摄影师：大卫·保罗·莫里斯/彭博社总部位于华盛顿的Alethea和其他公司承认他们的不足，并表示他们必须保护他们的方法不被不法之徒利用。他们说他们的服务可能很难推销。公司通常没有“虚假信息预算”，Ballistic Ventures的普通合伙人兼主席泰德·施莱因（Ted Schlein）表示。Lisa Kaplan是Alethea的创始人兼首席执行官，她回忆起推销自己的服务更像是“在70年代向吸烟者销售健康保险”。

2022年，成立四年的Alethea从Ballistic获得了1000万美元的投资，Ballistic的合作伙伴曾在军方、美国情报机构和AT&T Inc.以及风险投资巨头Kleiner Perkins从事过网络安全工作。Alethea是一个源自希腊词汇“真理”的女性名字。除了Kaplan外，Alethea的其他高层领导都是女性，其中包括曾是缅因州参议员安格斯·金（Angus King）2018年连任竞选的数字总监。

Alethea发布关于对记者和其他目标的威胁的免费报告；这有助于赢得付费客户的支持。帖子可能是伪造的或由他人控制的线索可能是一个Twitter账户有50,000个粉丝，却一直获得15,000个赞，一条推文被转发的次数超过了被点赞的次数，或者网站共享相同的域名。Alethea最近警告了一家美国电信公司，但没有透露公司名称，警告称“伪装龙”正在冒充客户，这个与中国有关的账户网络正在传播虚假信息。

Kaplan。摄影师：Carolina Andrade/NYT/Redux纽约的Graphika有着更长的历史。约翰·凯利（John Kelly）是一位计算社会科学家，拥有哥伦比亚大学的博士学位，他于2013年创立了这家公司。Graphika表示其客户包括Facebook母公司Meta Platforms Inc.和Alphabet Inc.的Google，还与美国参议院情报特别委员会合作过。

在2022年美国中期选举中，Graphika将美国指控干预2016年选举的俄罗斯互联网研究机构与冒充歌手Kid Rock的账户联系起来，以推广阴谋论。该公司还发现了一家埃及公司运营的虚假新闻页面，旨在瞄准埃塞俄比亚、苏丹和土耳其，以及促进中国电信巨头华为技术有限公司的假集群账户，该公司面临美国制裁。

在最近的银行混乱案中，Graphika的Santiago Lakatos，负责追踪金融和市场的工作人员，使用公司的软件来研究他所称之为“阴谋金融社区的广泛地图”。与Alethea一样，他怀疑对手会利用危机来动摇美国。他还发现加密货币倡导者不仅在SVB银行引发了挤兑，还在总部位于纽约的Signature Bank和总部位于旧金山的First Republic银行引发了挤兑。Graphika首席分析师杰克·斯塔布斯表示，俄罗斯国家行为者在过去24个月里一直在引发美国和欧洲的通货膨胀和生活成本问题上的不满情绪，同时“对SVB银行进行了大规模攻击”。

当然，一个人的虚假信息可能是另一个人的政治观点表述，因此公司必须小心处理。Graphika向组织提供情报，这些组织可以根据公司说法做出自己的战略决策。“我们不试图成为真假信息的仲裁者，”Graphika首席运营官盖特·麦科德说。

红旗也可能具有误导性。Alethea的首席分析师迈克尔·罗宾逊在Twitter Inc.工作时调查了一些日本用户。他们拥有可疑数量的账户，暗示存在一个虚假网络。后来发现，这些用户是在在线角色扮演游戏中扮演不同角色。

还有一个问题是可以采取什么行动。律师事务所Boies Schiller Flexner的合伙人大卫·西蒙斯表示，往往很难采取法律行动，因为互联网平台对其内容不承担责任，而恶意行为者也难以确定。对一些组织来说，减轻谎言的影响成本太高。“对于较小的公司来说，反击要困难得多，”他说。

麦考德将SVB银行挤兑事件与2021年的模因股票狂潮进行了比较，当时散户投资者抬高了GameStop Corp.等公司的股票价格至荒谬的水平，部分原因是为了挤压那些做空这些股票的华尔街投资者。后者导致了毁灭性的投资损失，最终影响了双方；前者则动摇了银行系统。这两个例子概括了棘手的问题。在网络上，帖子可能一开始是真实的（或接近真实），然后变成谎言和恐慌，其后果很少有人能够预料到。

墨菲为彭博新闻社在旧金山报道网络安全。