人工智能工具在金融领域可能更聪明，但风险变得更加奇怪 - 彭博社
Paul J. Davies
演员华金·菲尼克斯在电影《她》中的一个场景。
由华纳兄弟影业提供（2013）
美国证券监管机构负责人加里·根斯勒上周引用了斯嘉丽·约翰逊和华金·菲尼克斯的电影《她》，以帮助解释他对金融领域人工智能风险的担忧。资金管理者和银行正在急于采用少数生成性人工智能工具，其中一个的失败可能会造成混乱，就像约翰逊扮演的人工智能伴侣让菲尼克斯的角色和许多其他人心碎一样。
关键基础设施的问题并不新鲜，但像OpenAI的ChatGPT和其他现代算法工具的大型语言模型带来了不确定和新颖的挑战，包括自动化价格串通，或违反规则并对此撒谎。预测或解释人工智能模型的行为往往是不可能的，这使得用户和监管者的处境更加棘手。
彭博社观点我想支付更高的燃油税——你也应该这样做亚洲的权力游戏不仅仅关乎美国和中国中国的游戏还没有结束，但已经是“垃圾时间”特朗普和哈里斯对一个火烧火燎的世界没有计划根斯勒所领导的证券交易委员会和其他监管机构已经调查了广泛使用的技术和软件的潜在风险，例如大型云计算公司和黑石集团几乎无处不在的阿拉丁风险和投资组合管理平台。今年夏天的全球IT崩溃是由网络安全公司CrowdStrike Holdings Inc.引发的，提醒人们潜在的陷阱。
仅仅几年前，监管机构决定不将此类基础设施标记为“系统重要”，这可能导致更严格的规则和监督。相反，去年国际金融稳定委员会制定了指导方针，以帮助投资者、银行家和监管者理解和监控 关键第三方服务 的失败风险。
然而，生成性人工智能和一些算法是不同的。根斯勒和他的全球同行们正在追赶。人们对黑石的阿拉丁（Aladdin）感到担忧，因为它可能会影响投资者以相同的方式进行相同类型的投资，从而加剧羊群行为。基金经理们辩称，他们的决策与阿拉丁提供的支持是分开的，但对于那些可以代表用户做出选择的更复杂工具来说，情况并非如此。
当大型语言模型（LLMs）和算法在相同或相似的数据上训练，并变得更加标准化和广泛用于交易时，它们可能很容易追求模仿策略，使市场容易受到剧烈反转的影响。算法工具已经被指责为闪电崩盘的原因，例如2019年的日元和2016年的英镑。
但这只是开始：随着机器变得越来越复杂，风险也变得更加奇怪。有证据表明算法之间存在勾结——是故意的还是意外的尚不清楚——尤其是在那些采用强化学习构建的算法中。一项研究1发现，提供给德国汽油零售商的自动定价工具学习到了默契的勾结策略，从而提高了利润率。
然后是虚假。一个实验2 指示OpenAI的GPT4在模拟中充当匿名股票交易员，并给了它一个丰厚的内部消息，尽管它被告知这是不允许的，但它还是进行了交易。更重要的是，当被“经理”询问时，它隐瞒了这一事实。
这两个问题部分源于给AI工具 一个单一目标，例如“最大化你的利润”。这也是一个人类问题，但AI可能会在以难以追踪的方式做到这一点方面表现得更好、更快。随着生成性AI演变为被允许执行更复杂任务的自主代理，它们可能会发展出超人类的能力，以追求金融规则和法规的字面意义，而不是精神内涵，正如国际结算银行(BIS)的研究人员在 一份工作论文中所述。
许多算法、机器学习工具和大型语言模型是黑箱，无法以可预测、线性的方式运作，这使得它们的行为难以解释。BIS的研究人员指出，这可能使监管者在后果出现之前更难发现市场操纵或系统性风险。
另一个棘手的问题是：当机器做坏事时，谁负责？上周在阿姆斯特丹举行的外汇交易技术会议上，与会者正讨论这个话题。一位交易员感叹在一个日益自动化的交易世界中失去了自己的主动权，他告诉 彭博新闻，他和他的同行们已经变成了“仅仅是算法DJ”，只选择哪个模型来运作。
但是DJ确实选择了曲调，另一位与会者担心如果一个AI代理在市场上造成混乱，责任会落在谁的身上。是交易员、雇佣他们的基金、他们自己的合规或IT部门，还是提供软件的公司？
所有这些问题都需要解决，但AI行业正在不断发展其工具，金融公司也在急于以各种方式尽快使用它们。最安全的选择可能是将它们限制在特定和有限的任务上尽可能长的时间。这将有助于确保用户和监管者有时间了解它们的工作原理以及哪些保护措施可能有帮助——如果它们出现问题，损害也会得到限制。
潜在的利润意味着投资者和交易员将难以抑制自己，但他们应该倾听Gensler的警告。向《她》中的华金·菲尼克斯学习，不要爱上你的机器。更多来自彭博社观点：
想要更多彭博社观点？OPIN <GO>。或者你可以订阅我们的每日通讯。