华尔街警示人工智能新风险：幻觉问题与犯罪利用——彭博社

高盛集团、花旗集团 和摩根大通等华尔街公司正在警告投资者关于人工智能日益普及带来的新风险，包括软件幻觉、员工士气问题、网络犯罪分子的使用以及全球法律变化的影响。

银行在年度报告中新指出的风险包括有缺陷或不可靠的人工智能模型、竞争加剧以及限制人工智能使用的新法规。例如，摩根大通在其2024年10-K报告中表示，人工智能可能导致“劳动力替代”，这可能会影响员工士气和留任，并增加对具备必要技术技能的员工的招聘竞争。

过去几年，银行一直在年度报告中承认与人工智能相关的风险，但随着金融行业越来越多地通过自己的软件或第三方产品采用人工智能，新的担忧正在出现。银行在年度报告中表示，如果不跟上人工智能的最新发展，它们可能会失去客户和业务。但人工智能使用的增加也使它们面临网络攻击和滥用的风险。

“建立适当的管理机制，确保人工智能以安全、公平和可靠的方式部署——这一点绝不能忽视，”埃森哲北美银行和资本市场金融、风险与合规负责人本·肖顿在一次采访中表示。“这不是一种即插即用的技术。”

银行在试点技术时面临风险，这些技术可能基于过时、有偏见或不准确的金融数据集构建。摩根大通的年报指出，在开发和维护具有最高“数据质量”标准的模型过程中存在诸多隐患。

花旗集团表示，当其在部分业务中部署生成式AI时，分析师可能获得“低效、不充分或错误”的结果。根据其2024年年报，数据还可能存在不完整、偏见或失实问题，这“可能对其声誉、客户、业务、经营成果及财务状况产生负面影响”。

AI整合挑战

高盛在最新年报中称，尽管增加了对数字资产、区块链和AI的投资，但日益激烈的竞争可能阻碍其及时整合AI技术以提升生产力、降低成本并为客户提供更优质的交易、产品和服务。高盛表示，这可能影响客户获取与留存。

肖滕指出，在“高度不确定且快速演变”的环境中，金融机构还面临数据隐私保护和监管合规的风险。2024年生效的《欧盟人工智能法案》为在该地区运营的众多美国银行制定了AI系统使用新规。

“该法案对在欧盟市场投放、投入使用各类人工智能系统确立了规范，”肖滕表示，“而美国及美国市场的前景尚不明朗。”

银行正在结合使用自主研发和外部采购的人工智能工具。花旗集团正在推出一套能够从公开文件中提炼关键信息的工具。摩根士丹利的AI @ Morgan Stanley Debrief正通过类ChatGPT界面处理程式化任务。高盛私人财富管理部门则运用AI评估投资组合并分析数十项底层持仓，首席信息官马可·阿真蒂表示。

“采取负责任的态度并实施严格管控至关重要，这样才能防范潜在的错误和幻觉问题，“他上周在纽约举行的彭博投资大会上强调。

高盛CIO马可·阿真蒂与彭博社的索娜莉·巴萨克在彭博投资论坛上阐述该行AI应用现状及2025年展望。

摩根大通首席执行官杰米·戴蒙称AI可能是该行面临的最大课题。他在年度致股东信中将其变革潜力比作蒸汽机，表示这项技术将"几乎增强所有工作岗位”。

延伸阅读：戴蒙将AI变革影响类比蒸汽机

各银行代表拒绝对年报披露内容以外的AI事项置评。

肖顿指出，随着银行加速布局AI，网络犯罪分子也在同步升级技术手段。埃森哲最新全球银行业网络安全高管调查（涵盖600名受访者）显示，安全团队难以跟上企业AI应用步伐。80%的受访者认为生成式AI武装犯罪分子的速度远超银行应对能力。

摩根士丹利在其最新年度报告中表示，生成式人工智能、远程办公和第三方技术整合可能对数据隐私构成风险。肖顿指出，居家办公时使用人工智能带来的风险将要求企业制定规则以避免问题。

“随着攻击者利用这项技术实施攻击的速度快于银行的应对能力，这些措施的重要性只会与日俱增。”他说道。