你的AI模型要失控了吗？可能有保险可以应对——《华尔街日报》

生成式AI带来的商业风险涵盖网络安全问题、潜在版权侵权、输出结果不准确或存在偏见、错误信息传播以及专有数据泄露等诸多方面。图片来源：Graham Hughes/Bloomberg News生成式人工智能项目可能失控的多种情形为保险公司创造了机遇，尽管这些严峻场景正让企业技术主管们夜不能寐。

借鉴网络安全保险的发展经验——几年前在发生重大数据泄露事件后该险种需求激增，保险公司已开始涉足AI领域，为模型失效提供财务保障。

企业技术负责人表示，此类保单有助于缓解董事会成员、首席执行官和法律部门对风险管理的担忧。

数字技术与IT服务公司UST的首席技术官兼数据服务主管Niranjan Ramsunder表示：“你会发现有越来越多人开始追问’谁来承担风险？如何筹措资金？能否替我们分担部分风险？'”

分析师指出，尽管尚处早期阶段，市场对AI保险已显现需求。大型保险公司可能针对AI及生成式AI（这项技术在企业界的应用仍处初级阶段）导致的财务损失推出专项保险。现有责任险或网络安全险条款也可能很快纳入生成式AI相关内容，不过目前尚未出现因生成式AI导致数据泄露等直接造成企业损失的明确案例。

与生成式AI相关的商业风险包括从网络安全问题到可能的版权侵权、不准确或带有偏见的输出与错误信息，以及公司专有数据泄露等一系列问题。

“我敢打赌，如果这些保险产品推出且合理，超过50%的大型企业会购买，“专注于AI信任、风险与安全的Gartner分析师Avivah Litan表示。

慕尼黑再保险公司为销售AI服务的企业提供保险政策，其Insure AI产品负责人Michael Berger称该业务始于2018年。该产品还承保企业自研AI模型——例如当自建模型出现人类不会犯的错误导致财务损失时提供保障。

今年成立的多伦多初创公司Armilla Assurance提供所谓"产品质保”，由瑞士再保险和Chaucer等再保险公司承保，确保AI模型能如销售方承诺那样运作。

鉴于企业对将生成式AI嵌入运营的顾虑，微软、IBM和Adobe等供应商正在提供其他风险管理方案。

IBM上周宣布其标准合同中的知识产权保护条款将适用于其开发的生成式AI模型。Adobe于6月表示企业可为其Firefly平台上生成式AI创作的内容向该公司购买知识产权赔偿保险。

9月，微软宣布承诺为因客户使用其基于生成式AI的Copilot工具引发的诉讼提供辩护并支付赔偿。该公司表示，客户必须使用其内置的防护措施，这些措施旨在过滤掉受版权保护的内容。

分析师指出，利用大型语言模型可能引发的版权侵权问题是企业面临的主要障碍，这使得供应商在必要时需为客户提供法律资金支持成为焦点。微软、OpenAI及其他供应商已因侵犯互联网用户隐私权和版权被起诉。

微软旗下GitHub的首席执行官托马斯·多姆克表示，这一新承诺促成了多项交易。他指出，技术和产品团队希望使用GitHub的Copilot生成式AI编程助手，而微软为保护客户提供的资金承诺有助于获得法务部门的支持。

网络保险的最新发展为AI领域提供了一些借鉴。疫情期间，网络保险公司加强了对投保人安全措施的审查，导致保单费用增加和承保范围缩小。随后，随着高成本黑客攻击的增加，保险公司提高了保费并缩减了承保范围。分析师认为，随着承保方式的演变和保险公司开始支付高额索赔，AI保险政策可能会遵循类似的路径。

此外还存在许多其他挑战。由于缺乏关于AI模型在商业中的使用方式及其表现的历史数据，保险公司难以评估风险。生成式AI模型的快速变化也要求风险评估方法必须具有动态性。

阿米拉保险首席执行官卡尔提克·拉马克里希南图片来源：阿米拉保险目前，阿米拉保险、瑞士再保险和慕尼黑再保险都依靠自身的人工智能专业知识和专有评估框架来定价风险。

阿米拉保险通过综合评估训练数据、开发者背景、测试表现及客户使用方式等八大因素来确定特定AI模型的风险。该公司联合创始人兼CEO卡尔提克·拉马克里希南表示，这些因素决定了客户及其AI模型应用的风险程度与可保性。他透露，除传统AI外，公司已开始测试部分生成式AI模型。

若模型出现故障，阿米拉保险将赔偿客户支付给AI供应商的最高许可费用。这家初创公司收取的保费按许可费比例计算，具体费率根据模型风险与复杂程度浮动。

瑞士再保险财产与意外险研发高级副总裁杰里·古普塔称，其与阿米拉保险的合作聚焦模型准确性，这是该公司首个针对AI相关风险设计的保险产品，未来可能扩展至解决偏见、版权和数据隐私等更复杂问题。“随着经验积累和数据增加，我们将确定后续发展方向。“他表示。

慕尼黑再保险的伯杰透露，该公司通过内部科研团队为AI模型风险定价。“定价工作的核心是为各AI模型在新数据上的不确定性寻找可靠的统计评估指标。”

伯杰表示，评估生成式AI相较于其他形式AI的风险需要一套特殊考量标准，包括对文本提示词引发的"性能更高波动性"和知识产权侵权风险的评估。他指出，未来还需开发更多保险产品以覆盖AI歧视等新型风险。

分析师、科技行业领袖和保险从业者认为，随着企业在日常经营中日益依赖AI，针对生成式AI模型使用潜在损失的保险或财务保障方案，未来几年可能成为企业标配。

未来十年保险业将迎来巨大机遇。麦肯锡研究人员预估，生成式AI每年可为全球经济贡献数万亿美元产值，这将引发风险管理的新课题。福雷斯特保险业分析师埃伦·卡尼表示，多数保险公司正在探索如何把握这一机遇。

“这必将成为保险公司产品组合的标配，无论是面向中小企业还是同业机构。“卡尼强调。

值得注意的是，企业技术决策者对单纯依靠保险管理AI风险持审慎态度。UST公司拉姆森德指出，保险产品的部分吸引力在于风险转移功能，但这只是众多风险管理策略中的一环。

正如网络安全专家警告不能以网络保险替代基础防护措施，企业应当建立防止数据泄露等安全护栏，并将其他安全工具和技术作为首要防线。

“保险是灾难发生时的最后一道防线，”数字运营公司PagerDuty的首席技术官蒂姆·阿曼德普尔表示，“企业需要建立系统以快速应对技术问题。”

联系贝尔·林，邮箱：[email protected]

刊登于2023年10月3日印刷版，标题为《保险公司推出人工智能风险的承保服务》。