AI存在信任问题，区块链能帮忙吗？——《华尔街日报》

区块链最为人所知的是作为加密货币的账本。一些科技供应商表示，该技术可以细致追踪人工智能训练所用的数据，并在AI产生可疑结果时发挥作用。图片来源：Omar Marques/Zuma Press确保人工智能算法安全、无偏见且准确的难度，正促使一些公司转向一种曾被吹捧为具有变革性、但未能在商业中普及的技术：区块链。

区块链以支撑比特币和其他加密货币而闻名，是一种数据结构，可以创建交易的数字账本并在计算机网络中共享。它利用密码学使网络中的每个参与者都能以安全的方式向账本添加记录，无需中央权威机构。一旦交易完成，区块链就成为其不可更改的记录。

考虑到这一点，数据分析公司FICO和专注于区块链的初创公司Casper Labs表示，他们正在应用该技术来跟踪构建和训练AI算法的过程。

他们表示，这是一个及时且紧迫的应用，因为AI在各商业领域迅速扩散，而公司发现它们并不总能信任AI的输出。与此同时，政府监管机构正加大压力，要求公司提高算法的透明度和可审计性。

区块链以往在供应链追踪等商业应用中的尝试未能获得市场认可。当前人工智能的爆发式增长能否成为区块链腾飞的东风，仍有待观察。

费埃哲（FICO）首席分析官斯科特·佐尔迪表示，区块链能精确记录算法训练数据的来源、时间、操作者，以及数据审核验证的全流程。虽然AI建模企业通常也会追踪数据轨迹，但区块链技术能更高效地形成共享、一致且可信的审计记录。

他特别指出，区块链虽不能防止算法失控或产生偏见，但可提供可追溯的记录来揭示问题根源。

“区块链能将流程分解为可验证的微型合约单元，确保每个步骤都经过细粒度验证，“佐尔迪解释道，“这种不可篡改性带来了前所未有的透明度和可信度。”

区块链并非解决AI模型可解释性或“黑箱”问题的万能钥匙。佐尔迪强调，它虽不能直接解释AI模型的具体决策逻辑，但能提供更完善的记录来辅助溯源。

部分首席信息官持保留态度。支付公司Fleetcor Technologies的斯科杜·福尔认为：“我们支持加强AI治理，但使用区块链就像拿着锤子找钉子。“他表示，区块链需与现有AI模型解释工具配合使用，才能真正提升系统可信度。

目前，FICO的工具正在内部使用，但计划在今年晚些时候向客户推出。

此外，总部位于瑞士的Casper Labs正与IBM合作开发自己的工具，该工具将提供“版本控制”：首席执行官Mrinal Manohar表示，它会记录在特定时间影响某个模型的数据和参数，如果公司开始发现其模型存在偏见或不准确，可以恢复到早期版本。

纠正算法中的偏见仍然是一个困难且耗时的过程，公司往往缺乏这样做的系统和工具。

Manohar表示，Casper的工具目前处于测试阶段，预计将在今年第三季度作为IBM的watsonx AI治理平台的集成产品上市，尽管它不会仅限于watsonx平台。AI治理平台试图指导该技术的使用并管理与它相关的风险。

Manohar表示，区块链的这种使用方式不太容易出现困扰早期使用的问题。例如，在供应链跟踪中，公司已经有长期建立的跟踪货物的方法，转而采用昂贵且复杂的区块链很难推销。但在AI治理中，不存在这种既定的方法，这给了区块链成为行业标准的难得机会，Manohar说。

供应链方面的努力也因涉及大量供应商和参与方而进展不顺，这些各方需要具备不同程度的技术能力来参与追踪工作。但研究和咨询公司Gartner的副总裁兼杰出分析师阿维娃·利坦表示，这项技术所需的参与者较少。

即便如此，这并不意味着区块链在人工智能治理中的应用已准备好腾飞。

“这是个很棒的想法，只是我认为它超前于市场，”利坦说。她指出，许多公司在推进新项目时，历史上并未将人工智能治理和风险管理作为重点。

“在重要性从1到10的等级中，对客户来说它可能排第三，”她说，不过她补充道，随着生成式人工智能项目激增，其重要性正逐渐提升。

马诺哈尔表示不认同该工具超前于市场的说法，并称测试过该工具的企业技术负责人给予了积极反馈。

“如果企业现在没有优先考虑人工智能治理和风险管理，我认为这是因为大多数企业不知道从何入手，而不是因为他们不关心或不认为这将成为优先事项，”他说。

软件公司Globant北美区首席技术官尼古拉斯·阿维拉表示，他认为这些工具仍需证明自身价值。不过，他确实看到了这两项技术融合的巨大潜力。

最终，“人工智能将解决区块链的问题，而区块链将解决人工智能的问题，”他说。

写信给伊莎贝尔·布斯凯特，邮箱：[email protected]

刊登于2024年1月12日印刷版，标题为《区块链被视为解决人工智能问题的方法》。