蚂蚁首席AI科学家：可信AI是数字时代抵抗风险的关键能力

随着数字化进程的不断加速，人工智能（AI）的应用越来越广泛。如何确保AI的安全、可信和公平成为全行业关注的重要课题。“未来的风控将不再是人和人的斗争，而是AI与AI的博弈，” 在2021世界人工智能大会“可信AI”论坛上，蚂蚁集团副总裁、首席AI科学家漆远在演讲中表示，“从技术的视角看，可信AI是数字时代抵抗风险的关键能力，是推进科技普惠的关键。”

据介绍，支付宝上每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。为了应对复杂多变的黑产攻击，如何持续加强风控模型的抗打击能力，成为摆在蚂蚁集团技术团队面前的难题。

漆远在会上分享了蚂蚁集团在可信AI技术领域的多项技术和应用成果。他表示，融入经济学“博弈理论”的“智能对抗”技术，能够借助“双手互博”的演习机制，让AI模拟黑产发起对自身的攻击演练，从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉，该技术应用于金融风控领域，在业内尚属首次。

就像金庸小说里的“双手互博”，借助“智能对抗”技术，用更智能的 “攻”，实现更安全的“防”。 “智能对抗”技术在权威机构Gartner发表的白皮书中被列为2021年十大金融科技趋势之一。因该技术具有对风险知识形成感知、分析和预测的能力，未来将成为可信AI领域的核心安全技术。

此外，针对数据传输和共享方式无法对数据进行有效的保护，不同金融机构的数据难以互联互通，浦发银行和蚂蚁集团针对零售贷款业务开发了一整套风险评估解决方案，采用多方安全计算的风险模型利用浦发银行及其合作方的数据来共同提高模型的有效性，同时保证了数据的安全性和隐私性。

该模型基于浦发银行及其合作方的数据构建而成，蚂蚁集团为双方提供技术服务，在训练和运行两个阶段内均采取了分布式部署，且双方都应用了加密算法。这意味着，任何一方的原始数据都不会泄露给另一方，并且也无法通过对训练结果的反向工程来推导原始数据。（编辑：一鸣）

本文系观察者网独家稿件，未经授权，不得转载。