张欣：如何牢牢掌握AI治理主动权

在全球新一轮科技革命和产业变革加速演进的宏大背景下，人工智能（AI）正以其颠覆性的力量，深刻重塑着人类社会的生产生活方式与国际竞争格局。面对这一战略性技术带来的澎湃浪潮，中共中央总书记习近平在主持中央政治局第二十次集体学习时高屋建瓴地指出：“人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。”这一重要论断，辩证地揭示了人工智能发展的双重属性，为我国在新一轮科技革命背景下，推动人工智能健康有序发展、构建体现中国智慧和全球视野的治理体系，提供了根本遵循和行动指南。

当前，我国正处于开启全面建设社会主义现代化国家新征程、向第二个百年奋斗目标进军的重要历史节点，人工智能是发展新质生产力、推动高质量发展、跨域式助力中国式现代化的新优势和新动能。从赋能千行百业、优化社会治理到改善民生福祉、加速科研突破，人工智能的应用前景无限广阔。我国拥有海量数据资源、完备产业体系、广阔应用场景和巨大市场空间，这为人工智能技术的迭代创新与深度应用提供了得天独厚的优势。牢牢抓住这一优势，推动人工智能与实体经济深度融合，赋能传统产业转型升级，催生新产业新业态新模式，将技术潜力转化为实实在在的发展效能。在拥抱人工智能发展机遇的同时，绝不能忽视其带来的潜在风险与严峻挑战。算法偏见、数据滥用、隐私泄露、深度伪造、就业冲击、伦理失范乃至技术失控等风险，不仅可能扰乱经济社会秩序，甚至可能对国家安全和国际秩序构成威胁。特别是在当前复杂严峻的国际形势下，个别西方国家将科技问题政治化，大搞技术封锁和“小院高墙”，企图利用人工智能遏制他国发展，加剧了全球人工智能领域的不确定性和安全风险。面对这把锋利的“双刃剑”，既要勇于拥抱变革、抢抓机遇，也要始终保持清醒头脑，坚持底线思维，做到未雨绸缪。   

如何趋利避害，确保人工智能始终沿着有益于人类社会发展的轨道前进？这就需要“把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控”。这擘画出了我国人工智能治理体系的大致轮廓，为平衡创新发展与风险防范提供了重要准则。其中，“安全”，是底线要求，旨在着力防范技术自身的缺陷、脆弱性或因外部攻击、滥用误用引发的内生与外生风险，保障人工智能系统和应用不对个人、组织、社会与国家安全构成威胁。“可靠”，是稳定保障，旨在强调人工智能系统在预设功能和条件下稳定运行的能力与概率，确保其在关键领域和重要场景中能够持续、可信地发挥作用，避免因系统故障或性能波动造成损失。“可控”，是主导前提，要求人类始终保持对人工智能技术研发、部署、运行和迭代的主导权与干预能力，确保技术发展不偏离预设目标，一旦出现非预期行为或潜在危害，能够及时有效地进行人工干预、纠偏乃至终止。这三大目标相互关联、层层递进，共同构成了覆盖人工智能全生命周期的安全防护网。

为了实现“安全、可靠、可控”，还需通过加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，“构建技术监测、风险预警、应急响应体系”，进一步搭建我国人工智能治理的系统性框架。现阶段，我国已经建立了算法备案制度，对深度合成、生成式人工智能等服务进行动态追踪管理。结合人工智能应用的分级分类监管框架，根据不同场景的风险等级，我国实施差异化的应急处置策略，实现风险的精准阻断与敏捷响应，同时为技术创新保留必要的试错空间。接下来，还要进一步探索“软硬法协同”的治理模式，释放多元化治理效能。

由此可见，中国在人工智能治理方面的实践探索，特别是在统筹发展与安全、平衡创新与秩序、协调效率与公平方面的经验，不仅为自身高质量发展提供了制度保障，也为全球应对人工智能挑战提供了宝贵的中国智慧和可资借鉴的制度工具箱。面对人工智能这片充满机遇与挑战的新大陆，应统筹高质量发展与高水平安全，既要勇立潮头、开拓创新，也要心存敬畏、行稳致远，在全球智能革命的浪潮中，书写彰显中国智慧的新篇章。（作者是对外经济贸易大学法学院教授、博士生导师，对外经济贸易大学数字经济与法律创新研究中心主任）