李艳：AI发展存在两大深层安全关切

<article><section data-type=“rtext”><p>以生成式人工智能为代表的人工智能（AI）技术与应用发展如火如荼，被视为推动新一轮科技革命的风向标。各国更是将其视为未来在科技竞争乃至国际力量格局中占得一席之地的关键领域，纷纷加紧布局，出台战略，加大政策支持与资源投入力度，助力人工智能技术与应用落地。在韩国举行“人工智能（AI）首尔峰会”的几乎同时，欧盟理事会批准《人工智能法案》，美国商务部发布了题为“美国人工智能安全研究所：愿景、使命和战略目标”的战略愿景文件。</p><p>鉴于人工智能的技术与社会应用特点，如技术路线的不确定性、发展方向的模糊性以及安全风险的复杂性，特别是叠加当前国际格局与地缘政治博弈加剧、技术不断被政治化等因素，人工智能发展中的安全关切格外凸显。这些关切有的体现为各方共识，如对技术本身可能存在的安全风险、未来人机共存可能面临的伦理问题等，有的则更多体现为国家间分歧。后者显然会对未来人工智能治理进程带来两大层面更加深层的影响。</p><p>首先，从中美来看，中美人工智能政府间对话首次会议日前举行，受到外界广泛高度关注。原因无他，作为当前人工智能领域当仁不让的两大“执牛耳者”，中美对于人工智能发展与安全的讨论势必会对人工智能技术方向、安全风险防范以及治理规则建立带来深远影响。在对此次对话的分析中，有观点认为，首次会议最重要的是双方能够坐在一起，进行坦诚与建设性的对话本身就意义重大。但通过事后公布的此次对话内容，不少观察者再次注意到，<em data-scene=“strong”>中美双方在人工智能领域虽具有一定共识基础，但各自深层安全关切显然不同。</em></p><p>在人工智能领域，美国政府一直不断向外界传递所谓“中国挑战论”，并以此作为其实施竞争乃至遏制打压的底层逻辑。早在2019年，时任美国总统特朗普发布旨在“维持美国在人工智能领域的领导地位”的第13859号行政令。在华盛顿眼中，能够对其领导地位形成挑战的是中国。近年来，美国政界学界不断加强配合，强化有关“中国挑战”的叙事，认为中国将全面“挑战”美国在人工智能领域及全球范围内的相对优势和领导地位，并对美国国家安全构成“严重威胁”。即使是在双方进行对话的同时，美国政府也没有暂停行动，如积极酝酿进一步推出“增强关键（产品）出口海外限制的国家框架法案”，试图对2018年《出口管制改革法》作出修改，对一些“人工智能系统”和“对美国国家安全至关重要的特定新兴和基础技术”进行出口管制，并限制美国人与外国人合作开发此类系统和技术。正是美国的这一系列举措又进一步引发并形成了中方的深层安全关切，认为美方的做法不仅会对中国人工智能发展带来不利影响，更会成为影响全球人工智能共同发展与安全的不利因素。这也是为什么中美人工智能政府间对话首次会议，中方就美方在人工智能领域对华限制打压表明严正立场。</p><p>其次，从中美之外的国家来看，他们也有着自身的深层安全关切。最明显的迹象就是近期国际社会涌现的所谓“主权AI”热潮。<em data-scene=“strong”>在人工智能技术与应用突飞猛进，尤其是美国展现出的人工智能强势发展劲头背景下，相关国家对未来可能面临的“智能鸿沟”与“数字殖民”表示担忧。</em>认为如不能在此轮人工智能热潮中找准方位，搭上新一轮科技革命快车，将不仅可能无法享受新科技革命红利，发展受限，落入“智能鸿沟”，还极有可能面临更为严峻的“数字殖民”困境，即人工智能技术路线、基础设施、供应链乃至价值观等全面受制于人。这种担忧在广大发展中国家尤甚，有专家称，“人工智能主权应为南半球国家政策优先事项，以免遭受外国监管、制裁、供应链破坏等影响”。目前，发展“主权AI”的国家已不限于俄罗斯等长期遭受美国技术打压的国家，印度、新加坡、法国、荷兰、韩国等国也在不同场合表达“发展主权AI是国家发展战略需要”，并以各种不同方式加紧相应布局。</p><p>这些深层安全关切充分反映出，不同国家对人工智能发展的重要认知与判断，而认知决定行动，相关国家未来的政策立场与主要举措也因此有迹可循。可以预见，如果华盛顿不改变所谓“中国挑战论”，不从合作共赢的角度看待人工智能未来发展，其政策走向与措施选择难有根本改变。同样，如果其他国家对于“智能鸿沟”或“数字殖民”的担忧没有得到有效缓解，没有对共同发展与安全建立足够的信心与信任，其未来战略选择势必会呈现更多基于安全的保守性或谨慎性选择，哪怕代价是牺牲对技术先进性的追求。而这些进程与走向的交叉互动，将共同塑造未来人工智能发展走向、治理进程乃至力量格局。（作者是中国现代国际关系研究院科技与网络安全研究所研究员）</p></section></article>