国家就战场上的人工智能展开辩论以下是一些要点-彭博社

来自包括美国、中国和韩国在内的60多个政府官员本周在海牙举行会议，讨论在军事领域使用人工智能的伦理和法律后果。

军事领域的负责任人工智能（REAIM）峰会在一个以审判违反战争规则者而闻名的城市举行，这是首次举行此类会议讨论人工智能在安全领域的作用。这是一次首次尝试，旨在汇集政府官员、政策制定者、军事人员和行业人士，考虑潜在规范人工智能在国防技术中的使用方式。

REAIM峰会的小组成员。来源：Martijn Beekman/Reaim两天的广泛讨论导致60多个国家签署了一份“行动呼吁” —— 这是为一个仍处于萌芽阶段的领域制定规范的第一步。

以下是一些要点：

时间压力

发言人强调了制定规定的速度需求。“从规范、提升技能、问责等方面都有巨大的空白需要填补，与此同时，技术正在飞速发展，” 斯坦福大学网络政策中心国际政策主任、前欧洲议会议员Marietje Schaake说。

埃德·克罗南堡，荷兰外交官兼REAIM峰会特使，表示尽管这次会议在OpenAI推出ChatGPT聊天机器人之前就已经筹备了很长时间，但最近人工智能在公共领域的进展突显了规定需要出台的速度。“发展速度如此之快，尤其是商界的例子，以至于社会很难跟上，更不用说讨论立法了，” 他说。

伦理工程

除了法规外，参与者表示，防御公司拥有自己的道德准则并让其指导他们的开发准则至关重要。

以瑞典国防公司 Saab AB 为例，该公司多年来一直在使用人工智能。首席技术官Petter Bedoire在接受采访时表示：“我们已经开始在道德上不敏感的领域进行工作。我们目前的工作方式是基于人道主义法律和一些开发准则的解释。我们确保我们的工程师了解哪些领域是安全的，哪些领域需要非常小心。”

人类拥有最终责任

在峰会上的讨论中，人类应在任何自主武器系统中扮演的持续角色是核心问题。“关键在于谁对使用这些系统负有最终责任，”Kronenburg说，“以及你希望如何规范这一点。”

在呼吁行动中，出席峰会的外交和国防部长发布了一份声明，也承认了在军事中部署人工智能时人类应承担的责任。

REAIM峰会上的声明。来源：Martijn Beekman/Reaim“在行业中，我认为在军事中，人类掌握有意义的控制将加强您的自动化系统而不是削弱它，”国际特赦组织秘书长Agnes Callamard告诉彭博社。“有些人对有意义的人类控制的门槛可能有所不同。我们可以讨论这一点，但我认为大家普遍感觉这是正确的切入点。”

人权组织警告称，关于在冲突中使用人工智能的会议和当前的讨论过于集中在乌克兰战争的背景上。“由于乌克兰，这里的每个人都认为自己是好人，” 卡拉玛尔说。“这未能理解，在政治动荡的时代，国家可能会转变。”