教皇方济各呼吁制定约束性全球条约来规范人工智能 | 路透社

教皇方济各在梵蒂冈举行每周一次的普通观众，2023年12月13日。梵蒂冈媒体/路透社/文件照片

梵蒂冈城，12月14日(路透社) - 教皇方济各呼吁制定具有法律约束力的国际条约来规范人工智能，称算法不应取代人类价值观，并警告称“技术专政”威胁人类存在。

教皇在周四发表了这一呼吁，这是罗马天主教会的和平世界日的信息，该日在1月1日庆祝。这一信息的标题传统上发送给世界领导人和联合国等机构的负责人，标题为“人工智能与和平”。

1/1

跳过 广告

继续观看 广告后

访问广告商网站转到页面 即将播放广告

下一个 停留下一个

关闭

英语

180p

288p

360p

480p

540p

576p

720p 高清

1080p 高清

自动 (480p)

关于Connatix V399327

关于Connatix V399327

随着世界各国政府寻求在技术的优势（例如进行类似人类的对话、回答问题和编写计算机代码）与设立监管措施之间取得平衡，这一技术的全球规模使人们清楚地认识到，除了各主权国家有责任在国内监管其使用外，国际组织还可以在达成多边协议并协调其应用和执行方面发挥决定性作用，”方济各在信息中写道。

“我敦促世界各国共同努力，以制定一项约束性的国际条约，规范人工智能在其多种形式中的发展和使用，”教皇说。

就在上周，欧盟就管理人工智能的里程碑规定达成了临时协议，其中包括政府在生物特征监视中使用人工智能以及如何监管诸如ChatGPT之类的人工智能系统。

新的人工智能应用

教皇的呼吁也是在像OpenAI这样的公司继续发现其技术的新用途，引发赞扬和担忧的情况下提出的。微软（MSFT.O）是OpenAI的投资者之一。谷歌母公司Alphabet（GOOGL.O上周推出了一个名为Gemini的新人工智能模型，以与OpenAI竞争。

方济各呼吁对“人工智能的所有者和开发者的目标和利益”进行道德审查，并警告称，一些人工智能的应用“可能对我们的生存构成风险，并危及我们共同的家园”，这是指地球。

“在过度渴望控制一切的过程中，我们可能会失去对自己的控制；在追求绝对自由的过程中，我们可能会陷入‘技术专制’的漩涡，”他写道。

弗朗西斯经常批评军火工业，他警告称不要在武器系统中使用人工智能，因为这可能导致全球灾难。

他说：“在所谓的致命自主武器系统领域的新兴技术研究，包括人工智能的武器化，是一个严重的伦理关切。自主武器系统永远不能成为道德上负责任的主体。”

他说，人类“独特的道德判断和伦理决策能力”不能交给机器，还补充说“必须确保对武器系统进行充分、有意义和一贯的人类监督是至关重要的”。

在发布这一信息的新闻发布会上，梵蒂冈人类发展办公室主任、枢机主教迈克尔·切尔尼说，这位86岁的教皇“并不是反对新技术的人”，这个词指的是反对新技术的人。

他说，教皇赞赏为人类服务的技术和科学进步，但弗朗西斯特别关注人工智能，因为它“或许是我们未来最高风险的赌注”。