教皇方济各成为人工智能的受害者，警告其“邪恶”的危险| 路透社

教皇方济各在梵蒂冈保禄六世大厅参加每周一次的普通观众日时的反应，2024年1月24日。路透社/克劳迪娅·格雷科

梵蒂冈城，1月24日（路透社）-教皇方济各在周三承认自己成为深度伪造照片的受害者，并警告针对人工智能的“邪恶”危险，再次呼吁全球对其进行监管，以利用其造福人类。

方济各在罗马天主教会社交传播世界日的信息中谈到了他对人工智能（AI）的担忧和希望，这一天将在全球范围内举行，时间为5月12日。

尽管他敦促人们暂时“搁置对新事物的灾难性预测及其麻木效应”，但他的三页长信函大多是悲观的，警告称“认知污染”可能扭曲现实，推动虚假叙事，并囚禁人们在意识形态的回音室中。

“我们只需想想长期存在的虚假信息问题，即今天可以利用‘深度伪造’来传播的假新闻-看起来完全合理但却是虚假的图像-我也曾是这种情况的受害者，”方济各写道。

他显然是在指一张去年在社交媒体上走红的假照片。照片中他穿着一件及膝的白色羽绒服，是由某人使用图像生成程序发布的。

方济各还谈到了虚假的“使用某人的声音说出那个人从未说过的话”的音频信息。

星期一，美国新罕布什尔州的总检察长表示，他的办公室已经展开对伪造电话的起源进行调查，这些电话模拟了总统乔·拜登的声音，并鼓励选民不要在周二的总统初选中投票。伪造电话的起源进行调查，这些电话模拟了总统乔·拜登的声音，并鼓励选民不要在周二的总统初选中投票。教皇写道：“这些程序背后的模拟技术在某些特定领域可能是有用的，但当它扭曲了我们与他人和现实的关系时，它就变得扭曲了。”

他重申了上个月提出的要求，呼吁制定一项具有法律约束力的国际条约来规范人工智能。在周三的讲话中，他谈到了人工智能的"相关病态"，包括多元主义的减少和"群体思维"的增加，即在不考虑外部批评或替代方案的情况下采取共识立场。

弗朗西斯还谈到了人工智能在媒体中的危险，特别是在战争报道中，他说这可能会受到通过虚假信息战进行的平行战争的影响。

他说，人工智能必须支持而不是淘汰地面新闻报道的作用。