财经三人谈：AI“复活”逝者，哪些边界不应逾越

作者：沈阳李长安姚佳

2024-03-23

<article><section data-type=“rtext”>编者的话：近日，社交媒体流传出一些博主利用AI技术让已故艺人在影片中“复活”并与粉丝互动的视频。画面曝光后，引发强烈争议。有网民质疑这种行为是在消费那些已故艺人赚取流量。也有相关名人的家人出面谴责，并要求下架相关影片。技术与法律、技术与伦理之间的关系应如何把握？AI“复活”带来哪些挑战？需要守住哪些边界？三个维度定位伦理边界 沈阳AI技术提出了一个我们必须面对的根本性问题：当我们拥有重塑现实、甚至改写过去的能力时，我们应该如何自处？这个问题的答案不简单。一方面，法律和伦理成为我们必须仔细考虑的重要维度。从法律层面讲，严格执行现有的肖像权和名誉权法律规定，保护逝者的权利，是基本的要求。从伦理层面看，基于对逝者及其家属深切的尊重和理解是我们的责任。另一方面，技术进步所带来的正面价值也不应被忽视。AI“复活”技术本身并不带有道德判断，关键在于我们如何使用这项技术。在应用AI技术“复活”逝者时，我们必须谨慎地守护伦理的边界。首先，任何技术应用都应建立在尊重与同情的基础之上，避免造成逝者家属的二次伤害。其次，明确获得家属或法定代表人的同意是必须的前提条件，确保技术应用的合法性和道德性。最后，对技术应用的目的、范围和后果的透明度和责任承担，是维护社会公信力的基石。面对AI技术的深刻影响，我们不仅需要规范和约束，更需要深刻的哲学思考：在技术的光影之间，我们如何让人性的光辉更加灿烂？未来的探索道路上，我们可以利用AI技术为社会服务，同时避免伦理陷阱。例如，在历史教育中，通过“复活”历史人物，可以让历史教育变得更加生动和吸引人，帮助年轻一代更好地理解历史；在艺术创新领域，适当使用AI技术呈现已故艺术家的作品，可以开辟艺术创新的新途径；在心理治疗和情感支持方面，AI技术有潜力提供一种全新的方式来帮助人们处理失去亲人的悲痛，通过再现逝者的声音或形象，提供心理慰藉。上述情形要求我们建立更加严格的伦理审查体系，确保技术的使用不会侵犯个人隐私，不会伤害逝者家属的情感，同时也不会滥用技术力量来扭曲历史事实或创造虚假信息。这需要一个跨学科的合作框架，包括技术开发者、法律专家、伦理学家、心理咨询师以及文化和历史研究者的共同参与，共同探索如何在尊重每个个体的前提下，发挥AI技术的积极作用。在这个探索过程中，社会公众的参与和监督也至关重要。公众应有机会对新兴技术的应用提出意见和建议，能够参与到决策过程中，确保技术的发展方向能够得到广泛的社会支持。（作者是清华大学新闻与传播学院教授）以“科技向善”探索技术边界李长安类似未经家属同意就利用AI技术“复活”逝者，模拟他人声音或“换脸”等突破技术伦理边界的“恶作剧”正变得越来越常见，各种侵权违法犯罪行为也日益增多，这对技术伦理的监管和规范提出了很大挑战。基于此，欧美国家纷纷出台了有关数字技术伦理的管理规定，基本原则可以概括为尊重人的自主性准则、防止损害准则、公平准则、可解释可追溯准则等。目前，我国政府有关部门就数字经济中AI技术伦理监管方面已经形成了一些法律法规及相关政策，例如2021年12月出台的《关于加强科技伦理治理的指导意见》中，提出了科技伦理要坚持增进人类福祉、尊重生命权利、公平公正、合理控制风险、保持公开透明等五项原则，要求健全多方参与、协同共治的治理体制机制，塑造“科技向善”的文化理念和保障机制。2019年组建的国家科技伦理委员会，下设有专门的人工智能分委员会。一些企业也成立了企业内部的科技伦理委员会，指导各自企业的技术研发和应用。但是总的来说，当前针对AI技术伦理的监管仍显滞后，还存在着较大的漏洞。为此要做好如下几项工作：一是进一步完善技术伦理监管的法律法规体系。我国《新一代人工智能发展规划》要求：到2025年，初步建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力；到2030年，建成更加完善的人工智能法律法规、伦理规范和政策体系。因此，要立足中国的实际国情，从推动“人工智能＋”的研发和应用出发，加快相关法律法规建设的步伐。二是推动多方利益主体参与。在数字经济时代的技术伦理治理中，多方利益主体参与是其中的重要一环。要尽快建立以政府监管为主导，企业和用户积极参与的数字技术伦理治理体系，突出以人为本、以用户为中心的原则，坚持“技术向善”。三是加大对公众的宣传力度。许多人对AI技术的原理和应用了解不够深入，对其可能带来的风险缺乏足够的认知，更没有足够有效的应对手段。同时，由于AI技术的高度仿真性，使得虚假信息看起来非常“真实”，公众往往难辨真伪。因此，要不断提高公众对AI技术的认识和理解，增强其风险意识和防范能力。（作者是对外经济贸易大学国家对外开放研究院研究员）从现有法条划定法律边界姚佳不久前有一则案件令人深思：某手机记账软件运营商在未经过某公众人物同意的情况下，为用户设计了可以自行创设或添加的“AI陪伴者”。不仅将名人的“AI分身”开放给众多用户，还允许用户设置各种“表情包”等。最后法院认定，被告未经同意使用原告姓名、肖像，设定涉及原告人格自由和人格尊严的系统功能，构成对原告姓名权、肖像权、一般人格权的侵害，判决被告向原告赔礼道歉、赔偿损失。这一案件与“AI”已故艺人复活较为相似，在未经已故艺人家属同意的情况下，通过AI技术设定了艺人的虚拟形象，商家同时还设置了用户可以根据素材自行选择呈现的效果，比如眨眼收费多少、原声配音收费多少等等。这一行为属于对包含了艺人肖像、姓名的整体人格形象的使用，与此前的案例相似，商家或服务提供者存在侵权风险。我国《民法典》第1019条第1款规定，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。同时，第994条规定，死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的，其配偶、子女、父母有权依法请求行为人承担民事责任。另外，《互联网信息服务深度合成管理规定》第14条第2款规定，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。可见，在现行法律法规下，以任何形式使用他人的姓名、肖像，均应取得权利人的同意，除非法律另有规定。随着AI技术的不断发展深入，其已“无所不能”。AI可以合成自己的“已故亲人”陪伴在自己身边，也可以合成自己喜爱的宠物相伴左右，给人们提供很多情感上的慰藉。互联网技术、人工智能技术确实给人们带来了颠覆性的生活期待，但同时从事任何行为仍应在法律的框架内，尊重他人的权利，否则就要承担相应法律风险。未来，人们利用技术或许可以常常通过视觉和互动“感受”到自己已故亲人的陪伴。但是切记，超越自身权利的行为，应受到法律的约束。尊重他人的权利，才能享受社会给人们带来的福祉。（作者是中国社会科学院法学研究所教授）</section></article>