用AI生成深伪色情内容 我国拟修法明确为犯罪 | 联合早报

政府将在今年修订《刑事法典》，把使用人工智能生成的深度伪造色情内容明确列为罪行。

内政部长兼律政部长尚穆根星期三（2月5日）书面答复国会议员的提问时指出，我国针对深度伪造（deepfake）色情图片和影像的法律，大体上跟韩国和英国正在实施或考虑实施的法规类似。

这类深伪内容通常涉及经过窜改以描绘受害者的影像或录像。根据刑法，持有或获取这些内容都是违法的，包括制作过程中接触到这类材料，最高刑罚是监禁两年、罚款，或两者兼施。

如果内容涉及未成年人，处罚更严厉；制作或拥有这类深伪色情内容，可分别被判最高10年或五年监禁，外加罚款或鞭刑。

尚穆根说，政府将在今年修订刑法，明确规定针对上述罪行的法律同样适用于通过人工智能（AI）生成的深伪色情内容。

延伸阅读

[澳拟对未经同意传播深伪色情图像者 处以最高六年监禁

](https://www.bdggg.com/2024/zaobao/news_2024_06_02_686117) [内政科技局新研发AI模型有助打击深伪音频

](https://www.bdggg.com/2024/zaobao/news_2024_03_25_672151)

律师：修法以明确针对各种性犯罪是必要的

赢必胜法律事务所的黄国彦律师认为，修订刑法以明确针对各种性犯罪的法律是必要的。

他指出，目前关于深伪的法律实际上并未针对深伪Al行为，修法可明确界定“深伪”行为的法律定义。这样一来，相关惩罚也可以更好地区分或定制，以针对不同程度或类型的深伪行为，例如案子涉及特定类别的受害者，或涉及不同程度的侵扰与色情内容。

新加坡管理大学杨邦孝法学院副教授陈庆文指出，我国现有的法律框架足够灵活，可以应对迅速发展的AI科技所带来的挑战。然而，由于多数科技初现时不受特定法律框架所约束，现行法律可能有必要根据最新发展重新解读。

他认为，我国有必要修改现行法律，以避免出现任何法律不确定性或空白。“政府主动制定法律框架以应对科技发展，可以确保对色情内容的持续管控。”

非营利团体新加坡妇女发展与支援组织（SG Her Empowerment，简称SHE）的主席张祉盈律师指出，AI生成的深度色情伪造图像出现是本地乃至全球令人担忧的趋势。

例如，新加坡体育学校的男学生去年被曝制作并传播女同学的深伪裸照。SHE组织在2023年进行的网络危害调查也显示，每10名互联网用户中就约有一人曾经历涉及图像的性侵犯，包括深伪图像。

张祉盈说，尽管这些图像并非真的，但由于传播迅速，有时候很难完全删除，可给受害者带来创伤。“一时的恶作剧可能导致一生的创伤。”

她指出，虽然这样的事件在本地目前尚不普遍，但如果这些行为不受谴责，很可能逐渐被视为正常，进而被接受。“如果法律明确将这种行为定为犯罪，就可发出强烈信号，表明这种行为是不可接受的。”

网络危害不能单靠法律 公共教育不可或缺

受访专家也强调，立法固然重要，但应对网络危害不能单靠法律，公共教育同样不可或缺。

张祉盈指出，受害者可能感到羞耻、屈辱和自责，因此害怕举报和提起诉讼。“虽然立法是积极的进展，但仍不够。就社会整体而言，我们须要明确并推广什么是可接受的网络行为，同时为受害者提供支持。”

她认为，学校、家长和公众应当了解数码世界以及它的适当界限，也应知道有哪些可提供帮助的渠道。我国还应开始考虑为“违法者”提供适当的改造计划，因为他们可能是在没有充分意识到自己的行为会带来伤害的情况下犯错。

陈庆文同意，教育和改造至关重要。例如，对构成网络伤害的青年罪犯进行改造时，必须教导他们如何正确、有道德地使用科技。