《华尔街日报》:新泽西州一所高中因学生真实照片被伪造裸照引发轩然大波
Julie Jargon
当新泽西州韦斯特菲尔德高中的女生们发现男生们在群聊中分享她们的裸照时,她们感到震惊,这不仅是因为隐私被侵犯,更因为这些照片并非真实。
学生们称,一名或多名同学利用人工智能在线工具生成这些图片后与他人分享。这一事件在这个纽约市郊的富裕小镇引发了轩然大波。
随着免费或廉价AI工具的普及,经过数字篡改或伪造的图片视频呈爆炸式增长。专家表示,虽然从奥普拉·温弗瑞到教皇方济各等名人的伪造形象吸引了媒体关注,但绝大多数虚假内容涉及色情。
由于此类图像的法律界定模糊——以及如何或是否应惩罚制作者——在AI技术飞速发展的当下,家长、学校和执法机构正疲于应对。
该校在给家长的电子邮件中证实了此事,但韦斯特菲尔德公立学校发言人拒绝透露涉事学生人数,也未证实是否采取了纪律处分,理由是需保护学生隐私。
部分韦斯特菲尔德家长表示,他们的女儿感到羞辱与无助,担心这些照片日后流传会对女孩们造成伤害。更令他们沮丧的是,目前问题仍未得到解决。
即便在家长群体中意见也存在分歧。当地脸书群组里,有人呼吁严惩图片制作者,也有人认为这只是年轻人应被原谅的过失。
这场争论及其余波可能会持续数月。韦斯特菲尔德警方正在调查中,一位州参议员已要求县检察官介入此案。
窃窃私语
一位母亲转述其女儿(当事人同学)的说法称,10月16日星期一,韦斯特菲尔德高中的二年级男生表现得"怪异",他们彼此交头接耳,比平时安静许多。
这位母亲表示,女生们开始追问缘由。直到10月20日,一名男生才向部分女生透露了窃窃私语的内容:至少有一名学生利用人工智能网站,将网上找到的女生照片制作成色情图片,随后在群聊中与其他男生传播。韦斯特菲尔德的女学生们向校方报告了此事,校方随即开始约谈可能知情的男生。
韦斯特菲尔德高中校长玛丽·阿斯芬迪斯在10月20日致家长的邮件中表示,她相信这些图片已被删除且未继续传播。
“这是非常严重的事件,“阿斯芬迪斯写道,“新技术使得伪造图像成为可能,学生们必须明白这些行为对他人可能造成的伤害和影响。“她承诺将继续教育孩子们负责任地使用技术。
据家长反映,多名女生从校方处获知,部分男生在生成的图片中指认了她们。学区发言人拒绝透露校方工作人员是否查看过这些图片。
接受《华尔街日报》采访的女生家长(包括向当地警方报案的四位家长中的两位)表示,他们及其女儿都未曾见过这些图片。据知情人士透露,警方也尚未获取相关图像。
“目睹年轻女孩在人生脆弱阶段遭受心理创伤,这种情形令人痛心。”韦斯特菲尔德市市长雪莱·布林德尔在接受采访时表示。作为该市首位女性市长,她自称是女性权益的长期倡导者。
曾任职HBO高管的布林德尔呼吁受影响者向警方提供证言。韦斯特菲尔德市政府发言人表示警方不予置评。
多萝塔·马尼称,她14岁的女儿弗朗西斯卡已收到校方通知,确认其照片遭盗用。
“我恐惧的是这些照片何时会曝光。女儿前途光明,但没人能保证此事不会影响她的职业发展、学业或社交。”已向警方报案的马尼表示,她不愿女儿与图片制作者同校学习。
一部手机即可作恶
数字霸凌在美国校园普遍存在。智能手机内置摄像头使网络骚扰的危害更持久深远。尽管人们使用Photoshop等修图软件已有多年历史,但新型AI图像生成器能轻松伪造完整照片。任何图像都可通过社交平台和通讯软件一键扩散。
“几年前生成图像需要整套计算机设备,现在只需一部iPhone。”Reality Defender首席执行官本·科尔曼表示。该公司专为企业和政府机构提供AI伪造图像检测服务。
大型公司的图像生成器——如OpenAI的Dall-E和Adobe的Firefly——设有内容审核机制,禁止用户生成色情图像。但简单网络搜索就能找到数十款换脸和"脱衣"工具。科尔曼指出,由于这些服务很可能使用公开的开源软件,即便不是完全不可能,实施内容管控和技术防护也极为困难。他补充道,人眼几乎无法分辨真假图像。
图像检测公司Sensity AI数据显示,这类被称为“深度伪造”的虚假影像中,90%以上涉及色情内容。包括Snap和TikTok在内的科技公司已与政府机构合作,阻止此类图像传播。Snap等平台表示会封禁涉及未成年人的AI生成色情内容,并向国家失踪与被剥削儿童中心举报。
‘严重犯罪’
法律专家表示,针对真实人物的伪造色情图像是新兴问题,联邦法律尚未跟上。弗吉尼亚、加利福尼亚、明尼苏达和纽约等少数地区已立法禁止传播伪造色情内容,或赋予受害者在民事法庭起诉制作者的权利。
新泽西州参议员乔恩·布拉姆尼克(其选区包含西田市)正在调查该州是否有现行法律或待审法案能将此类内容的制作与传播定为刑事犯罪。若没有相关法律,他表示将着手起草相应法案。
“这在新泽西州必须被视为严重犯罪,”他说道,并补充已要求联合县检察官调查韦斯特菲尔德高中事件。
芝加哥知识产权律师娜塔莉·埃利扎罗夫指出,涉及儿童性虐待材料的法律可能适用于此案,因为这些法律禁止传播未成年人参与露骨性行为的数字图像、计算机生成图像甚至虚拟影像。她进一步说明,此类案件需由州或联邦检察官受理,必须确认三个要素:被描绘者为未成年人、内容具有性露骨性质,以及存在制作、持有或传播行为。
本周拜登政府作为人工智能行政令的一部分,明确要求防止生成式AI制作儿童性虐待材料或“未经当事人同意的真实个体私密影像”。
另一起美国校园伪造色情案已提起刑事指控。四月,长岛一名22岁男子因伪造并发布母校女性同学的不雅合成照及个人信息,被判六个月监禁。原始照片拍摄时这些女性尚处于初高中阶段。
删除社交媒体
在周一家庭会议上,马尼的女儿弗朗西斯卡向众人描述了韦斯特菲尔德高中女生们的遭遇。
“起初我哭了,后来我决定不该沉溺悲伤,”她对在场者说,“我应该愤怒,应该为自己和其他受害者发声。”
出席者包括其他学生的家长,以及布林德尔、布拉姆尼克、三位女性镇议会成员和一位学校董事会成员。(《华尔街日报》获准通过电话旁听。)
弗朗西斯卡表示,当天在学校的一场团体辅导会上,一些女生提到她们对必须与据信制造并传播这些图片的人同校感到不适。
她说,这起事件让部分女同学开始重新思考自己在网上的发帖行为,因为她们对内容如何被利用几乎无法控制。据她所述,有些人删除了自己的社交媒体账号。
“我们知道社会上存在一些变态的人,“她对在场人员说,“但你绝不会想到自己的同学会这样侵犯你。”
——欲获取家庭与科技专栏、建议及您最紧迫的家庭科技问题解答,请订阅我的每周通讯。
联系朱莉·贾根,邮箱:[email protected]
本文刊登于2023年11月4日印刷版,标题为《伪造青少年裸照震动校园》。