Meta计划利用人工智能来识别青少年在Instagram上谎报年龄的行为 - 彭博社
Curtis Heinzl, Kurt Wagner
首席执行官马克·扎克伯格在1月份的参议院司法委员会关于儿童在线安全的会议上。摄影师:肯特·西岛/彭博社Meta Platforms Inc.因其对青少年心理健康的影响而受到家长和立法者的抨击,计划利用人工智能识别在Instagram上谎报年龄的年轻用户,并自动将他们切换到更严格的隐私设置。
根据Meta青少年和社会影响产品管理总监艾莉森·哈特内特的说法,Meta将使用一种称为“成人分类器”的专有软件工具,将用户根据其个人账户数据分为两个年龄组——18岁以上或以下。该软件可以筛选用户的个人资料,查看他们的关注者列表以及他们互动的内容,甚至会扫描朋友发布的“生日快乐”帖子,以预测用户的年龄。
根据该软件的发现,哈特内特首次分享了这一过程的更多细节,怀疑未满18岁的人将被自动放入青少年账户,无论他们在个人资料中声称的年龄是多少。9月份,Instagram推出了这些新的青少年账户,这些账户具有更严格的默认隐私设置,例如限制用户可以接收消息的人以及可以查看的内容类型。该公司没有透露成人分类器的准确性。
该公司已经根据青少年自报的生日将他们转移到这些更严格的设置中,但计划在明年初利用成人分类器来帮助捕捉那些可能试图规避新规则的人。所有18岁以下的用户将自动被归入青少年账户,但16岁或17岁的人将被允许自行更改更严格的隐私设置。然而,任何16岁以下的人都需要父母的同意才能禁用更严格的设置。
多年来,妥善保护青少年用户免受有害内容的影响一直是Meta面临的挑战。该公司向青少年账户的转变得到了外界的赞赏,外界长期以来一直认为Meta在保护年轻用户的在线安全方面做得不够。
这家社交网络巨头正在 面临来自数十位州检察长的诉讼,指控该公司故意让孩子沉迷于社交媒体,并助长了青少年心理健康危机。它也成为了父母的目标,父母声称他们的青少年因使用Meta产品时看到的内容或进行的对话而 因药物或自杀而死亡。
在2021年,前Facebook员工转变为举报者的 弗朗西斯·霍根 向媒体发布了数千页文件,显示该公司的研究发现 Instagram可能对青少年女孩的心理健康产生负面影响。
随着新限制的实施,Meta现在面临的挑战是执行这些限制——考虑到孩子们常常找到方法绕过访问年龄限制材料的限制,这并不是一项小任务。英国电信监管机构的一项研究发现,三分之一的社交媒体账户持有者声称自己的年龄为18岁或以上。
在互联网上的许多网站上,谎报年龄是非常简单的。Steam,一个在线视频游戏市场,仅要求用户在查看和下载成熟评级游戏之前自报出生日期。其他出售酒精的网站,例如,只要求用户点击一个按钮以验证他们已超过21岁。
Meta旨在使在Instagram上谎报年龄变得更加困难。例如,该公司将标记那些尝试使用相同电子邮件地址但不同生日创建新账户的青少年。该公司还可以检查手机的唯一设备ID,以猜测谁在新个人资料背后。
查看更多:Instagram推出针对青少年的限制性新隐私设置
试图手动增加账户上列出的年龄的青少年将必须通过上传正式身份证明(如驾照)或发送视频自拍来证明自己,Yoti,一个可以根据面部特征估计年龄的第三方服务。Yoti和Meta随后在验证后删除这些图像。用户之前可以通过让朋友为他们担保来验证年龄,但Meta表示该选项已被取消。
被错误分类为青少年的用户最终可能能够向公司申诉以取消他们的青少年账户状态,一位发言人表示,尽管该过程仍在开发中。目前,在Meta努力提高其成人分类器的准确性时,被错误预测为青少年的用户可以在没有父母许可的情况下手动关闭该状态。
Meta的年龄验证方法得益于人们在应用程序上分享的大量个人信息,包括他们的社交圈、爱好和内容偏好。Instagram的青少年账户仍在美国和其他几个国家推出,但到目前为止,Hartnett表示,青少年谎报年龄的问题比公司预期的要少。
尽管Meta付出了努力,Hartnett和其他高管认为,最能保护隐私的年龄验证过程将 涉及应用商店在青少年下载某些应用之前验证其年龄。一位 苹果公司的发言人表示,这种方法将违反数据最小化原则,而 Alphabet Inc.的谷歌发言人表示,解决这个问题并没有“单一的解决方案”。
但是,将年龄验证的责任转移到谷歌Play或苹果的App Store “假设应用商店拥有真实的事实”,迈克尔·史密斯,哈佛大学教授,教授数据隐私课程,在一封电子邮件中表示。这并没有解决用户从一开始是否诚实的问题。“Meta在年龄验证方面的问题难道不是简单地转移到了应用商店吗?”