元审查委员会警告虚假帖子规则“不连贯”-彭博社
Alex Barinka
Meta平台的标志。
摄影师:Jason Alden/BloombergMeta平台公司独立的监督委员会同意公司最近的决定,即保留一段对美国总统乔·拜登的误导性视频,但批评了其关于由人工智能生成的内容的政策“不连贯”和过于狭窄。
该委员会于周一敦促Meta在2024年美国大选之前迅速更新其政策。
“委员会对当前的篡改媒体政策表示担忧,认为其不连贯,缺乏有说服力的理由,并且不恰当地关注内容是如何创建的,而不是它旨在防止哪些具体危害,比如破坏选举过程。”该组织在一份声明中表示。
在审查Meta保留一段篡改的拜登视频的决定后,委员会提出了批评,该视频经过编辑,使其看起来像是他在不当地触摸他的成年孙女的胸部。视频中还包括一段标题,将拜登称为“恋童癖者”。
阅读更多:泰勒·斯威夫特、乔·拜登、死去的孩子:假人工智能内容泛滥
监督委员会同意该视频不违反Meta的篡改媒体政策,但表示这些政策过于狭窄且不足。委员会还建议Meta停止删除不违反任何其他有害内容政策的篡改媒体,而是开始标记并保留这些内容。
“我们正在审查监督委员会的指导,并将根据公司章程在60天内公开回应他们的建议,”Meta的发言人说。公司没有义务采纳委员会的建议,有时会忽视它的建议。
一月份,大量高知名度个人的深度伪造内容向公众和立法者展示了新的人工智能工具的帮助下操纵内容出现在网上的速度。在社交平台X(以前称为Twitter)上充斥着泰勒·斯威夫特的露骨图片,而在新罕布什尔州初选前,拜登的假冒电话呼吁选民不要投票。
Meta的当前政策只阻止人们说出他们没有说过的假视频。它不涵盖人们没有做过的事情的描述 - 就像拜登的帖子一样 - 并且明确只适用于使用人工智能工具创建的视频。未使用人工智能编辑的内容,比如循环或倒放视频片段,可能会误导普通用户,但并不被禁止。
委员会建议Meta扩大其政策范围,涵盖描绘人未实际采取的行动的操纵媒体,并解决虚假音频问题。它还敦促公司明确其旨在防范的危害,比如干扰投票过程,并更多关注这些危害,而不是内容是否使用了人工智能工具创建。
“就目前而言,这项政策毫无意义,”董事会联席主席迈克尔·麦康奈尔在一份声明中说道。“它禁止展示人们说出他们没有说过的话的篡改视频,但却不禁止展示个人做了他们没有做过的事情的帖子。它只适用于通过人工智能创建的视频,但却让其他虚假内容逍遥法外。”
随着人工智能技术的改进和选举日渐临近,Meta以及像X和字节跳动有限公司的TikTok等同行将不得不处理越来越多的操纵媒体。Meta首次在2020年选举前推出了其政策,这是该公司在2016年美国竞选暴露出社交网络如何被操纵后,为打击与选举相关的错误信息而进行的更广泛努力的一部分。
阅读更多: 了解Deepfakes和Taylor Swift的图片
在许多方面,这种情况正是监督委员会成立的原因。这个由学者和其他具有公共政策背景的人组成的独立机构是由Meta资助的,但旨在作为对该公司在内容上的权力的一种制约。在过去,该委员会已经审查了关于Facebook和Instagram的选举错误信息和与药物有关的帖子的问题。它在2021年1月6日国会大厦骚乱后,支持了Meta对唐纳德·特朗普的暂停,同时批评了公司对暂停的执行。
Meta平台公司回来了,马克·扎克伯格的财富也回来了。
在Meta季度业绩远超华尔街预期后,这位Facebook联合创始人的净资产激增了281亿美元,使其股价上涨约20%。他现在身价为1705亿美元,是他有史以来最富有的时候,并超过比尔·盖茨,跻身彭博亿万富翁指数的第四位。远超华尔街预期