中途媒体考虑在美国大选前禁止特朗普和拜登的图片 - 彭博社

中午标志在美国纽约安排的智能手机上，2023年8月17日。

摄影师：Gabby Jones/BloombergAI高管们正在策划在这个选举周期打击政治虚假信息。但首先…

三件事情要知道：

• 谷歌正在重新设计其聊天机器人并推出新的订阅计划• 顶尖AI公司正在加入美国政府的努力制定安全标准• Meta表示将检测和标记更多的AI生成的帖子，因为选举即将来临

一种粗糙的工具

通过Midjourney，你可以快速创建栩栩如生的AI生成图像几乎任何东西，包括假的乔·拜登总统微笑着开枪和前总统唐纳德·特朗普在椭圆形办公室会见教皇方济各的照片。但随着美国选举季节的开始，这种情况可能很快会改变。Midjourney正在考虑禁止人们在接下来的一年内使用其人工智能软件制作政治图像，特别是拜登和特朗普的照片，以避免成为美国总统选举的焦点。Midjourney首席执行官大卫·霍尔兹在上周在聊天平台Discord的“办公时间”会议上说：“我不知道我对我们平台明年的政治言论有多在乎。”霍尔兹表示，公司“快要敲定”——一种禁止的术语——禁止拜登和特朗普等照片“在接下来的12个月内”。“我知道制作特朗普的照片很有趣——我也制作特朗普的照片，”霍尔兹继续说道，我和许多其他Midjourney用户都在听。 “特朗普在审美上真的很有趣。然而，可能最好还是不要——在这次选举期间稍微退出一点。我们会看到的。”霍尔兹在他每周的聊天中更直言不讳，这些聊天对Midjourney的近1900万用户开放，比许多AI领袖在公共场合说话更坦率。但其他科技公司的首席执行官也在考虑如何防止他们的平台在今年的选举中成为政治焦点，就像社交媒体公司在以前的年份中那样。Inflection AI的首席执行官穆斯塔法·苏莱曼在10月表示，他公司的聊天机器人将不被允许支持任何政治候选人。Meta Platforms Inc.本周表示，将开始标记更多使用AI工具创建的帖子，作为防止选举期间误导信息的更广泛努力的一部分。而下周，OpenAI将为其平台制作的图像添加水印，作为先前宣布的措施之一，以打击选举误导信息。“我最担心的是，随着AI的新能力…将会有比2020年更好的深度伪造视频，”OpenAI首席执行官萨姆·阿尔特曼在上周的一次活动上说。

有理由感到担忧。去年三月，使用Midjourney制作的虚假特朗普被逮捕的图片迅速在社交媒体上传播。现在想象一下，如果类似的图片在今年三月出现，当时有十多个州的选民在超级星期二投票。更糟糕的是：由于人工智能图像生成技术的快速进步，这些图片可能会更具说服力。

Midjourney已经实施了自动封禁措施，旨在防止用户创建各种图片。例如，其当前的社区标准禁止“不尊重、有害、误导公众人物/事件描绘或可能引起误导”的图片。但是先前的研究表明，绕过这些限制是相当容易的。允许什么，不允许什么也可能取决于您使用的Midjourney软件版本。我能够让Midjourney 5.2标准版生成特朗普被意大利面覆盖的图片，但不能让更新的6.0版本生成特朗普吃披萨或搬运一堆书的图片，尽管它会给我特朗普单独的图片。

在他的办公时间聊天中，Holz表示，如果有封禁，可能不会公开宣布。“我们可能只会采取行动，而不会说任何话，”他说。Holz没有回复进一步评论的请求。

即使Midjourney禁止用户制作包含特定政治人物的图片，根据加州大学伯克利分校的数字取证专家和教授Hany Farid的说法，这最多也只是一个“临时解决方案”。

“让我们不要假装，在Midjourney禁止拜登和特朗普的图片会解决我们面临的政治虚假信息的更大问题，”他说。Farid表示，人们总是会想办法绕过平台提供的AI生成内容的安全措施。

他说，真正的问题是，这种方法在数十个国家的数十亿人有资格参加选举的一年里如何扩展？ — Rachel Metz

本周人物语录

“伪造并非创造，而人工智能世界充斥着内容伪造者。”

Robert Thomson

新闻集团CEO

显然是在向纽约时报最近决定起诉OpenAI侵犯版权致敬，Thomson 说，新闻集团更喜欢“求爱而非法庭”。但他也强调，未经批准“擅自改编内容”就是“偷窃”。### 值得关注的人物

Arm CEO Rene Haas表示，人工智能是我们一生的机遇，绝对不是“炒作周期”。Bloomberg### 深度学习

• OpenAI 正在 押注其 33 岁的首席运营官 来帮助实验公司的商业模式
• 埃隆·马斯克的新人工智能初创公司的潜在投资者 正关注其最大竞争对手 OpenAI 的早期成功
• 拜登的一个由人工智能生成的音频深度伪造 被追踪到德克萨斯州的一家公司 及其所有者
• GitHub 的前首席执行官正在与一群志愿者合作 使用人工智能来解锁一批古卷的秘密
• 法国正在 经历人工智能时刻

彭博社更多内容

获取科技日报 以及更多彭博科技周刊内容，请订阅：

• 网络安全简报 关注黑客和网络间谍的阴影世界
• 游戏进行时 报道视频游戏行业
• 电源开启 提供苹果独家新闻、消费者科技新闻等
• 银幕时光 报道好莱坞和硅谷的碰撞
• 声音碎片 报道播客、音乐行业和音频趋势