谷歌、OpenAI尚未找到标记AI内容的“灵丹妙药” - 彭博社

Curtis Heinzl

ChatGPT虚拟助手的标志。

摄影师：安德烈·鲁达科夫/彭博社最大的人工智能公司仍然没有一种万无一失的方法来标记由其AI模型生成的内容。但首先……

三件事要知道：

• 亚马逊正在制定 一项月球计划 以与英伟达在AI芯片方面竞争• 英伟达首席执行官 在香港之行中呼吁全球合作• 优步的临时工现在包括 雇佣程序员 从事AI项目

一个不完美的系统

在OpenAI推出ChatGPT两年后，任何人都可以瞬间生成文本，人工智能公司仍在努力找出如何最好地帮助人们辨别在线写作是否确实来自人类。在八月，OpenAI 表示它开发了一种用于AI生成文本的水印系统，但到目前为止尚未发布该选项。尽管OpenAI称该方法“高度准确”，但该公司表示，对于不法分子来说，“轻而易举”就能规避。OpenAI还表示，标记AI文本可能会对依赖人工智能工具进行写作的非母语英语使用者产生不成比例的影响。“我们相信，考虑到涉及的复杂性以及其对OpenAI以外更广泛生态系统的可能影响，我们采取的谨慎方法是必要的，”一位发言人本月告诉彭博新闻，但没有提供潜在发布的时间表。OpenAI还表示，它正在研究替代方案。谷歌采取了不同的策略。在十月，它的DeepMind研究实验室发布了 SynthID文本算法，这是一种AI开发者可以用来为任何由大型语言模型生成的写作添加数字水印的技术。该算法影响模型选择某些单词的概率，并在文本中创建统计模式——水印——谷歌相应的AI检测器能够捕捉到。这种水印方法旨在对小幅编辑具有一定的抵抗力，但谷歌表示，重编辑会降低其有效性。根据该公司的说法，在短小的事实性摘要中检测AI水印尤其困难。“SynthID并不是识别AI生成内容的灵丹妙药，”谷歌DeepMind的研究副总裁普什米特·科利上个月在一份声明中表示。这个挑战不仅限于识别AI文本。随着 AI图像和视频生成器的改进和普及，人们对其可能创造深度伪造和传播虚假信息的潜力越来越担忧。作为回应，美国、欧洲和中国的立法者呼吁制定法规， 要求水印。但对于那些意图将AI内容伪装成人工制作作品的人来说，绕过这些规定的方法并不缺乏，包括承诺去除这些水印的在线工具。为了增加额外的保护措施，公司正在推动其他方法，包括加密签名，以确保文件未被篡改，以及内容凭证，以追踪文件的编辑历史。然而，用户可以通过截图轻松删除这些标记。因此，内容来源标准必须在互联网上广泛采用，以达到缺乏透明度的文件被视为可疑的程度——假设人们或企业确实采取额外步骤来检查这些信息。许多大型科技和媒体公司是内容来源和真实性联盟（C2PA）的成员，该联盟专注于创建内容凭证的通用标准。对于科技公司而言，监管压力并不是接受水印、C2PA标准和其他AI检测方法的唯一原因。AI公司还需要访问 高质量的人类数据 来构建更好的模型。如果太多AI生成的内容在混合中被无意中卷入，可能会 降低或扭曲他们的产品。TrueMedia.org是一个结合多种检测AI操控方法的非营利组织，自成立不到一年以来，已经签署了几家主要在线平台，创始人奥伦·埃齐奥尼表示。这些公司不仅对使用TrueMedia进行内容审核感兴趣，”他说，“还希望从他们用于训练新AI模型的数据集中筛选出合成的、AI生成的材料。与此同时，AI专家警告说，合成内容的普遍存在——即使是看似无害的帖子——可能会妨碍在搜索和社交媒体平台上寻找信息的体验，这些平台是一些同样构建人工智能工具的公司的核心产品。埃齐奥尼表示，AI生成的垃圾内容激增是谷歌搜索业务的“主要担忧”，尤其是。也许考虑到这一点，谷歌决定将其文本水印和AI检测功能开源，这意味着开发者和公司可以自由地将其集成到自己的AI项目中，从而可能扩大其在互联网上的影响力。但通过让每个人都看到系统的内部工作，一些人担心不法分子将更容易找到去除水印的方法。“你是在开源一个安全设备，并且给他们提供了一条破坏它的路线图，”加州大学伯克利分校的数字取证专家汉尼·法里德说。“你只需知道，两个月后会有一个网站叫做‘从文本中移除SynthID’。” — 柯蒂斯·海因兹尔

本周人类名言

“我们可以看到AI代理的前景，但作为开发者，构建任何好的东西实在太难了。”

大卫·辛格尔顿/dev/agents的首席执行官和联合创始人

一群前谷歌和Stripe高管帮助构建了Android平台，已为一家新公司筹集了5600万美元，专注于AI代理。提案是：如果代理有一天可能像应用程序一样无处不在，开发者将需要一个共同的技术框架来连接这些服务并允许它们相互通信——类似于移动操作系统。“我们需要一个类似Android的时刻来推动AI，”辛格尔顿说。### 值得关注

Menlo Ventures的蒂姆·塔利讨论他们关于企业在生成AI领域支出的最新报告。他加入卡罗琳·海德讨论“彭博科技”。### 深度学习

来自彭博社的更多信息

获取每日科技以及更多彭博科技周刊到您的邮箱：

  • 网络简报涵盖黑客和网络间谍活动的阴暗世界
  • 游戏进行中报道视频游戏行业
  • 电力开启获取苹果新闻、消费科技新闻等
  • 屏幕时间前排观看好莱坞与硅谷的碰撞
  • 声音片段报道播客、音乐产业和音频趋势