《华尔街日报》：是人还是AI？新工具助你识别机器人

几乎是在一夜之间，利用人工智能生成睡前故事、情书、高中作文，甚至是心理健康指导（更不用说那些获奖的艺术作品了）变得流行起来。许多人对由机器人创作的内容感到不适，可能觉得被欺骗了。

研究人员和其他程序员自发地构建工具，帮助人们分辨哪些内容源自人类的思维，哪些是由机器人拼凑而成。但在这样一个快速发展的时期，任何工具都难以跟上步伐。

39岁的丹尼尔·摩根是两个孩子的父亲，他尝试过几次OpenAI的ChatGPT文本机器人，用它写感谢信、创作睡前故事和开发营销材料。

摩根先生患有阅读障碍，他表示自己曾使用ChatGPT帮助他为自己的房地产投资和经纪公司Marterra Group撰写博客文章。

“现在我可以把这些内容大致构思出来，交给团队中的某个人，然后让他们进行定制，而不必因为拼写错误或语法问题而感到沮丧，”他说。

OpenAI的机器人——包括可以创建书面内容的ChatGPT聊天机器人，以及其Dall-E 2艺术引擎——是越来越多工具中的一部分，这些工具可以生成逼真的作品，难以与人类创作的作品区分开来。其他人工智能工具可以创建“深度伪造”视频，这些视频可以制作出从未实际拍摄过的言行画面。

尽管摩根先生已告知部分同事他正在使用ChatGPT获取帮助，但其他人可能并不知情。以下是识别AI生成内容的方法，以免被机器人所骗。

数字侦探

ChatGPT引发了人们对学生可能利用它撰写论文及其他写作作业的担忧——尽管教师仍善于发现错误和其他问题。例如，纽约市教育局最近禁止了在其网络和设备上访问该产品。其他行业的人士也担心员工可能将其作为工作任务的捷径。

普林斯顿大学22岁的学生爱德华·田（Edward Tian）本月早些时候开发了GPTZero，以应对人们日益增长的担忧——他们可能无法分辨某段文字是否由机器生成。使用方法很简单：复制并粘贴任何你怀疑由AI生成的文本。

GPTZero会显示文本是虚假或真实的概率。该软件基于多种因素评估文本。其中一个关键指标是人类倾向于在词汇选择和句子长度上表现出更高的变化性，而AI生成的文本则更为一致。

田先生表示，他并不反对人们使用AI来支持或提升他们的工作。“但人类写作具有某些特质，那些真正美丽而原始的散文元素，是AI无法且永远不应模仿的，”他谈到开发GPTZero的初衷时说道。

开发人工智能机器学习工具的公司Hugging Face在2019年推出了一个类似网站。输入约50字文本，该网站会给出内容真实或虚假的百分比结果。

两种工具都存在局限性，需要持续更新以跟上AI发展步伐。Hugging Face的工具基于OpenAI旧版文本引擎GPT-2训练，会将当前GPT-3引擎生成的内容误判为真实文本。GPTZero的检测结果同样基于GPT-2算法，可能不擅长识别GPT-3内容，但仍能较好判断文本是否由AI生成。

大脑训练

Hugging Face政策总监Irene Solaiman表示，保持怀疑态度与检测工具同样重要。人们可以通过重复性、事实错误等特征来判断所读所见是否由AI生成。

“有时能明显发现语言模型对现代数据、时间框架存在理解错误。“Solaiman女士指出。

你可以训练自己识别AI生成内容的能力，特别是针对使用AI生成的图像视频，包括深度伪造内容。

可以从麻省理工学院媒体实验室34岁博士生Matt Groh参与创建的研究项目Detect Fakes开始。这个练习会要求你判断32个文本、图像和视频示例中哪些是真实的，哪些是AI深度伪造的。

Detect Fakes团队还推荐了其他识别深度伪造内容的方法，比如注意观察人物的唇部动作是否自然或略显不协调——这是存在问题的迹象。人们退后一步思考这类图片或视频为何存在也会有所帮助。

“他们可以关注背景信息，根据对世界的认知判断其可能性，“格罗先生表示，“同时留意动机因素，思考某人发言的内容及其背后意图。“不过他强调，目前尚无识别所有深度假内容的万能方法。

永无止境的攻防战

其他企业和高校正在研发针对AI生成图像视频的检测工具。

英特尔公司于11月推出FakeCatcher，该工具通过检测血流信号——表征生物过程的细微色变——来判定视频真伪。公司高级研究科学家伊尔克·德米尔表示，目前该工具已向包括新闻机构和社交媒体公司在内的部分企业开放。

但德米尔博士指出，未来的AI生成器很可能会找到伪造面部血流等生物特征的方法。

她表示，随着AI工具激增，依赖单一模型或检测方法将存在风险。

德米尔博士认为更理想的解决方案是构建能综合多种检测结果的平台：“通过整合不同算法的判断，其可信度会更高——毕竟我们并非宣称拥有某种战无不胜的单一算法。”

—欲了解更多《华尔街日报》科技分析、评论、建议及头条新闻，请订阅我们的每周通讯。

联系安-玛丽·阿尔坎塔拉，邮箱：[email protected]

刊载于2023年1月11日印刷版，标题为《是人类还是AI？新工具助你识别机器人》。