OpenAI表示新工具将能够检测由Dall-E生成的图像-彭博社

OpenAI正在构建一个工具，用于高度准确地检测其人工智能服务Dall-E 3创建的图像。

ChatGPT和图像生成器DALL-E的制造商首席技术官Mira Murati周二表示，OpenAI的工具“可靠率达到99%”。她表示，该工具正在内部测试，计划在未来公开发布，但没有具体时间表。

Murati与OpenAI首席执行官Sam Altman一起发言，两位高管出席了加利福尼亚州拉古纳海滩的《华尔街日报》Tech Live大会。

已经有一些工具声称可以检测使用人工智能制作的图像或其他内容，但它们可能不准确。例如，OpenAI在一月份发布了一个类似的工具，旨在确定文本是否由AI生成，但由于不可靠而在七月搁置。该公司表示正在努力改进该软件，并致力于开发方法，以便还能识别音频或图像是否由AI制作。

随着人工智能工具可以被用来操纵或制造全球事件新闻报道的重要性不断增长，对这种检测工具的需求也日益重要。Adobe公司的Firefly图像生成器解决了挑战的另一个方面，承诺不创建侵犯创作者知识产权的内容。

周二，OpenAI高管们还透需了关于接替GPT-4的AI模型的线索。虽然OpenAI尚未公开表示接替GPT-4的模型可能被称为什么，但该初创公司在七月向美国专利和商标局申请了“GPT-5”商标。

像ChatGPT这样的聊天机器人——它使用GPT-4和前一代模型GPT-3.5——容易编造事实，也被称为幻觉；当被问及GPT-5模型是否不再会说谎时，Murati说：“也许吧。”

“让我们看看。我们在处理GPT-4的幻觉问题上取得了很大进展，但我们还没有达到我们需要的地步，”她说。

Altman还谈到了OpenAI可能会设计和制造自己的用于训练和运行AI模型的计算机芯片的可能性，而不是使用像Nvidia Corp.这样的公司提供的芯片，后者目前被视为市场领导者。

“默认路径肯定不会是这样的，”他说，“但我永远不会排除这种可能性。”