谷歌限制AI生成图像功能 因聊天机器人种族处理问题引争议——《华尔街日报》

谷歌及其母公司Alphabet近几个月接连发布多款人工智能新产品。图片来源：Steve Marcus/Reuters由于旗下聊天机器人处理种族问题的方式引发网络争议，谷歌暂停了其旗舰聊天机器人生成人物图像的功能。

这家搜索巨头周四表示，将暂停Gemini聊天机器人的该功能，以解决近期出现的"某些历史描绘不准确"问题。谷歌未说明暂停生成人类图像功能将持续多久。

此前，用户在社交平台X上大量发布他们认为具有历史错误或对白人有偏见的Gemini回复案例。

在一个广泛传播的案例中，当用户要求生成1943年纳粹执政时期的德国士兵图像时，Gemini返回了多种族混合的人物图像。

谷歌最初为Gemini生成种族多样化图像的倾向辩护，称这是为了服务全球多元化用户群体，并表示正在改进历史场景的描绘。

“Gemini的AI图像生成确实会呈现多样化人群。这通常是好事，因为全球用户都在使用它，“谷歌周三在X平台声明中表示，“但这次确实存在偏差。”

周四的暂停突显了在监管能生成新颖文本和图像的人工智能程序时所面临的危险平衡行为，科技领袖们将这些工具宣传为自手机问世以来最重要的新进展。

根据X平台上的帖子和《华尔街日报》进行的测试，Gemini还拒绝明确生成白种人图像的请求，理由是担心种族定义和传播有害的刻板印象。该工具似乎对创建非白种人图像没有同样的限制。

谷歌及其母公司Alphabet最近几个月发布了一系列新的人工智能产品，包括一个付费版本的Gemini聊天机器人，该公司表示该版本将包含先进的图像生成功能。谷歌还使这款之前名为Bard的聊天机器人作为独立应用程序在运行安卓系统的手机上可用，并作为iPhone上谷歌应用程序的一个突出功能。

包括ChatGPT背后的公司OpenAI在内的其他聊天机器人制造商，也面临着如何监管其系统输出的难题，包括在美国准备今年总统选举之际持续存在的对政治偏见的担忧。

谷歌去年表示，将限制其聊天机器人和人工智能驱动的搜索引擎对某些与选举相关的查询的回应，但没有详细说明哪些类型的提示会受到影响。

写信给迈尔斯·克鲁帕，邮箱：[email protected]