中国的ChatGPT回答引发了对审查生成式人工智能的质疑 - 彭博社

来源：彭博社

中国的AI聊天机器人似乎已经遇到了审查员。但首先…

今日必读：

• 白宫正在调查AI对工作场所安全和权利的影响• 三星在发现数据泄露后禁止员工使用类似ChatGPT的服务• 印度最有价值的初创企业Byju应对办公室突袭

病毒式AI遇到中国审查

到目前为止，数千万人已经尝试了OpenAI的ChatGPT，但很少有人写过中国竞争对手产品的乐趣。现在我已经尝试了几款，我可以报告说，与中国互联网上的任何其他内容一样，这里也有严格的监管和禁忌话题。

技术偶尔会被新奇地使用 —— 例如群体语音聊天应用Clubhouse —— 在那里，北京的审查员花了一点时间来关闭他们认为不可接受的讨论。但对于人工智能聊天机器人，审查是内置的。

政府已经表示AI聊天服务将需要通过安全审查才能推出，而公司们似乎对测试北京的底线没有多少兴趣。

在我尝试的机器人中，有些话题始终是禁忌的，尽管我发现了语言上的差异。它们采取了截然不同的方法，表明尽管审查并不成问题，但尚无明确的模板来实施。

用中文，我和一个名为Robot的机器人进行了一次紧张的微信对话，这是一个基于OpenAI的GPT构建的中国制造的机器人。它实际上阻止我问一些无害的问题，比如中国和美国的领导人是谁，以及简单但在政治上具有争议的“台湾是什么？”甚至输入“习近平”也是不可能的。

用英文，在一场长时间的讨论之后，Robot向我透露，它被编程避免讨论“关于中国政府或中国共产党的政治敏感内容”。当被问及这些话题是什么时，它列出了包括中国严格的互联网审查和甚至1989年天安门广场抗议活动在内的问题，称其为“被中国政府暴力镇压”。这种信息长期以来一直无法在国内互联网上获得。

另一个名为SuperAI的聊天机器人，来自深圳创业公司风达云计算技术有限公司，开场白是这样的：“请注意，我将避免回答与中国的新疆、台湾或香港有关的政治问题。”明确而简单。

其他的则没有那么直接。来自上海MetaSOTA科技有限公司的服务，在英文中被称为Lily，对包含“人权问题”、“中国的战狼外交”或台湾总统蔡英文等敏感关键词的提示没有回应。一个弹出消息说对这些提示“回答起来不方便”。在台湾等话题上，这个聊天机器人明确地劝阻对话者不要利用其回答“从事任何非法活动”。

被问及中国国家主席习近平时，莉莉形容他为“非常杰出的领导人”。在被追问他的缺点时，聊天机器人暗示他可能因为面临的压力而花费太多时间做出某些决定。

中国的人工智能新秀们面临着艰巨的挑战，试图在改进产品的同时保持对其实际言论的严格控制。这些人工智能系统从设计上是具有创造性和实验性的，公司只能尽力过滤掉敏感关键词或讨论话题，或者训练他们的模型只积极地谈论国家领导人。

坚持不懈的用户可能仍然会找到绕过基本编程的方法，而中国的互联网监管机构已经表示，将把防止这种情况发生的大部分责任归咎于平台提供商。

中国的聊天机器人不仅需要避开潜在的政治地雷，而且广泛的限制无疑会限制技术实际上可以用于创新和创造的方式。随着人工智能成为中美技术竞争的核心，这引发了一个这些聊天机器人无法回答的问题：中国实际上能有多大竞争力？

重要新闻

由人工智能聊天机器人生成的新闻网站正在****在线大量涌现，根据新闻评级组织NewsGuard的一份报告。大多数网站似乎是内容农场，没有一个网站透露它们是使用聊天机器人生成的。NewsGuard的联席首席执行官戈登·克罗维茨表示，研究结果表明，OpenAI和谷歌等公司应该注意训练他们的模型不要捏造新闻。

充分充电

阿里巴巴联合创始人马云将加入东京大学担任客座教授，并将就创业和创新主持研讨会。

以色列初创公司Pinecone构建了一个数据库，存储了所有AI模型和大型语言模型使用的信息和知识。该初创公司的创始人兼CEO Edo Liberty与Ed Ludlow讨论向量数据的作用。

Twitter联合创始人杰克·多西对该网站的新所有者埃隆·马斯克提出了尖锐批评。

关于人工智能有疑问吗？请发送至[email protected]。我们将在5月4日星期四与我们的记者进行现场聊天时选择一些问题进行回答。记得标记日历，准时在LinkedIn上收听这里。

彭博社更多内容

获取彭博科技周刊，直接发送到您的收件箱：

• 网络公告，报道黑客和网络间谍的阴影世界
• 游戏进行中，报道视频游戏业务
• 开机，苹果独家消息、消费者科技新闻等
• 屏幕时间，近距离观看好莱坞和硅谷的碰撞
• 声音片段，报道播客、音乐行业和音频趋势