Manus AI尚未准备好面对世界，我们亦是如此——彭博社

Manus AI智能体的有限能力反而是种恩赐。

摄影师：林易/Bloomberg

经过更长时间的压力测试后，这款来自中国不知名初创公司的爆红人工智能代理Manus AI显然尚未做好正式商用的准备。

别误会，我仍对其部分能力感到惊叹。它能根据指令开发出极具吸引力的俄罗斯方块类游戏，在东京旅游区推荐的低调酒吧正是我想要的。但正如我此前撰文所述，系统存在故障和崩溃问题。虽然擅长某些任务，却难以独立完成晚餐预订、网购等操作。

彭博观点企业死神正在敲响Z世代的大门如何靠1美元柠檬水赚取数十亿《敌对外侨法》并非驱逐出境的充分依据战争鼓声回荡在钢铁废料场开发团队已承认当前版本"仍处于雏形阶段，与最终目标相去甚远"。不过这个已具实力的智能体要实现更大突破，或许只是时间问题。

但能力越大责任越大，因此有限的服务器容量对Manus及其用户而言或许是件好事。我越是要求它执行任务，就越不得不考虑潜在的严重后果。

硅谷过去一年一直在宣扬代理型AI产品——即允许技术自主行动的AI——将成为下一波浪潮。但只需一个这些工具失控的实例，热情就会迅速消退并转为忧虑。这可能包括AI代理进行未经授权的网购、分享不准确信息或泄露隐私数据。更不用说恶意行为者可能利用其规模化实施难以估量的网络破坏活动。

长久以来，在安全问题上我们一直听任制作这些AI模型的大型科技公司主导决策，尤其是在全球政策制定者对制定法规行动迟缓的情况下。Manus表明，如今一家名不见经传的中国公司也能利用现成技术打造强大AI产品——并将其推向全球。

对这新一代敢闯敢拼的全球初创企业而言，率先发布产品——即使是预览版——也能激发公众和潜在投资者的巨大热情。OpenAI、谷歌和美国大型实验室至少会因声誉风险而自我约束，这促使他们在开发具有哪怕微小自主性的AI工具时，必须认真考虑必要的防护措施。

然而，新一代科技公司在打响知名度的竞赛中损失更小。Manus证明，小型团队可以通过在现有技术基础上串联创新，打造出强大的人工智能产品。此次发布的病毒式传播效应，甚至可能促使其他企业在缺乏安全网的情况下加速将这些产品推向市场。

深度求索向华盛顿展示了中国科技公司具备突破性创新的强大能力。而Manus传递了不同的信号：它向世界发出警示——行业格局已变，这引发了比"中美科技竞赛谁将胜出"更深刻的命题。谁来决定该赋予AI工具多少自主权？如果基于多家企业技术构建的AI代理最终出错，责任该如何划分？行业发展速度已超越司法判例的形成。当下，企业、政策制定者和监管机构比任何时候都更需要建立全面框架来应对这些关切。

考虑到地缘政治紧张局势和TikTok的不确定性，中国AI代理在美国市场恐难长久。Manus凭借炫目的英文演示视频和新加坡注册母公司"蝴蝶效应"，显然剑指海外市场。或许Manus的破局之道在于展现其构建信任的决心——这意味着在建立安全与责任规范前，不应急于向更广泛公众推出产品。目前除模糊的隐私政策外，该领域似乎缺乏具体指引。

与此同时，曼努斯只是中国近期一系列公告中的一项，此前习近平主席启动了自上而下的支持，而深度求索公司重振了国内人工智能的热潮。上周，阿里巴巴集团控股有限公司推出了其应用夸克的一个类似代理的新版本。随着模型在中国日益商品化，对这些实用服务的需求只会增加。

换句话说，更多的AI代理——来自中国、美国及其他地区——即将到来。它们不再是我们可以留给下一代去解决的不确定的未来承诺。如果让机器或制造机器的人成为唯一决定这些工具应具备多少自主权和责任的主体，那将是全球性的失败。

随着这些AI代理准备进入黄金时期，政策制定者也必须抓紧时间采取行动。

更多来自彭博观点的内容：

• 科技巨头们，别再试图打造神级AI：帕米·奥尔森
• 英伟达的复兴标志着深度求索大恐慌的结束：戴夫·李
• 深度求索与《哪吒2》带回了习近平忽视的东西：芮书立

想要更多彭博观点？输入OPIN <GO>。或者您可以订阅我们的每日通讯。