人工智能代理正式进入职场，缺陷与共 - 彭博社

Anthropic 网站。

摄影师：Gabby Jones/Bloomberg在二月份，我 写道 在这份通讯中，2024 年将是 AI 代理的年份。现在它们已经到来，并被用于自动化以前需要人类工人完成的任务。但首先……

三件事需要知道：

• 白宫敦促各机构 采用 AI 用于军事、间谍用途• 谷歌的 Anthropic AI 投资遭到 正式的英国合并调查• 俄罗斯用 深度伪造视频 诋毁卡马拉·哈里斯，微软表示

不需要 401(k)

当开发人员想要找出他们正在构建的网站或应用程序是否存在问题时，他们通常依赖工人进行繁琐的代码错误检查。但最近，编码软件初创公司 Replit——已经为其用户自动化了部分审查——开始使用 Anthropic 开发的新 AI 服务来处理整个过程，而无需任何人参与。

“实际上，大多数时候它比人类更好，”Replit 首席执行官 Amjad Masad 说。“人类有点懒惰，会感到烦恼，并且不会测试所有内容。这要彻底得多。”

周二，Anthropic 成为第一家主要 AI 公司，发布 一种所谓的 AI 代理，可以接管一个人的计算机，代表他们输入、点击和浏览互联网。根据该公司的说法，这种被称为“计算机使用”的能力旨在帮助专业人士进行研究和处理重复性工作。

Anthropic 是越来越多的科技公司之一，这些公司正在从可以产生聪明回应的 AI 聊天机器人扩展到能够在最少人类监督下执行现实世界任务的 AI 代理。就在本周早些时候，微软 推出 了自己的企业代理套件，这些代理可以在销售、客户支持和会计等领域完成任务。此发布加剧了与竞争对手 Salesforce 的竞争，后者也在代理方面进行了推动。

像微软这样的公司在后台已经有了一段时间这种技术的元素，但现在这些代理工具开始变得对用户更加具体。“这确实是我们说的第一组代理，‘好吧，我们构建了一些，让我们给你们展示一下，’”负责微软工作场所 AI 产品的贾里德·斯帕塔罗说。

虽然 AI 代理的设计各不相同，但目标大致相同：简化任务，使人们在个人和职业生活中更高效。高管们将这些工具宣传为替代人类认为无聊或乏味的工作。一些商业领袖也坦诚这种技术有可能降低成本，这可能引发人们对 AI 取代工作的长期担忧。

ServiceNow 首席执行官比尔·麦克德莫特本周告诉我的同事布罗迪·福特，他公司的新 AI 代理“不会吃东西”，可以全天候工作。“你不必给他们提供 401k！”他补充道。这家软件公司的代理目前正在一些客户中进行测试，并将在下个月更广泛发布，他说。在九月份，Salesforce 首席运营官布莱恩·米尔哈姆 表示 使用该公司代理的客户可能会选择在未来雇佣更少的人。他举了一个例子，说明一个 5000 人的呼叫中心在五年内需要减少 30% 的员工。

ServiceNow的首席执行官比尔·麦克德莫特表示，他公司的新AI代理“不会吃东西”，并且可以全天候工作。摄影师：大卫·保罗·莫里斯/彭博社但这一批新的AI代理仍然存在缺陷。与许多AI服务一样，代理可能会犯错误。Anthropic表示，其新代理仍然无法完成人类轻松完成的基本任务，例如滚动或拖动。而且显然，就像人类一样，这些代理也会分心。

在Anthropic制作演示视频的某个时刻，该公司表示其代理“突然休息”不再编码，而是开始“浏览黄石国家公园的照片”。

还有信任的问题。虽然注重预算的高管可能急于采用代理以提高效率，但许多普通用户可能还没有准备好放弃控制。请求聊天机器人为电子邮件提供建议回复是一回事；让AI系统自动起草并代表您回复消息则是另一回事。

即使是开发代理的最先进公司也知道这一点。这就是为什么代理目前主要被推广给能够设定限制的企业和开发者，他们希望将工作流程的哪些部分委托给AI，Anthropic的联合创始人兼首席科学官贾里德·卡普兰说。“我们不建议人们在不受控制的情况下让它接管，”卡普兰说。

对人工智能有问题吗？ 发邮件给我，Shirin Ghaffary，我会在未来的新闻通讯中尝试回答你的问题。

本周人类名言

“未经许可使用创作作品来训练生成性人工智能，对那些作品背后的人们的生计构成了重大且不公正的威胁，绝不应被允许。”

成千上万的作者、演员和音乐家——包括Thom Yorke、Kevin Bacon和James Patterson——签署了一份简短声明，呼吁科技公司在未获得许可的情况下使用艺术家的作品来训练人工智能系统的做法。### 值得关注的人

诺贝尔化学奖得主、谷歌DeepMind高级研究科学家John Jumper，与彭博社的Rachel Metz在2024年彭博科技伦敦会议上讨论药物发现的未来。### 深度学习

• 人工智能搜索初创公司Perplexity正在进行新一轮融资谈判，估值为90亿美元
• Character.AI正在面临诉讼，因一名青少年的自杀事件
• 一位前OpenAI研究员表示该公司违反了版权法
• OpenAI聘请了一位前Uber高管担任首席合规官
• 这些是今年值得关注的25家英国初创公司

来自彭博社的更多信息

获取每日科技以及更多彭博科技周刊到您的邮箱：

• 网络简报，涵盖黑客和网络间谍活动的阴暗世界
• 游戏进行中，报道视频游戏行业
• 电力开启，获取苹果新闻、消费科技新闻等
• 屏幕时间，前排观看好莱坞与硅谷的碰撞
• 声音片段，报道播客、音乐产业和音频趋势