科技公司押注世界已经准备好迎接“AI代理人”- 彭博社
Shirin Ghaffary
摄影师：Nicolas Maeterlinck/AFP/Getty Images如果2023年是AI聊天机器人的一年，那么现在正在成为AI代理的一年。但首先…
三件事情要知道：
• 根据微软的一份新报告，国家支持的黑客正在使用AI改进网络攻击• OpenAI推出了一个新的AI系统，可以将文本转换成逼真的视频• 联邦贸易委员会希望惩罚公司使用AI进行冒充
下一个前沿
AI聊天机器人可以为晚餐建议食谱，或者为去里斯本的旅行提供详细的行程安排，但它实际上无法为您从超市订购食物或者预订您的航班。现在，科技公司正在押注人们希望所谓的“AI代理”可以在很少或没有人类监督的情况下为他们执行这些任务。在上个月的Alphabet收益电话会议上，首席执行官Sundar Pichai 表示，生成式AI将使Google助手等产品“随着时间的推移更像代理”，并且最终可能“超越答案，为用户提供更多的跟进”。微软一直在推出其Copilot产品，宣传为“日常AI伴侣”，具有直接在Outlook和PowerPoint中起草电子邮件和幻灯片的能力。而OpenAI自11月的开发者大会以来一直在谈论代理，现在正在构建两种新类型的AI代理产品，根据The Information的报道。该公司还提供其他产品，包括ChatGPT的可定制版本，它被描述为构建AI代理的一步。
硅谷长期以来一直提供数字助手来加快任务完成，比如使用亚马逊的Alexa来订购卫生纸或播放一首歌。但是早期的这些工具“在理解你的意图方面有些局限”，OpenAI的开发者体验负责人Romain Huet说道。因此，他说，这些服务很少超出简单的家务活，比如开关灯。“代理变得更有趣的原因是因为模型变得如此强大，”Huet说道。“有了像GPT-4这样的模型，你可以给它们一个非常复杂的任务，你会看到更大的价值。”包括Adept、Imbue和Luda在内的许多初创公司已经筹集了数百万美元的资金来追求代理，这项技术被称为代理式人工智能。本周，OpenAI的主席Bret Taylor推出了一家名为Sierra的新创公司，专注于为企业构建对话式人工智能代理。他告诉彭博社，这项技术很快将和移动应用或网站一样重要。
但是虽然一些人工智能代理已经可用，但并非所有的都同样有用。“在当前的代理炒作周期中，每个人都在推销一些你可以在Twitter上快速展示的东西，但是当真正需要的时候，它们并不那么有用，”Adept的联合创始人Luan说道，该公司正在为企业构建代理。Luan是OpenAI的前工程副总裁，他说他从“人们称之为代理之前”就一直在研究代理式人工智能。Adept现在已经有几个大型付费的企业客户，帮助他们处理人力资源、财务、医疗保健和供应链等领域的任务。例如，Luan说，该软件可以帮助公司通过整合人力资源、工资和信息技术等领域的数据来帮助新员工入职，并在他们开始工作时发送相关信息。
构建AI代理存在挑战，包括可靠性问题。AI聊天机器人仍然在获取基本事实方面存在困难，特别是关于当前事件。如果AI聊天机器人在文本交流中出错，那就没什么大不了的。但是，如果它代表你采取现实世界的行动，风险就会大得多。“我们发现，当今最缺乏的是用户信任，” AI初创公司Imbue的联合创始人兼首席执行官Kanjun Qiu说。“许多用户会尝试代理产品，并说‘有点有趣’，但如果他们不信任它，他们就不会用它来做任何事情。”
如果大型语言AI模型继续改进其推理能力并更加可靠，用户信任可能会增加。但Qiu说，设计AI代理不断与人们核对情况同样重要，类似于员工向老板分享项目进展情况。“OpenAI的一组研究人员在12月份发表了一篇论文，概述了安全使用AI代理的最佳实践。研究人员表示，如果执行不当，对有缺陷的AI代理的过度依赖‘可能创造出广泛使用不安全AI系统的条件，最坏的情况可能是灾难性的。’一个关注的领域是，如果用户‘不愿意或无法关闭’造成伤害的AI代理系统。”为了减少这些风险，该论文提出了负责任地设计AI代理的建议，例如让工具在执行任务之前征得用户的批准，建立“优雅关闭程序”的系统，并设置次级AI程序来监控代理的行为。AI代理，也许甚至比聊天机器人更能让科技公司展示人工智能的全部承诺：让我们的日常生活更轻松。然而，在这个过程中，它可能加剧我们对AI失控或取代工人的一些最大恐惧。我们将看看公众是否已经准备好迎接它。
**有关人工智能的问题？**给我发电子邮件，Shirin Ghaffary，我会尽量在未来的新闻简报中回答你的问题。
人工智能和媒体
本·史密斯，新闻初创公司Semafor的联合创始人兼编辑，是媒体界最了解内情的人之一，此前曾担任BuzzFeed News的主编，并在纽约时报担任媒体专栏作家。（我也曾在2017年在BuzzFeed News的视频团队工作，当时史密斯是主编。）现在，他正处于媒体新闻室积极采用生成式人工智能的最前沿。Semafor最近宣布与微软合作，利用微软和OpenAI的人工智能技术帮助记者进行新闻内容的研究和翻译。该新闻网站将标记利用人工智能进行研究的文章，作为名为Semafor Signals的新推送的一部分。我与史密斯进行了交流，了解了他对人工智能的看法以及他为何认为科技公司在与媒体合作方面采取了不同的方法。
**彭博社：您能谈谈您是如何与微软合作的吗？您是否与OpenAI或其他著名的人工智能公司进行了交流？****本·史密斯：**我们已经在使用这个特定产品，[ChatGPT]。但这并不是一个自上而下的新闻室倡议。这是[记者] J.D. Capelouto和我们的执行编辑Gina Chua长期研究这项技术……他们两个只是在研究这些东西，不是为了满足某种公司的要求，而只是因为这很有趣且有用。
新闻编辑室的反应如何？记者们喜欢它吗？
我认为它解决了一个非常具体的新闻编辑室问题。所以人们在使用它，他们喜欢它。我不认为有人会认为，“哇，这太完美了，我现在只工作四个小时，机器人会替我做我的工作。” 更多的是：有很多强大的数字工具，无论是谷歌文档还是Grammarly，都已经在网络发布中出现。它也只是一个帮助记者完成工作的强大技术工具。虽然它相当神奇。相当酷。
本·史密斯摄影师：迈克尔·洛奇萨诺/盖蒂图片社 您有没有估计它可能已经为记者节省了多少时间？
它并不是节省记者的时间，而是使最终产品更加丰富。我们能够包含更多的声音，更多的观点。让记者在所有这些语言中搜索从经济上讲是不合理的。它基本上只是扩大了我们的视野。您如何确保它抓取的信息是准确的？
我们不是简单地摘要并发布它们。它基本上是为我们找到东西，然后，就像处理任何其他故事一样，我们确保它是一个可靠的来源，并对其进行框架化和概念化。特别是考虑到纽约时报对OpenAI的诉讼，您认为媒体和科技如何合作最终会导致诉讼吗？
哦，当然。它已经开始了。我认为AI有很多不同的轨道。《纽约时报》同时在两条轨道上。他们正在起诉 — 并且他们非常雄心勃勃，正在进行许多非常有趣和雄心勃勃的产品开发。我认为出版商们将不得不捍卫他们的商业利益，达成交易并想出如何利用这些技术。我认为出版商和平台都对这些都是一种工业关系和安排有更清醒的认识，而不是一种星眸的乌托邦，我认为这可能更健康。
你是什么意思？
这些巨大的[出版商]提供非常非常有价值的训练数据。看起来平台也已经承认了这一点，现在我们正在就价格进行争论。这是新的。搜索和社交平台过去认为可以随意使用内容，就像《十诫》一样。我认为这种观点已经不再持有。现在你需要就价值和定价进行谈判和诉讼，但似乎双方都采取了更加务实的方法。至少目前，科技公司认识到他们需要向使用他们内容的媒体实体支付一些费用。**对于那些看到裁员，看到媒体行业已经在挣扎，并担心AI会使新闻质量变差而不是变好的人，你有什么话要说？**我认为对新闻质量的威胁早于AI。AI是一个真正的中期威胁，但并不是上个月有数百名记者被解雇的原因。对我来说，AI的最大短期威胁与这个非常特殊的事情有关，即当一个新的视频或音频录音出现在政治辩论中时，你现在真的不知道它是真实的。如果唐纳德·特朗普的《好莱坞通行证》录音今天被公布，他可以说那是一个深度伪造，你和我怎么知道呢？这将需要一个非常繁琐的验证过程。也许这最终对记者来说是一个巨大的机会，但现在感觉像是对错误信息生态系统和寻求真相的人的巨大威胁。但我认为这不是商业模式的威胁，这只是一件可怕的事情。即使在这笔交易之前，你是否使用生成式AI工具？
我主要把它们当玩具用。我曾经采访过Pickleball的CEO，并画了撒旦打Pickleball的插图。类似这样的傻傻的东西。实际上，我发现它对旅行规划很有用。比如我想弄清楚去哪里，比如：“离纽约这么远的城市温度是多少。”
本周人物语录
“如果你在进行AI洗脑，就像‘希尔教授’唱的那样，‘你就有麻烦了’。”
Gary Gensler
SEC主席
Gensler警告上市公司必须避免对他们如何使用人工智能进行夸大的宣称。“这种AI洗脑，无论是公司筹集资金还是金融中介…都可能违反证券法”，他说。
值得关注的人物
Alphabet总裁、首席信息官兼首席财务官Ruth Porat谈论人工智能如何改变科技、金融和医疗保健。Bloomberg### 深度学习
- 据报道，OpenAI正在开发搜索产品，挑战谷歌
- 知名的OpenAI研究员Andrej Karpathy离开了OpenAI，但他表示这并没有导致他做出这个决定的“戏剧”
- 美国专利商标局表示，只有人类而不是人工智能可以申请专利发明
- 家庭密码可以帮助保护你免受人工智能发起的勒索尝试
- Adobe正在非常谨慎地将人工智能融入一切
彭博社更多内容
获取科技日报以及更多彭博科技周刊，直接发送到您的收件箱：
- 网络公告涵盖黑客和网络间谍的阴影世界
- 游戏进行中报道视频游戏业务
- 开机提供苹果独家新闻、消费者科技新闻等
- 屏幕时间观看好莱坞和硅谷碰撞的第一排座位
- 声音片段报道播客、音乐行业和音频趋势
以色列总理本雅明·内塔尼亚胡选择不派代表团前往开罗进行旨在与哈马斯达成停火的后续谈判，再次驳回激进组织的要求称其为“妄想”。
以色列方面表示，伊朗支持的激进组织必须改变立场，以色列才会在谈判中扮演进一步的角色。哈马斯坚持要求以色列从加沙完全撤军，以换取人质释放，而内塔尼亚胡已经明确排除了这种可能。
阅读更多：真主党对以色列发动袭击，加剧中东紧张局势
哈马斯被美国和欧盟视为恐怖组织，还要求释放在以色列拘留的所有巴勒斯坦囚犯，包括那些被判犯有谋杀和其他暴力行为的人。
以色列代表团由情报机构摩萨德负责人大卫·巴内亚领导，周二从埃及的谈判返回。
“内塔尼亚胡坚称以色列不会屈服于哈马斯的妄想要求，”他的办公室表示。“哈马斯立场的改变将促使谈判取得进展。”
以色列誓言摧毁哈马斯
伊朗支持控制加沙的激进组织哈马斯，以及黎巴嫩的真主党
来源：彭博社
这些评论发表的同时，以色列和真主党之间的紧张局势也在升级，当时黎巴嫩向以色列的一个城镇和军事基地发动了比平时更强烈的火箭袭击。以色列进行了大规模的炮击真主党在黎巴嫩南部的据点和城镇作为报复。真主党也得到伊朗的支持，并被美国指定为恐怖组织。
以色列在开罗会谈中的立场表明停火，即使是临时性的，仍然是一个遥远的前景。与此同时，国际社会对担心逐渐加剧，因为有超过100万名巴勒斯坦难民在加沙南部的拉法市避难。以色列军方正在准备对这个靠近埃及边境的城镇发动进攻，他们表示哈马斯的余部武装人员驻扎在那里，内塔尼亚胡承诺会在此之前让平民撤离。
埃及媒体报道称，美国中央情报局局长威廉·伯恩斯会见了巴内亚以及卡塔尔总理和埃及情报部负责人，讨论了一项协议。
内塔尼亚胡最初拒绝派遣以色列代表团参加谈判，但最终在美国总统乔·拜登的压力下同意这样做，据Ynet报道。在哈马斯于10月7日对以色列发动袭击后，大约250名被哈马斯劫持的人中仍有130多人被囚禁在加沙。
阅读更多： 即使避免更大规模战争，美国仍将面临来自加沙的后果
人质家属论坛表示，根据一份声明，家属们“对阻挠开罗谈判的决定感到震惊”。