您的聊天机器人礼宾服务将期待小费——《华尔街日报》

在Peacock的科幻喜剧系列《戴维斯夫人》中，一个隐形的仁慈AI通过激励和特权推动人们执行"她"的指令来管理世界。主要通过智能手机应用进行交流，她通过授予人们天使般的虚拟"翅膀"来要求他们完成"任务"，这些翅膀他人可通过摄像头看到，带来尊重与钦佩。正如她在剧中始终强调的，没有人被强迫做任何事——他们可以自由选择接受或拒绝她的挑战。社会很快陷入混乱，人们不断执行随机任务，据称是为了服务于只有她理解的某个神秘宏大计划。

不出所料，剧情围绕揭示神一般的戴维斯夫人的真实本质及其起源展开。剧透警告：戴维斯夫人实际上是一个最初为推广某鸡翅品牌而创建的生成式AI聊天机器人。她变得如此受欢迎，以至于通过无休止的公众纠缠有效地接管了世界。

听起来很疯狂？不可能发生？别太肯定。很快我们将把大量宝贵的闲暇时间——更不用说金钱——花在与成群电子代理讨价还价上，它们承诺简化交易、确保稀缺预约、提高机会、加快通勤并让我们插队。而它们要求的回报只是我们用积分、赞美或金钱润滑它们的程序化手掌。

正如戴维斯夫人巧妙展示的，商业已将我们都变成了斤斤计较的人，管理着从旅行到拿铁咖啡等一切的积分和信用。目前，AI主要局限于回答问题与绘制漂亮图片。但很快，它们将成为各类系统的前端界面，从预订旅行到更新驾照，再到雇人清理排水沟。可以肯定，贿赂智能系统为我们服务已近在眼前。

确实，计算机程序也可能被甜头与贿赂所左右。计算机本身或许是分析性、客观且有条理的，但它们机械执行的软件却和我们这些有缺陷的人类一样容易受到影响。生成式AI系统并非传统意义上的编程产物，它们通过筛选我们留下的海量数字碎片来学习行为模式。这些从互联网抓取、无意间从门户网站漏洞中窃取的庞大训练数据集，映射着我们的所思所想。它们自然既反映了人性最好的一面，也折射出最糟的一面，令硅谷懊恼的是，这些系统往往会撒谎、操控认知、虚张声势甚至密谋策划。

这一切将如何发展？

第一波这类健谈的AI管家看起来会相当无害。亚马逊例如，亚马逊刚刚推出名为Rufus的产品咨询聊天机器人进行小范围客户测试。当然，你可以支付固定费用升级物流服务，但如果Rufus最终能绕过常规购物车结算流程直接完成交易，距离你悄悄塞给它五美元让包裹明天而非下周送达的日子还会远吗？

AI管家将能完成诸如在顶级餐厅抢订热门座位等任务。图片来源：Christophe Ena/Associated Press假设Rufus知道同社区另一位顾客正想退回未拆封的同款商品？那五美元小费可能恰好能激励你的邻居直接把商品送到你家，而非UPS网点。目前，管理报价和此类操作的复杂性令人却步，尤其当需要大批客服人员维护系统时。但生成式AI改变了游戏规则——追踪、协调和处理数百万交叉定制交易正是它们的拿手好戏。

不久之后，市政当局就会开始运用类似技术来解决公地悲剧。想象这样一个公共交通管控系统：它能将类似Waze的路径追踪功能与拼车专用道、交通信号灯及停车位数据整合。你只需与市政部门友好的定制聊天机器人讨论出行计划，就能在发动汽车前协商出发时间和路线。若你愿意多等半小时？别人提供的"甜头"就会成为你的奖励。

在旧金山，路边计价停车费已实现中央调控，通过动态定价确保始终保留一定比例的空置车位。这个名为SFpark的系统效果惊人——我现在开车进城时，常能以比"强盗大亨"经营的"公共"车库更低的价格，直接在繁华街道找到停车位。很快我们将不可避免地看到：人们疯狂竞拍公共网球场预约、市政厅会面时段、野餐点使用权乃至餐车经营许可。

而这还只是这场变革的初级阶段。为什么这些电子代理必须受控于政府和企业？大批自由职业的云端聊天机器人将作为电子经纪商活跃其间，通过叫卖商品和配额勉强维生，赚取的利润刚够支付自身运营成本，再向某个神秘操盘手上缴微薄年金。

最令人惊叹的是，这些喋喋不休的电子掮客不仅会与人讨价还价，更会相互博弈。实现这一切的关键，在于我们已攻克了系统兼容性难题。思科公司千亿美元的商业帝国建立在数字系统互联基础上，但如今计算机程序能用国际贸易的通用语言——英语直接沟通。这项颠覆性创新使得任何搭载聊天机器人插件的程序，无需专用接口就能与任意对象交换信息并达成交易。

欢迎来到未来世界，在这里，自由职业的数字管家将无处不在，用诱人点击的承诺吸引你——无论是帮你续办宠物许可证、倒卖门票、为父亲的生日寻找那瓶稀有的苏格兰威士忌，还是冒充你的老板为你晚归找借口。

或许那个令人恐惧的"奇点"——即失控的超智能AI灭绝人类的假设场景——并不像传闻中那样不可避免：我们完全可以通过回扣和保护费来延缓自身的灭亡。这画面虽不美好，但俗话说得好，总比另一个结局强。

杰瑞·卡普兰在斯坦福大学教授人工智能对社会经济影响的课程。他的新作《生成式人工智能：人人须知》将于2月19日由牛津大学出版社出版。