领英创始人霍夫曼的人工智能梦想需人类保持警惕——彭博社
Parmy Olson
里德·霍夫曼。
摄影师：大卫·保罗·莫里斯/彭博社如果你听过Salesforce公司和Meta平台公司高管的近期宣言，我们正生活在“智能体”元年——这些人工智能服务比聊天机器人更具自主性。例如，中国新推出的“盘古”模型在周末爆红，因其开发者宣称它能购买房地产和编写电子游戏。1
但随着认知劳动逐渐被自动化，构建这种几乎无需提示的人工智能，引发了令人不安的问题：未来十年人类将在各个领域处于何种位置。
彭博观点即使特朗普不认同，美国人依然热爱欧洲爱尔兰不再是美国的黄金之子为何特朗普这次不太在意市场阵痛贸易战不会让美国农业再次伟大里德·霍夫曼过去几年一直大力宣扬人工智能的积极影响。这位领英联合创始人、微软公司董事兼风投公司Greylock Partners合伙人出版著作提出，随着AI系统能力增强，它们将提升人类能动性——因此书名定为《超级能动性》。
某种程度上，这是对AI可能削弱批判性思维能力和“能动性”本身（韦氏词典将其定义为“施加权力的能力”）的担忧的回应。“每种重大通用技术都会引发这种忧虑，”霍夫曼在采访中告诉我，“当年关于印刷机的讨论与现在关于AI的讨论如出一辙——人们担心它会降低人类认知能力。”
他认为，我们失去的技能——比如背诵荷马史诗的能力——是值得付出的代价，因为人工智能将使我们能够做更多额外的事情。他说，聊天机器人可以劝阻人们自杀。
霍夫曼说得有道理。在X平台（原推特）上，用户们开始在回复中添加“@perplexity”，将这家总部位于旧金山的聊天机器人作为真相仲裁者，询问某些用户（包括该平台所有者）的大胆言论是否属实。该机器人的反驳和解释不仅有用，还展示了人工智能如何能优化我们的思维方式。霍夫曼认为，发明工具来实现这一点是人类进化的自然组成部分。
但“进化”并不总意味着进步。尽管技术进步旨在改善生活，但久坐的生活方式却导致肥胖和其他健康问题增加。人工智能能否惠及所有人，取决于谁控制其应用以及我们如何对待它。中国利用人脸识别技术加强监控国家，这侵犯了自由。“并不是说所有应用都会很好，但关键在于，如果我们能让西方民主来塑造并以正确方式构建它，这就是为你服务的人工智能，对吧？”曾担任OpenAI董事的霍夫曼说道。
诚然，西方开发的产品确实为消费者带来了便利。但当今网络服务的成瘾性也对我们的健康造成了损害。硅谷开发的产品往往致力于消除生活摩擦，让网购、联系朋友、撰写邮件报告和进行研究变得更轻松。
另一方面则是过度依赖的问题。英国未来工作研究所的副所长、作家凯斯特·布鲁因告诉我，一些刚开始第一份工作的年轻职场人发现自己对AI工具产生了依赖，因为他们不信任自己的想法。他称之为“对机器的顺从”。
随着AI智能体更深度融入白领工作——尤其是当它们被设计得更像知识渊博的人类而非有局限的机器时——这可能演变成问题。霍夫曼等人持有的未来观点认为，金融、法律和媒体等领域的专业人士将更多承担监督这些智能体的角色，由它们完成如今人类的大部分工作。
但研究表明，当人类监督机器时，其表现往往会下降，这种情况尤其出现在航空、医疗和制造领域。原因在于：人们会对极少出错的机器产生监控倦怠，并因过度信任自动化系统而忽视错误。这就是为何研究显示飞行员使用自动驾驶系统时会降低警觉性，有时甚至错过关键操作信号。
飞行员通过采取防御性策略应对这种情况。他们被教导在降落时要随时做好复飞准备——比如跑道被占用的情形，需将手放在油门杆上或准备按下通话按钮联系塔台决定是否复飞。拥有20多年飞行经验的保险业高管路易斯·普拉托表示：“这种核查的尽职流程至关重要，我在保险业务中经常运用这个理念，因为风险管理才是核心。”
或许这种防御性策略应转移到人工智能领域。科技公司应为其聊天机器人编程，使其主动披露自身局限，承认无知而非编造答案——正如它们惯常所做的那样。
我们不应"依赖"机器，而应预设其局限性。霍夫曼指出人类能动性同样取决于个人心态，这一点我们深表认同。与人工智能最有益的关系，源于对其能力保持合理怀疑。AI有望增强人类能力，但如同所有强大技术，它对我们自主权的影响既取决于技术本身，也取决于我们如何选择与之互动。更多彭博观点：
想要更多彭博观点？OPIN <GO>。或订阅我们的每日通讯。