科技巨头们，别再试图打造如神一般的AI——彭博社
Parmy Olson
人工智能超越人类是科技巨头的终极执念。
摄影师：何塞·萨尔门托·马托斯/彭博社ChatGPT的诞生源于山姆·奥特曼想要造神。
尽管引发热议，这款聊天机器人只是通往AGI（即超越人类认知能力的"人工通用智能"）崇高目标途中的原型。当奥特曼2015年联合创立OpenAI时，他将此设定为这家非营利组织的目标。更早之前，戴密斯·哈萨比斯创立DeepMind公司（现谷歌核心AI部门）时也怀揣同样的AGI理想。他们的理由充满乌托邦色彩：奥特曼认为AGI将创造财富"普惠人类"，哈萨比斯则宣称它能治愈癌症并解决气候变化。
彭博观点我们仍需探究为何涨幅总在夜间出现美国经济前景正变得更加不确定美式变卖家底欧洲绿色新政让农民得不偿失这些崇高目标存在隐忧。首先，科技巨头的财务动机可能使AGI研发优先服务于其金库。随着生成式AI热潮引发"赢家通吃"的竞赛，奥特曼和哈萨比斯早年的利他主义已在近年式微。DeepMind官网撤下了关于医疗研究和新能源开发的内容，转而聚焦谷歌旗舰AI平台Gemini的产品化。奥特曼虽仍谈论造福人类，但已非2015年创立宣言中"免除财务义务“的非营利状态——微软公司向其注资约130亿美元后，OpenAI实质上已成为其产品部门。
另一个问题是，即便是那些正在构建通用人工智能（AGI）的人也在黑暗中摸索前行，尽管他们对时间线预测充满信心。Anthropic公司首席执行官达里奥·阿莫代表示，到2027年我们将拥有AGI。奥特曼则宣称这距离实现还有“几千天”，并预测首批AI代理将于今年加入劳动力市场。亿万富翁孙正义认为我们将在两三年内实现这一目标。《纽约时报》播客主持人埃兹拉·克莱因经常邀请AI领域领军人物参与节目，他最近撰文称：“这真的要发生了。我们即将迎来通用人工智能时代。”
但若询问科技领袖们AGI的确切定义，你会得到五花八门的答案。哈萨比斯将其描述为能“达到人类水平”的软件，奥特曼则认为它将“超越人类”。他们与阿莫代一样，往往更着力强调定义AGI的复杂性和挑战。奥特曼还曾称其为“定义模糊的术语”。微软首席执行官萨提亚·纳德拉甚至嘲讽AGI研究是“荒谬的基准测试投机”。
看到人工智能领域的顶尖领袖们一边对北极星目标的定义争论不休或闪烁其词，一边又朝着它全速前进，我并未感到多少宽慰。这不仅因为计算机科学专家和埃隆·马斯克担忧通用人工智能（AGI）的出现将伴随极高风险，威胁人类文明的存续。更因为追逐一个模糊定义的目标，会为 unintended consequences 打开大门。
更有价值的追求应当更具体且切实，例如开发能将医疗诊断错误率降低30%的AI系统。在教育领域，将学生的数学熟练度提高15%。或是构建能优化电网以减少20%碳排放的系统。这些目标不仅具备明确的成功指标，更能满足人类实际需求——正如奥尔特曼和哈萨比斯等AI构建者最初设想的那样。
没有证据表明，当谷歌、微软（或中国的深度求索）等公司宣称终于建成AGI时，它们就能获得治愈癌症、解决气候变化或让全球每人财富增长"数万亿美元"的密钥——正如奥尔特曼所言。军备竞赛已白热化到如此程度，更可能出现的局面是：这些企业将宣称获得市场竞争优势，继而抬高价格、封锁信息共享。地缘政治影响也将引发质疑。奥尔特曼创立OpenAI时曾说，若发现其他实验室接近AGI，团队将停止竞争转为合作。如今看来无异于痴人说梦。
上个月，一大群来自学术界和企业界的人工智能研究人员发表了一篇论文，呼吁科技公司停止将通用人工智能（AGI）奉为AI研究的终极目标。他们指出，这个术语不仅过于模糊难以准确衡量——会导致伪科学泛滥，更将关键对话者排除在外，尤其是那些生活将被彻底改变的人群。2025年的技术专家们拥有的社会权力已远胜千禧之交，他们通过部署社交媒体产品重塑文化和个人习惯，如今又借助AI大面积取代人类工作，却几乎不受任何制衡。
包括谷歌前AI伦理负责人玛格丽特·米切尔在内的研究者们建议，科技公司不仅要在AI工作中纳入更多来自不同社群和专业领域的声音，还应放弃关于AGI的模糊炒作——有位科学家曾对此给出令人难忘的定义：“极客们的末日狂欢”。
硅谷对"越大越好"的痴迷已持续太久，马斯克与阿尔特曼等人竞相打造最大AI模型或最大规模英伟达AI芯片集群的较量也是如此。原子弹之父罗伯特·奥本海默曾对自己的角色深感悔恨，如今他完美诠释了"能做不代表该做"的箴言。科技领袖们与其在未来懊悔，不如避免重蹈追逐荣光、试图造神的覆辙，尤其当潜在收益远未明朗之时。
更多来自彭博观点的内容：* 领英创始人的AI梦想需要人类警惕：帕米·奥尔森
想要更多彭博观点？OPIN <GO>。网页读者，请点击这里**。或订阅我们的每日通讯。**