ChatGPT背后的AI斗士萨姆·奥特曼的矛盾之处 - 《华尔街日报》

山姆·阿尔特曼，这位37岁站在人工智能热潮前沿的创业点金圣手，长久以来一直梦想着计算机能像人类一样对话与学习的未来。

他最清晰的童年记忆之一，是在圣路易斯郊区的卧室里熬夜摆弄八岁生日时收到的Macintosh LC II电脑，突然顿悟：“总有一天，电脑将学会思考，“他说。

最近几个月，阿尔特曼比任何人都更致力于推动这一未来的到来——并将其商业化。他领导的OpenAI公司在11月发布了ChatGPT，这款具备惊人能力、能生成类人文本的聊天机器人，已成为科技史上传播速度最快的产品之一。在此过程中，OpenAI以近乎创纪录的速度从一个小型非营利组织转变为价值数十亿美元的公司，部分归功于其营利分支的成立——根据投资者文件显示，该架构使其能从微软公司筹集130亿美元资金。

这一成功源自精妙的平衡术。阿尔特曼表示，他担心如果人工智能被轻率地推向社会可能引发的后果。八年前他联合创立OpenAI时将其定位为非营利研究机构，主张以利润作为强大AI模型开发的主要驱动力具有独特危险性。

他对将利润作为人工智能发展动机的做法极为谨慎，因此并未在自己创建的公司中持有任何直接财务股份，他表示——这在硅谷实属罕见，因为成功创业公司的创始人通常都会通过股权变得富有。

“和大多数人一样，我也喜欢看到数字上涨，”谈到财务收益时他说，“但我就是希望这完全不是影响因素之一。”（公司表示他领取“适度”薪资，但拒绝透露具体金额。）奥特曼先生称自己在一家投资OpenAI的风投基金持有少量股份，但强调其“微不足道”。

奥特曼表示，他在职业生涯早期通过投资初创公司积累了“几辈子都花不完的财富”。他拥有三处住宅，包括旧金山俄罗斯山社区的豪宅和纳帕谷的度假别墅，并雇佣了二十多人管理这些房产及其家族办公室的投资与非营利事务。

据其母亲回忆，在他去年去世的祖母生前最后一次探望时，他买了杂货后向母亲承认自己已有四五年没进过超市。

他表示，自己的目标是建立一个新的世界秩序，让机器解放人类去追求更具创造性的工作。在他的构想中，全民基本收入——无条件向所有人发放现金补贴的概念——将补偿被AI取代的工作。奥特曼甚至认为人类会如此热爱AI，以至于高级聊天机器人可能成为“个人意志的延伸”。

旧金山OpenAI办公室的员工们。他表示，从长远来看，希望建立一个全球治理架构来监督关于AI未来的决策，并逐步削弱OpenAI高管团队对其技术的控制权。

支持者认为，他这种社会意识型资本主义的特质使其成为领导OpenAI的理想人选。而包括部分曾为其工作的人士在内的批评者则指出，他过于商业化的思维和硅谷式的思考方式，难以领导这场正在重塑商业与社会生活的技术革命。

投资者文件显示，该公司今年1月与微软签署了100亿美元协议，这家科技巨头将持有OpenAI营利实体49%的股份。这一企业合作，加上阿尔特曼推动技术更激进商业化的举措，令OpenAI早期核心领导层感到幻灭，他们认为这些决策违背了最初"不受股东影响开发AI"的承诺。

批评者之一正是埃隆·马斯克，他2015年参与创立了这个非营利组织，但在2018年因控制权和发展方向分歧退出。这位特斯拉公司CEO今年2月发推文称：“OpenAI本是为制衡谷歌而成立的开源非营利组织，如今却成了微软实际控制的闭源逐利公司。这绝非我的初衷。”

当被问及联合创始人的批评时，阿尔特曼先生停顿了片刻。“我喜欢埃隆，“他最终回应道，“我会认真考虑他的意见。”

2月一场活动中展示的AI驱动微软必应搜索引擎与Edge浏览器。图片来源：Chona Kasinger/彭博新闻社在本周公开的一封公开信中，马斯克与包括苹果公司联合创始人史蒂夫·沃兹尼亚克在内的硅谷精英们呼吁，对开发比OpenAI三月发布的最新GPT-4更先进的人工智能实施六个月暂停令，以遏制可能失控的技术竞赛。

阿尔特曼表示，他并不一定要成为首个开发通用人工智能（AGI）的人。AGI是研究人员和科幻作家长期构想的世界，其中软件不仅能像生成文本或图像那样擅长特定任务，还能像人类一样甚至更好地理解和学习。他反而强调，OpenAI的终极使命是安全地实现所谓的AGI。

根据投资者文件，OpenAI为投资者设定了利润上限，超出特定水平的回报——根据投资早晚，回报率在投入资金的7到100倍之间——将流向非营利性母公司。OpenAI与微软还成立了一个联合安全委员会，成员包括阿尔特曼和微软首席技术官凯文·斯科特，该委员会有权在认为产品过于危险时叫停微软和OpenAI的产品发布。

据亿万富翁风险投资家彼得·蒂尔透露，AGI的可能性让阿尔特曼先生萌生了"某种相似技术创造了我们的宇宙"这一想法。作为阿尔特曼的密友及该非营利组织的早期捐助者，蒂尔长期倡导人类与机器终将融合的理念。

ChatGPT的发布引发了一系列竞争性AI产品的公告潮。

“他们竞相发布新闻稿，“阿尔特曼如此评价竞争对手，“显然现在已经落后了。“谷歌于二月宣布正在测试其聊天机器人Bard，并于三月向公众开放访问。

OpenAI在创始章程中承诺：若有其他项目比其更接近实现通用人工智能，将放弃相关研究。公司表示，此举旨在避免因竞争催生危险AI系统的军备竞赛，转而将人类安全置于首位。

位于旧金山教会区的OpenAI总部更像一个富裕的新时代乌托邦，而非拯救世界的非营利组织。阳光充盈的房间里，石制喷泉掩映在多肉植物与蕨类之间。

阿尔特曼津津乐道于他设计的蜿蜒中央楼梯——这确保了公司400名员工每天（或至少周一至周三必须到岗时）都有擦肩而过的机会。办公室设有大学风格的自助餐厅、自助酒吧，以及融合巴黎最爱的书店与斯坦福大学最大图书馆顶楼静修空间"本德室"设计理念的图书馆。

2009年时的洛普特公司首席执行官阿尔特曼先生。图片来源：马修·斯塔弗/彭博新闻身着科技公司CEO标志性的灰色连帽衫、牛仔裤和亮眼运动鞋，阿尔特曼先生描述了自己更为朴素的成长经历。

阿尔特曼在圣路易斯郊区长大，是皮肤科医生康妮·吉布斯汀与从事过律师等多项工作的杰里·阿尔特曼所生四个孩子中的长子，父亲五年前去世。家人表示，老阿尔特曼真正的事业是经营经济适用房非营利组织，他曾花费多年时间试图重振圣路易斯市中心。

阿尔特曼提到，父亲教导他的信条之一是"永远要帮助他人——即使你认为没时间，也要想办法做到”。

吉布斯汀博士回忆，儿子2岁就能操作家用录像机，13岁独自改签夏令营返程机票。到小学三年级时，他已开始帮当地公立学校老师解决电脑故障。初中时他转入了私立约翰·伯勒斯学校。

“老师们喜欢他不仅因为极其聪明勤奋，更因为他出色的社交能力，“时任校长的安迪·阿博特说，“他风趣幽默且个性鲜明。”

阿尔特曼后来进入斯坦福大学，在人工智能实验室从事研究。大二时他联合创立了基于位置的社交服务Loopt，该项目成为创业加速器Y Combinator的首批孵化企业之一——该机构后来培育出爱彼迎、Stripe和Dropbox等公司，阿尔特曼为此选择了辍学。

Loopt始终未能获得市场青睐，于2012年以4340万美元的价格出售，这个数字接近红杉资本等投资方的投入总额。

随后阿尔特曼先生创立了风投基金，并结识了包括蒂尔先生和保罗·格雷厄姆在内的强力盟友——后者作为Y Combinator联合创始人最终将阿尔特曼招致麾下。在Y Combinator期间，他帮助公司将影响力扩展至硅谷权力掮商层级。早期他个人投资了数十家成功企业，包括云软件公司Asana和论坛网站Reddit。

在执掌Y Combinator期间，阿尔特曼开始滋长一种担忧：类似DeepMind（2014年被谷歌收购）的大型研究实验室正在公众视野之外开发具有潜在危险的AI技术。马斯克先生也曾表达过类似忧虑，担心强人工智能会造就反乌托邦世界。

阿尔特曼与马斯克认定是时候创立自己的实验室。两人共同参与了一个承诺向非营利组织OpenAI注资10亿美元的财团。

马斯克未回应置评请求。

该非营利组织初期发展曲折，尝试过诸如教导机器人解魔方等项目。2017年OpenAI裁撤了部分员工。

OpenAI研究人员很快得出结论：实现通用人工智能最有希望的途径在于大型语言模型，即模拟人类读写能力的计算机程序。阿尔特曼表示，这类模型需要海量文本进行训练，并消耗OpenAI作为非营利组织无力承担的巨额算力。

“我们当时并没有直观感受到这个项目会有多么昂贵，”他说，“直到现在也还不完全清楚。”

那年，奥特曼先生表示他探索了多种为OpenAI筹集更多资金的方案，比如争取联邦拨款和发行新加密货币。“当时根本没人愿意以任何形式资助这个项目，”他说，“那是一段非常艰难的时期。”

OpenAI办公室的一名员工。知情人士透露，与马斯克的关系也日趋紧张，他对进展缓慢感到不满，并试图获得对该组织更多的控制权。

最终，OpenAI高管们重启了公司早期曾提出过的一个不寻常想法：成立一个营利性子公司OpenAI LP，向非营利母公司汇报。

当时担任OpenAI顾问、后来进入董事会的领英联合创始人里德·霍夫曼表示，这个想法是为了吸引那些渴望从OpenAI技术商业化中获利的投资者，从而加速OpenAI的进展。

“你需要抢占先机并制定行业规范，”他说，“这就是为什么在这里速度成为道德伦理考量的一部分。”

知情人士称，这一决定进一步疏远了马斯克。他于2018年2月与OpenAI分道扬镳。

参加过会议的前员工表示，马斯克在一次公司全体会议上宣布了他的离开。他们称，马斯克解释说他认为通过特斯拉更有机会实现通用人工智能，因为特斯拉能提供更丰富的资源。

微软CEO萨提亚·纳德拉与OpenAI联合创始人埃隆·马斯克。图片来源：彭博新闻、Getty Images前员工透露，当时一位年轻研究员质疑马斯克是否充分考虑过安全影响。马斯克明显变得烦躁，称这名实习生为"蠢驴”，令在场员工震惊。这是许多人最后一次亲眼见到马斯克。

不久后，OpenAI一位高管定制了"蠢驴"奖杯颁给这位年轻研究员，后来还放在枕头上呈递给他。“总得找点乐子，“阿尔特曼说，“这就是塑造文化的素材。”

马斯克的离开成为转折点。同年晚些时候，OpenAI领导层告知员工将由阿尔特曼执掌公司。他于2019年初正式出任CEO，并协助完成了营利性子公司的组建。

OpenAI表示从最初承诺的10亿美元中收到约1.3亿美元捐款，但营利实体成立后不再需要后续捐赠。马斯克曾在推特表示他向OpenAI捐赠了约1亿美元。

与此同时，阿尔特曼开始寻找投资者。2018年夏天在爱达荷州太阳谷举行的艾伦公司年度会议上，他在楼梯间偶遇微软CEO萨提亚·纳德拉并向其推介OpenAI，由此迎来转机。纳德拉表示对此很感兴趣，双方于当年冬季重启对话。

“我记得回来后告诉团队，这是唯一的合作伙伴，”奥特曼先生说。“他们理解安全问题，理解通用人工智能。他们拥有资金，有能力运行计算。”

前员工透露，奥特曼先生在合同谈判期间与员工分享了协议内容，并召开全员会议和办公时间以缓解担忧，因为这种合作与OpenAI最初承诺在企业界之外开发人工智能的初衷相矛盾。

一些员工仍将这笔交易视为浮士德式的交易。

前员工表示，OpenAI的首席安全研究员达里奥·阿莫代及其副手担心，该协议会让微软在未经过充分安全测试的情况下，利用OpenAI的强大技术销售产品。他们认为OpenAI的技术远未准备好大规模发布——更不用说与全球最大的软件公司之一合作——担心它可能出现故障或被滥用造成无法预料的危害。

前员工称，阿莫代先生还担心这笔交易会将OpenAI的船仅系在一家公司——微软——身上，使得OpenAI更难坚守其创始章程的承诺，即在另一项目率先实现通用人工智能时提供协助。

微软最初向OpenAI投资了10亿美元。虽然这笔交易为OpenAI提供了所需的资金，但也附带了一个条件：排他性。OpenAI同意仅通过微软的Azure云服务使用其庞大的计算机服务器来训练AI模型，并授予这家科技巨头独家许可OpenAI技术用于未来产品的权利。

“你差不多得跳下悬崖，然后希望自己能安全落地，”纳德拉在最近的一次采访中说道，“平台转型往往就是这样发生的。”

“这笔交易彻底违背了他们获得非营利地位时坚持的原则，”纽约大学心理学与神经科学荣誉教授加里·马库斯表示，他共同创立了一家机器学习公司。

阿尔特曼以巴黎一家书店和斯坦福大学的学习空间为灵感，设计了OpenAI办公室的图书馆。他说，阿尔特曼“主导了一次180度的大转弯，在我看来，这只是在口头上关心人类。”

阿尔特曼不同意这种说法。“微软作为合作伙伴的不同寻常之处在于，它让我们保留了所有我们认为对使命至关重要的原则，”他说，包括利润上限和承诺在实现通用人工智能（AGI）时协助另一个项目。

这笔资金加速了OpenAI的进展，让研究人员能够获得改进大型语言模型所需的计算能力，这些模型基于数十亿页公开可用的文本进行训练。OpenAI很快开发出了一个更强大的语言模型GPT-3，并于2020年6月通过称为应用程序接口（API）的打包代码行向开发者出售该技术的访问权限。

前员工表示，阿尔特曼和阿莫代伊在API的推出问题上再次发生冲突。阿莫代伊希望以更有限和分阶段的方式发布产品，以减少公众关注，并让安全团队能在更小的用户群体中进行更多测试。

阿莫迪先生几个月后与其他几位同事一同离职，创立了一家名为Anthropic的竞争性AI实验室。“他们对于如何最安全实现通用人工智能（AGI）持有与我们不同的观点，“阿尔特曼先生表示。

Anthropic今年已从谷歌获得超过3亿美元投资，并于三月发布了自家AI聊天机器人Claude，开发者也可通过API接口使用该产品。

在近期一份投资文件中，Anthropic宣称将"致力于大规模商业化"以实现安全AGI的创建，并已于九月"全面转向"商业化路径。这家最初定位为AI安全研究公司的企业表示，未来可能通过产品创造商业价值。

根据投资文件显示，在初始协议签订后的三年间，微软累计向OpenAI投资了30亿美元。

去年11月ChatGPT发布后五天内注册用户即突破百万，其增速连阿尔特曼本人都感到惊讶。此前该公司已推出DALL-E 2——能够根据文字描述生成精细图像的系统。

阿尔特曼在其公司办公室。互联网上涌现大量用户使用ChatGPT创作十四行诗或策划幼儿生日派对的趣闻。

瑞银分析师数据显示，截至今年二月其用户量已突破1亿，成为史上达到这一里程碑速度最快的消费级应用。

奥特曼先生的亲密伙伴们称赞他平衡OpenAI各项优先事项的能力。蒂尔先生表示，没有人能比他更好地在"错位理想主义的斯库拉"与"短视野心的卡律布狄斯"之间航行。

奥特曼先生表示，他将最新模型GPT-4的发布时间从去年推迟到今年三月，以进行额外的安全测试。用户报告了该模型集成到必应后的一些令人不安的体验，软件出现了幻觉现象——即对不知道的问题编造答案。它发出了不祥的警告并做出威胁。

“正确的方法是让人们参与其中，探索这些系统，研究它们，学习如何使其安全，“奥特曼先生说。

文件显示，在微软初始投资收回后，其将获得OpenAI 49%的利润分成直至利润上限，此前的安排是21%。非营利母公司OpenAI Inc.将获得其余部分。

奥特曼先生的其他项目包括Worldcoin，这是他联合创办的一家旨在向地球上每个人发放加密货币的公司。

近年来他几乎所有的流动资产都投在了两家公司。他向Helion Energy投入了3.75亿美元，该公司正寻求通过核聚变创造无碳能源，奥特曼表示"已接近在真实演示中创造合法的净能量增益”。

他还向Retro公司投入了1.8亿美元，该公司旨在通过"细胞重编程、血浆启发疗法和自噬作用”（即回收利用老旧受损细胞部件）将人类寿命延长10年。

他指出，从道德层面来看，这些问题比人工智能要容易得多。“如果你在研究核聚变，那完全是积极的。它只有好处，“他说。“但如果你在研究人工智能，它可能非常好，也可能非常可怕。”

Deepa Seetharaman和Miles Kruppa对本文有贡献。

联系Berber Jin，邮箱：[email protected]，以及Keach Hagey，邮箱：[email protected]

本文发表于2023年4月1日的印刷版，标题为《Sam Altman构建我们的AI未来》。