马克马克·扎克伯格在AI领域起步早如今Meta正努力追赶-《华尔街日报》"]
Karen Hao, Salvador Rodriguez and Deepa Seetharaman
Meta 正在做一件马克·扎克伯格不喜欢的事:追赶潮流。
十年前,这位公司创始人兼首席执行官看到了人工智能的前景,并投入大量资金推动其发展。他聘请了该领域的早期远见者之一Yann LeCun来领导这项工作。然而,就在OpenAI的ChatGPT闯入消费市场几个月后,Meta在这项技术上已经落后了。
在多年来优先考虑学术发现并免费分享,同时难以实现其商业潜力后,Meta现在正急于重新调整资源,以开发可用的AI产品和功能,包括自己的聊天机器人。
这是一个艰巨的任务,因为Meta的许多顶级AI员工已经离职,同时公司正在进行扎克伯格所称的“效率年”裁员。根据《华尔街日报》的分析,过去一年中,约三分之一参与发表与大型语言模型(为ChatGPT等AI系统提供动力的复杂系统)相关研究的Meta员工已经离职。
扎克伯格本人和其他高管已经更多地掌控了公司的AI战略。他们成立了一个新的生成式AI小组,直接向Meta任职时间最长、最受信任的高管之一——首席产品官克里斯·考克斯汇报。扎克伯格表示,该小组正在训练生成式AI模型,这些模型可以生成文本、图像或音频等内容,旨在融入“我们每一个产品”。他大力宣传Meta的旗舰AI语言模型LLaMA,该模型的代码泄露后,催生了一些本土工具,这些工具有朝一日可能会与谷歌和OpenAI试图销售的产品竞争。
如果Meta成功将其人工智能项目商业化,这可能会提升用户参与度,创造更优质的元宇宙体验,并增强公司对年轻用户的吸引力——目前这部分用户正变得越来越难以触达。若Meta未能快速利用这项技术,随着包括一批快速崛起的创新型AI初创公司在内的竞争对手领先,它将面临失去市场影响力的风险。
Meta人工智能研究副总裁乔尔·皮诺在一份声明中表示,公司在AI领域并未落后,并强调其专注于研究和体系建设的战略将为Meta的成功奠定基础。皮诺称:“Meta的AI研究部门是全球顶尖的人工智能研究者和开放科学的聚集地之一,仅过去一年其研究成果就显著增长。我们的研究突破为在应用家族中推出新一代生成式AI体验奠定了坚实基础。我们为Meta过去和现在的AI研究者们助力塑造尖端AI未来所做的贡献感到自豪。”
插图:傅凯瑟琳扎克伯格周五发布了一款名为Voicebox的AI模型,该模型能以多种方式朗读文本提示,或借助文本提示修正录音(如消除狗吠等背景噪音)。Meta未透露该研究项目何时向公众开放。
本文基于对十几位Meta现任及前任员工的访谈,以及对领英资料、社交媒体动态和初创企业新闻公告的梳理。
扎克伯格和其他高管将人工智能称为Meta业务的第三支柱,认为它与全球互联及虚拟增强现实技术同等重要,对公司长期发展和保持竞争力至关重要。在AI领域的落后可能让Meta显得保守迟钝,而非那个曾提出"快速行动、打破常规"口号、引领硅谷创新节奏的敏捷进取者。
今年五月,白宫未邀请Meta参加人工智能领袖峰会,该会议号称汇聚了"处于AI创新前沿的企业"。
Meta曾在落后时多次急转弯,例如将Facebook广告业务从桌面端转向移动优先,或是2016年在Instagram推出Stories功能,以吸引Snapchat用户——后者早在十年前就推出了类似功能。
Meta还面临其他战略、政治和财务挑战。其AI部门长期偏重基础研究,抑制了生成式AI(如能产出类人文本和媒体的ChatGPT系统)的发展。高管们在设计运行此类AI程序的硬件时决策失误,目前正试图纠正。多年来因用户数据处理和人权问题遭受审查,使得部分高管在向消费者推出新AI产品时犹豫不决。
Meta于2013年开始投资人工智能。扎克伯格和时任首席技术官迈克·施罗普弗亲自物色了一位人工智能领域的顶尖人才来领导一个新的研究部门以推动技术进步。他们在纽约大学教授扬·勒昆身上找到了理想人选,勒昆在该领域的突破性研究享有盛誉。
扬·勒昆执掌Meta人工智能研究部门十年间,始终保持着以发表和分享发现为核心的学术化AI突破研究方式。图片来源:内森·莱恩/彭博新闻社扎根学术界与基础研究的勒昆,成功塑造了反映其核心理念的文化:优先聘用科学家而非工程师,重视学术产出(如研究论文)而非面向终端用户的产品开发。知情人士表示,这一策略使Meta基础AI实验室多年来对顶尖人才极具吸引力,但也制约了公司技术成果的商业化能力。
该模式还催生了分散化、自下而上的研究方向与资源分配机制。知情人士透露,研究人员自主制定计划,各自朝不同方向开展独立项目,而非遵循统一的公司战略。据部分人士反映,Meta将硬件资源分散配置给各个项目:某些获得超额配给芯片的研究人员,会将其浪费在非必要任务上以避免资源被回收。
与此同时,Meta在为其数据中心配备AI开发所需的最强大计算机芯片方面行动迟缓。即便公司采购了更多此类芯片,也缺乏有效系统将其分配给工程师和研究人员。知情人士透露,有时数千件昂贵硬件设备闲置未用。
Meta正在进行数据中心全面改造,这可能是造成资源积压的原因之一。据公司博客称,截至五月,Meta最新AI超级计算机已配备16,000块此类芯片。
2020年当大语言模型开始展现惊人能力时,Meta人工智能研究部门内部出现分歧:一方力主公司全力投入这一新方向,另一方(包括LeCun)则认为此类模型只是缺乏科学价值的潮流。知情人士表示,LeCun在内外场合对大语言模型的强烈反对(他认为这些模型无法使AI接近人类智能水平),使得持不同意见的研究人员难以获得此类项目所需的支持和资源。
部分Meta研究人员仍以较少资源持续推进,2022年用约1,000块芯片开发出OPT(开放预训练转换器)大语言模型,2023年用约2,000块芯片打造出旗舰模型LLaMA。相比之下,行业标准需要5,000至10,000块芯片。Meta最初仅允许有限的外部研究人员接触LLaMA,后该模型在网上泄露,意外催生创新浪潮——高管们将此作为Meta共享AI技术目标的典型案例。
过去一年间,Meta已有众多参与这些及其他关键生成式AI项目的研究人员离职,许多人提到职业倦怠或对公司能否跟上竞争对手缺乏信心。根据领英资料和知情人士透露,LLaMA研究论文列出的14位作者中已有6人离职或宣布将离职,OPT论文的19位合著者中也有8人离开。
自去年11月OpenAI发布ChatGPT后,人才流失速度进一步加快。部分人员被AI初创企业热潮吸引,这股风潮已引发硅谷公司(包括谷歌在内)的全面人事变动。领英向《华尔街日报》透露,截至3月,平台上提及GPT的职位发布数量同比增长了79%。
Meta发言人表示公司仍在持续招聘并引入了新的AI人才。
ChatGPT问世后,扎克伯格和考克斯与首席技术官安德鲁·博斯沃思共同监管公司所有AI相关事务。三位高管现在每周投入数小时参与AI会议并审批项目。
新成立的生成式AI团队专注于开发实用产品和工具而非科学研究。该团队收到超过2000份内部申请,并迅速从不同部门抽调了数百人。知情人士称,硬件资源已从AI研究部门调拨,正用于训练新的生成式AI模型。
3月,扎克伯格表示"推进人工智能并将其融入我们所有产品"是公司最大的一笔投资。在5月Meta年度股东大会上,扎克伯格称公司还希望将这项技术拓展至元宇宙领域。
Meta公司位于加州门洛帕克的总部图片来源:David Paul Morris/彭博新闻Meta发言人表示,在本月初与员工的市政厅会议上,扎克伯格宣布了公司正在研发的多款生成式AI产品。这些创新包括为Messenger和WhatsApp打造的AI助手、用户文字指令生成的AI贴纸(可在聊天中分享),以及允许Instagram用户通过文字指令修改照片并分享至Instagram快拍的功能。
扎克伯格还分享了部分仅供内部使用的生成式AI工具,包括名为Metamate的生产力助手,它能从内部资源调取信息执行员工指令。Meta发言人透露,作为试运行的一部分,Metamate近期已向大批员工开放。
“过去一年,我们在生成式AI领域见证了真正惊人的突破——质的飞跃。“扎克伯格在市政厅会议上表示。
知情人士透露,Meta仍面临广泛挑战。在用户隐私实践经受政府与媒体长达七年严格审查后,公司对风险的容忍度持续降低,这导致在AI产品推出方式及时机方面产生诸多摩擦。
过去,Meta在开发和发布大型语言模型时不得不考虑其公众声誉,因为这些模型容易产生错误答案或冒犯性言论。
据知情人士透露,几年前,人工智能研究人员正在开发一款代号为Tamagobot的聊天机器人,该系统基于早期版本的大型语言模型。团队对其表现印象深刻,但认为在公司因2016年总统选举期间允许其平台上错误信息泛滥而面临严厉批评时,发布该产品并不值得。, 其中一位人士表示。
2022年8月Meta发布BlenderBot 3聊天机器人时,公众监督的担忧同样显现。发布后一周内,BlenderBot 3因发表虚假陈述、冒犯性言论和种族主义评论而遭到严厉批评。该系统还称扎克伯格“令人毛骨悚然且操纵性强”。
Meta发言人表示,该项目在研究结束前仍持续运行了一年多,公司在整个生命周期中保持了开放透明的态度。他补充说,Meta还发布并完成了许多其他项目,这些项目证明了公司愿意承担风险。
但2022年11月,当公司发布以科学为重点的大型语言模型Galactica时,类似情况再次上演。由于系统提供错误和带有偏见的答案,遭到科学家们一波批评后,Meta在发布三天内将其关闭。
两周后,OpenAI发布了ChatGPT。
联系Karen Hao,邮箱:[email protected],Salvador Rodriguez,邮箱:[email protected],以及Deepa Seetharaman,邮箱:[email protected]
刊登于2023年6月17日印刷版,标题为《扎克伯格加强对AI工作的掌控》。