AI热潮依赖芯片支撑,但供应却捉襟见肘——《华尔街日报》
Deepa Seetharaman and Tom Dotan
谷歌首席执行官将人工智能革命比作人类对火的驯服。现在只差行业能否获取数字"引火柴"来助燃这场革命。
作为新型生成式AI系统命脉的先进芯片短缺,已引发了一场争夺算力资源和寻找替代方案的竞赛。用于AI的图形处理器(GPU)几乎全部由英伟达生产。但随着ChatGPT病毒式成功——这款能以类人方式回答问题的聊天机器人——其需求激增速度远超供应能力。
“由于资源短缺,现在拼的是人脉关系,“帮助公司构建聊天机器人等AI模型的初创公司Lamini联合创始人兼CEO周莎伦表示,“这就像疫情期间抢购卫生纸一样。”
这种情况限制了亚马逊、微软等云服务商向ChatGPT母公司OpenAI这类客户提供的算力。AI开发者需要服务器容量来开发运行其日益复杂的模型,并帮助其他公司构建AI服务。
即便是全球人脉最广的科技企业家也在艰难获取算力。在5月16日国会AI听证会上,OpenAI首席执行官萨姆·奥尔特曼表示,由于处理器瓶颈,更少人使用ChatGPT或许是件好事。
“目前GPU比毒品还难搞到,”埃隆·马斯克在5月23日的《华尔街日报》CEO理事会峰会上表示。
不过作为马斯克确实有特权。知情人士透露,今年早些时候,当初创公司争抢甲骨文云计算资源时,突然被告知有位买家已抢购了该公司大部分闲置服务器容量——这些初创公司后来得知,买家正是正在打造OpenAI竞品X.AI的马斯克。
对于训练能生成原创文本和分析内容的大型AI模型的企业而言,获取数万块先进显卡芯片至关重要。初创公司创始人表示,若没有这些芯片,支撑AI运行的大语言模型研发进度将大幅延缓。英伟达高端显卡芯片擅长并行海量运算,这对AI工作至关重要。
瑞银分析师估算,早期版本的ChatGPT需要约1万块显卡芯片。马斯克预估新版模型需要英伟达高端处理器的数量是此前的3至5倍。
特斯拉、SpaceX和推特老板埃隆·马斯克与《华尔街日报》的托罗德·巴克探讨科技话题。图片来源:John Scrivener/WSJ英伟达近期表示正扩大供应以满足激增需求。首席执行官黄仁勋周日称已加速生产新一代旗舰级生成式AI芯片H100。“全球每个角落都在疯狂抢购,“他在台湾某展会上宣布一系列AI新计划时说道。
对英伟达产品的需求已推动该公司股价上涨约167%。芯片成本各异,但英伟达先进AI芯片的零售价约为3.3万美元,在旺盛需求下二级市场价格可能更高。
部分投资者正在网络中搜寻闲置算力,另一些则协调处理器和服务器容量的批量采购,供其AI初创公司共享。据AI投资者和初创企业透露,为提升效率,初创公司正精简AI模型,购置搭载相关显卡的实体服务器,或转用甲骨文等小众云服务商,直至短缺缓解。
其他创始人则直接向亚马逊和微软的销售员乞求更多算力。
周女士(与英伟达前工程师共同创立Lamini)表示公司已获得所需芯片。她和《华尔街日报》采访的多位创始人均拒绝透露具体获取方式。
“行业对GPU需求强劲,“OpenAI发言人表示,并称公司致力于保障客户所需算力。
甲骨文和马斯克未回应置评请求。微软和亚马逊拒绝评论。
许多AI创始人预计短缺将持续至明年。
部分企业因担心后续无法获取而锁定云容量。“即便当前不需要,人们仍在持续付费,“Arthur公司CEO亚当·温切尔表示,该公司开发工具帮助企业防范数据泄露等AI风险。
创始人和投资者表示,能够获得计算能力的公司仍需等待数周才能使用。“即使你已经预付了费用,也不意味着GPU会在第二天或下周到位,“开发AI驱动对话搜索工具的Perplexity AI首席执行官Arav因德·斯里尼瓦斯说,“你只能等待。”
服务器制造商及其直接客户表示,他们需要等待超过六个月才能获得英伟达的最新图形芯片。最大服务器制造商之一超微公司的首席执行官表示,配备图形芯片的系统的积压订单达到历史最高水平,公司正在紧急增加产能。
这一切为这些先进芯片创造了一个二级市场,部分涉及在繁荣时期购买芯片进行挖矿的大型加密公司,而如今数字货币市场低迷,它们不再需要这些芯片。
人工智能研究公司Generally Intelligent的首席执行官邱侃君自去年开始为自己的服务器购买先进的图形芯片,使她能够度过当前的短缺。一位风险投资家最近发消息问她是否有闲置容量可以租给其他初创公司。邱尚未决定是否出让她的芯片。
与此同时,OpenAI的阿尔特曼和其他员工一直在处理在其平台上构建AI服务的公司的投诉。
为医生开发AI助手的Nabla首席执行官兼创始人亚历克斯·勒布伦表示,OpenAI的软件可能需要长达两分钟才能响应查询。Nabla使用AI自动生成笔记、转诊信和临床建议,其客户期望这些笔记能够即时生成。
作为一种变通方案,Nabla构建了一些更简单的模型以更快生成材料的初稿,Lebrun表示,然后依赖最新版本的ChatGPT进行最终调整。“优秀的初创公司是那些学会如何绕过所有这些限制的公司,“Lebrun说,并补充说他已直接向Altman提出了这些问题。
Altman和其他OpenAI代表已告诉创始人,公司正与其最大投资者和数据中心提供商微软合作解决这个问题。
—Asa Fitch对本文有贡献。
联系Deepa Seetharaman,邮箱:[email protected],联系Tom Dotan,邮箱:[email protected]
刊登于2023年5月30日印刷版,标题为’AI热潮所需芯片供不应求’。