OpenAI和博通(AVGO)正在合作开发专注于推理的人工智能芯片 - 彭博社
Edward Ludlow, Rachel Metz, Ian King
OpenAI 正在与 博通公司 合作开发一种新的人工智能芯片,专门用于在训练后运行AI模型,消息来源于两位熟悉此事的人士。
这家AI初创公司和芯片制造商还在咨询全球最大的芯片代工厂——台湾半导体制造公司,消息人士表示,他们要求匿名,因为讨论是私密的。OpenAI已经计划定制芯片,并在大约一年的时间里致力于这种技术的应用,但讨论仍处于早期阶段。
OpenAI拒绝置评。博通和台积电的代表没有回应。路透社周二报道了OpenAI与博通和台积电的持续谈判。 《信息》在六月报道 博通曾讨论为OpenAI制造AI芯片。
将芯片从设计转向生产的过程漫长且昂贵。OpenAI对图形处理单元的关注较少,这些芯片用于训练和构建生成性AI模型——这一市场已被 Nvidia公司 占据。相反,它正在寻找一种专用芯片,用于运行软件并响应用户请求,这一过程称为推理。投资者和分析师预计,随着更多科技公司使用AI模型来处理更复杂的任务,对支持推理的芯片的需求只会增加。
OpenAI可能会继续研究建立自己的铸造厂或芯片工厂,一位知情人士表示,但该初创公司意识到,与合作伙伴共同开发定制芯片是目前更快、更可实现的路径。路透社早些时候报道,OpenAI正在撤回建立自己芯片制造能力的努力。
博通的股票在周二纽约交易中上涨了4.2%,收于179.24美元。即使在最新的涨幅之前,今年它们已经上涨了54%。台积电在美国交易的股票也上涨了超过1%。
博通是应用特定集成电路的最大设计商——这些芯片是为客户指定的单一目的而设计的。该公司在这一领域最大的客户是字母表公司的谷歌。博通还与Meta Platforms Inc.和TikTok的拥有者字节跳动有限公司合作。
当被问及上个月是否有新客户时,考虑到对AI训练的巨大需求,博通首席执行官霍克·谭表示,只有在项目达到大规模出货时,他才会增加客户名单。
“对任何客户来说,这不是一个容易部署的产品,因此我们不认为概念验证算作生产量,”他在一次财报电话会议中说道。
OpenAI的服务需要大量的计算能力来开发和运行——其中大部分来自Nvidia的芯片。为了满足需求,行业一直在努力寻找Nvidia的替代品。这包括采用超微半导体公司的处理器和开发内部版本。
OpenAI 还在积极计划对数据中心的投资和合作,这些数据中心最终将成为 AI 芯片的家园。这家初创公司的领导层已经 向 美国政府提出了对更多大型数据中心的需求,首席执行官萨姆·阿尔特曼 也向 全球投资者,包括一些中东地区的投资者,寻求资金支持这一努力。
“这绝对是一个挑战,” OpenAI 首席财务官萨拉·弗赖尔周一在彭博电视上表示。“从资本的角度来看是一个挑战,但也是我个人的学习。坦率地说,我们都在这个领域学习:基础设施就是命运。”