英伟达首席执行官表示,节能光学芯片技术需要等待更广泛的应用 | 路透社
Stephen Nellis
英伟达首席执行官黄仁勋在美国加利福尼亚州圣荷西的SAP中心为英伟达GPU技术大会(GTC)发表主题演讲,时间为2025年3月18日。路透社/布列塔尼·霍赛-斯莫尔/档案照片加利福尼亚州圣荷西,3月18日(路透社)- 一种旨在减少能耗的新型芯片技术尚未足够可靠,无法用于英伟达的旗舰图形处理单元(GPU),英伟达首席执行官黄仁勋周二表示。
这种新兴技术被称为共封装光学,利用激光光束通过光纤电缆在芯片之间传输信息,使连接速度更快,能效优于传统的铜缆。
技术汇总通讯将最新的新闻和趋势直接送到您的邮箱。注册这里。
在周二于加利福尼亚州圣荷西的一个满座冰球场上,黄仁勋在英伟达的(NVDA.O)年度开发者大会上发表主题演讲,表示他的公司将在两款新的网络芯片中使用共封装光学技术,这些芯片位于其服务器顶部的交换机中,并称该技术将使这些芯片的能效比其前身提高三倍半。这些交换机芯片将在今年晚些时候和2026年推出,这是推动该技术向前发展的一个小但重要的步骤。
但是黄在演讲后告诉一群记者,尽管Nvidia正在考虑在其旗舰GPU芯片中更广泛地使用它,但目前没有这样的计划,因为传统的铜连接比今天的共封装光连接“可靠几个数量级”。
黄说:“直接在GPU之间使用光连接是不值得的。我们一直在玩这个方程式。铜要好得多。”
黄表示,他专注于提供一个可靠的产品路线图,以便Nvidia的客户,如 OpenAI 和Oracle (ORCL.N) ,可以为之做好准备。黄说:“在几年内,数千亿美元的AI基础设施将会建立,因此你已经获得了预算批准。你获得了电力批准。你获得了土地建设。”他说:“你现在愿意扩大到数千亿美元吗?”
硅谷的企业家和投资者对光学技术寄予厚望,他们认为这将是构建越来越大计算机以支持AI系统的核心,黄在周二表示,即使在像DeepSeek这样的公司取得进展之后,这仍然是 必要的,因为AI系统需要更多的计算能力来思考它们的答案。初创公司如 Ayar Labs, Lightmatter和Celestial AI已经筹集了数亿美元的风险投资——其中一些来自Nvidia本身——试图将共同封装的光学连接直接放置在AI芯片上。Lightmatter和Celestial AI都瞄准了公开上市。铜连接便宜且快速,但最多只能传输几米的数据。虽然这看起来微不足道,但在过去五年中,它对Nvidia的产品线产生了巨大影响。
Nvidia目前的旗舰产品在单个服务器中包含72个芯片,消耗120千瓦的电力,并产生如此多的热量,以至于需要类似于汽车发动机的液体冷却系统。周二发布的旗舰服务器将在2027年发布,将数百个Vera Rubin Ultra芯片打包到一个机架中,并将消耗600千瓦的电力。
在两年内将超过两倍的芯片塞入相同的空间,将需要Nvidia及其合作伙伴进行巨大的工程壮举。这些壮举的驱动力在于,AI计算工作需要在芯片之间来回移动大量数据,而Nvidia试图将尽可能多的芯片保持在铜连接相对较短的范围内。
Ayar Labs的首席执行官Mark Wade表示,该公司已获得Nvidia的风险投资,芯片行业仍在探索如何以更低的成本和更高的可靠性制造共同封装的光学产品。Wade表示,虽然这一过渡可能要到2028年或更晚才会到来,但如果芯片行业想要继续构建越来越大的服务器,就别无选择,只能放弃铜。
“只需看看电连接机架上的电力消耗是如何不断上升的,”韦德在英伟达会议的间隙接受路透社采访时说道。“光学是唯一能让你摆脱这种困境的技术。”
- 建议主题:
- 技术