博通(AVGO)推出旨在提升英伟达(NVDA)人工智能芯片性能的设备——彭博社
Dina Bass
博通公司计划通过其最新数据中心交换机提升英伟达处理器的运行效率。
摄影师:Annabelle Chih/彭博社博通公司开始出货新一代数据中心交换芯片,该产品可提升人工智能加速器的效率,旨在蓬勃发展的人工智能计算市场中扮演更重要的角色。
博通核心交换事业部高级副总裁兼总经理Ram Velaga表示,公司已于上周末开始向客户交付Tomahawk 6交换芯片,该产品将于七月全面上市。作为网络设备的核心组件,交换机可实现计算机间的互联通信。博通称,单个新款Tomahawk 6可完成六颗前代芯片的工作量。
周二纽约股市,该公司股价上涨3.5%至257.50美元,创历史新高。截至周一收盘,该股年内累计涨幅已达7.3%。
无论是模型开发还是实际运行,当前绝大多数AI计算都依赖英伟达的加速器。这类被称为图形处理器(GPU)的芯片价格昂贵且供应紧张。新产品的设计理念是提升这些组件在联网状态下的运行效率。
随着AI任务日趋复杂、模型规模不断扩大,数据中心运营商和研究机构正将数万甚至数十万颗GPU串联成超级计算机,这些系统需要依靠网络设备在芯片间传输数据。
维拉加表示,这些GPU的利用率通常仅为30%至40%,因为"它们需要等待网络来回传输数据"。借助战斧6芯片,博通预计客户将能利用现有GPU更快完成任务。
维拉加拒绝透露战斧6的首批客户名单,但表示将包括一些大型云服务提供商,以及将博通技术集成到产品中的网络公司。
维拉加指出,新芯片的制造成本是前代产品的两倍多,客户需支付约双倍价格。由于部分买家会协商批量折扣,他未透露具体价格,但表示单颗芯片售价将低于2万美元。
他透露,博通已有客户排队等待使用战斧6芯片来连接超过10万个GPU的系统。维拉加表示,一般而言,每10个GPU大约需要1个交换机。