博通(AVGO)芯片通过连接小型数据中心助力AI发展 - 彭博社
Dina Bass
博通公司推出其Jericho网络芯片的更快版本。
摄影师:David Paul Morris/彭博社人工智能数据中心规模日益扩大的时代给云计算公司留下了一个问题:如何处理那些较旧、较小的设施?
博通公司提供了一个可能的答案,至少对于那些位置相近的运营设施来说是这样。该公司周一宣布的新版Jericho网络芯片能以更高的速度传输更大容量的数据。博通核心交换事业部高级副总裁兼总经理Ram Velaga表示,这意味着客户可以将多个小型数据中心连接起来,创建一个用于开发或运行人工智能模型的大型系统。
博通表示,Jericho4产品能够连接多个数据中心的一百多万个处理器,处理的信息量约为上一版本的四倍。
博通一直受益于可用于构建人工智能系统的设备需求。其网络组件(如路由器和交换机)在用于创建人工智能模型的高价芯片——图形处理器(GPU)之间引导流量。
虽然博通的一些设备用于在同一机架或数据中心建筑内部移动数据,但也有需要跨建筑甚至更远距离工作的组件。此外,Velaga表示,大型GPU集群的功耗变得太大,无法将它们全部放在同一位置。
“当他们尝试部署20万甚至10万个GPU集群时,很快就会达到300兆瓦的能耗,而如今没有任何实体建筑能提供如此高的电力容量。”维拉加表示。他指出,杰里科系列芯片将助力解决这一问题。
企业也正试图将数据中心容量向客户所在地靠拢,以加速用户获取AI模型响应。维拉加称,这意味着云服务和AI企业需要利用位于拥挤都市区的数据中心,在这些区域连接多个小型设备可能更为可行。
维拉加介绍,博通的战斧系列可实现数据中心内部机架连接,但传输距离通常不超过一公里(0.6英里)。而杰里科设备能处理超过100公里的远距离连接。
维拉加透露,杰里科4芯片将于周一开始向云服务商和网络设备制造商等早期客户发货,这些客户会将其集成至自身产品中。全面部署预计需要约九个月时间。