企业将AI应用于云端之外以削减成本——《华尔街日报》
Angus Loten
企业已开始利用网络、算法和边缘计算技术的进步,在数据中心之外、更接近应用场景的地方运行人工智能工作负载。
人工智能需要巨大的计算能力,这些能力通常由云服务商拥有或运营的大型数据中心设施中成堆的服务器和其他设备提供。
企业技术负责人表示,新兴系统旨在将繁重的工作负载分配到互联计算机网络上,通过将实时数据直接反馈给源头的AI模型,既能降低云成本,又能减少延迟。
“模型训练完成后,可以将其子集部署到新数据生成地附近,“国际数据公司研究副总裁戴夫·麦卡锡说,“这种分布式概念让AI在实际应用时能有效扩展。”
被称为去中心化云或分布式数据中心的共享处理能力网络,通常与物联网和边缘计算相结合——后者使计算机处理尽可能靠近数据源进行。
德国邮政集团旗下敦豪供应链北美业务首席信息官莎莉·米勒表示,该公司正使用去中心化云系统运行AI驱动的计算机视觉应用,使仓库机器人能识别和处理数千件包裹。
米勒表示:“我们还利用去中心化云工具的AI解决方案,为仓库工作人员提供视觉应用和增强现实技术,以协助他们完成订单拣选。”
该公司称,其仓库中有些面积超过160万平方英尺,存放着数百万件包裹,每件都有独特的运输要求。米勒指出,驱动DHL机器人的核心AI软件完全在本地运行,而非依赖外部云服务商来回传输海量数据。
总部位于弗吉尼亚州里士满的埃斯特斯快运公司首席信息官托德·弗洛伦斯表示,他们采用类似系统运行卡车摄像头中的AI视觉软件,可提前预警前方道路危险。“我们不再需要等待数据传送到云端或本地数据中心,“他说,“通过即时提醒驾驶员,整体安全性得到了提升。”
弗洛伦斯透露,公司早期在AI计算机视觉系统的投资依赖集中式云端处理。转向分布式系统的关键因素是降低了AI工具额外数据存储和计算资源的成本,他补充说更显著的改善在于性能提升。
协助开发埃斯特斯车载AI系统的旧金山物联网软件公司Samsara人工智能与业务负责人埃文·韦尔伯恩表示:“传统计算基础设施已无法适应这些企业的运营方式,特别是当他们持续依赖实时数据分析时。”
韦尔伯恩表示,随着数据量持续增长,在边缘端运用人工智能的能力变得至关重要,他列举了交通、建筑、制造业等领域的应用案例。
除了在云端之外运行AI应用,去中心化云开发者目前正在开发新系统,旨在让企业能够训练自己的AI模型——这是一个更耗能的过程。
埃斯蒂斯快线公司正使用去中心化系统在卡车车载摄像头中运行具备AI视觉功能的软件。图片来源:伊莎贝尔·布斯凯特/华尔街日报总部位于旧金山的初创公司Together.ai于5月获得2000万美元种子轮融资,上月推出了一个平台,旨在将用户连接到由高端GPU芯片组成的去中心化网络。该网络使软件开发人员无需连接云端即可训练、微调和运行开源AI模型。该公司表示已有数千家机构开始使用该平台。
伦敦去中心化云初创公司Gensyn联合创始人本·菲尔丁表示,随着更多用户加入网络,计算能力供给会同步增长。他的目标是将全球用户连接成一个巨型共享网络。目前处于预发布阶段的Gensyn于6月获得由硅谷投资公司Andreessen Horowitz领投的4300万美元A轮融资。
“这里存在构建全新模型架构的巨大可能性,“菲尔丁说。
写信给安格斯·洛滕,邮箱:[email protected]
刊登于2023年8月17日印刷版,标题为《企业利用云端外AI技术降低成本》。