印度初创企业Ziroh Labs发布无需高端芯片即可运行AI的系统——彭博社

注册*《印度版》时事通讯**，由梅纳卡·多希为您带来——一份关于新兴经济强国的内幕指南，以及推动其崛起的亿万富翁和企业，每周送达。*

在印度运营的人工智能初创公司Ziroh Labs与该国顶尖技术学院的研究人员合作，设计了一套经济实惠的系统，据称无需依赖英伟达公司等提供的高端计算芯片，即可运行大型AI模型。

该公司的框架名为Kompact AI，是与印度理工学院马德拉斯分校联合开发的。Ziroh Labs表示，该平台能让AI在日常计算设备的中央处理器（CPU）上运行，而非依赖当前人工智能热潮中昂贵且抢手的图形处理器（GPU）。

随着中国深度求索公司以远低于美国同行的成本开发出具有竞争力的AI模型并取得现象级成功后，越来越多的AI开发者开始宣扬效率提升，声称能在减少芯片使用量的情况下实现相同效果。Ziroh Labs的方法主要聚焦于推理过程，即AI系统训练完成后的实际运行阶段。

Ziroh Labs表示能优化主流AI模型在个人电脑上的运行。在本周的演示活动中，研究团队展示了其产品在搭载市售英特尔至强处理器的笔记本电脑上运行，并成功调用Meta Platforms Inc.的Llama 2和阿里巴巴集团的通义千问2.5等模型。

其他科技公司也已采用CPU来处理部分推理工作负载。Ziroh Labs表示，其方法能带来高质量成果。这家初创公司称，其技术已通过美国芯片制造商英特尔公司和超威半导体公司的测试验证。

“未来几年这将对市场产生非常深远的影响，“Sun Microsystems前首席战略官、该初创公司技术顾问William Raduchel在线上活动中表示。

与其他国家一样，印度开发者一直难以负担并获取顶级英伟达芯片来构建和支持AI产品。GPU短缺可能阻碍当地AI研究和部署的速度与规模。

“AI鸿沟的存在，是因为只有那些拥有高端昂贵GPU资源的人才能访问、开发和部署强大AI，“印度马德拉斯理工学院主任V. Kamakoti表示，“我们正在证明，杀鸡焉用宰牛刀。”