芯片战争:中国初创企业拟以新型模型框架打破英伟达在AI领域的主导地位 | 南华早报
Ann Cao
由清华大学相关团队开发的新人工智能(AI)框架据称能降低AI模型推理对英伟达芯片的依赖,这标志着中国在提升技术自给率方面的最新努力。初创企业清乘科技与清华大学计算机系翟季冬教授团队周五联合声明称,大语言模型高性能推理框架"赤兔"可在中国国产芯片上运行,挑战了英伟达Hopper系列GPU在支持深度求索R1等特定模型时的主导地位。AI框架是构建复杂智能AI模型的基础组件,提供了一系列库和工具,使开发者能高效设计、训练和验证复杂模型。
该公司表示,自周五起开源的赤兔框架支持深度求索、Meta的Llama系列等主流模型。
测试显示,在使用英伟达A800 GPU运行完整版深度求索R1时,该框架相较国外开源框架实现了315%的模型推理速度提升,同时降低50%的GPU占用率。
05:00
中国低成本DeepSeek的问世是否意味着英伟达芯片霸主地位的终结?
中国低成本DeepSeek的问世是否意味着英伟达芯片霸主地位的终结?
此举是中国人工智能企业为减少对英伟达依赖所采取的更广泛努力的一部分。英伟达的高性能GPU受美国出口管制影响,其先进的Hopper系列H100和H800芯片被华盛顿禁止向中国客户销售。