勇夺全球AI基准测试18项冠军，中国厂商为何能霸榜？_风闻

曾经很长一段时间里，业界都在谈论是否有必要设立AI基准测试。如今看来，随着人工智能对于算力的强烈渴求，如何发挥AI最大潜能、赋能数字化转型正成为全行业最大挑战，以 MLPerf™ 为代表的AI基准测试的价值则愈发凸显，在推动AI软硬件发展、AI系统落地等方面发挥着重要作用。

近日，在最新的2021 MLperf™ AI基准评测里，英伟达、浪潮、英特尔、高通、阿里巴巴等17家业界顶尖厂商在42个赛道参与角逐，竞争极为激烈，最终结果却呈现出一边倒的情况： 浪潮获得18项性能第一， 英伟达获得10项性能第一，两家厂商占据了70%的冠军榜单，浪潮更是创造了中国公司在 MLPerf™ 基准测试中最佳成绩。

有人说，计算产业正在加速从计算跃迁智算，从此次MLperf™ AI基准评测中，我们不仅看到了人工智能算力快速发展的一角，更读懂了智算时代的未来。

MLPerf™测试为何愈发重要

毫无疑问，人工智能进入到比拼算力的时代。专家直言，近年来人工智能对于算力的强烈渴求正在加速形成新摩尔定律，即在数据爆炸性增长和模型日趋复杂的驱动下，人工智能系统所需算力每3.43个月翻一倍。

例如，去年，OpenAI发布的超大模型GPT-3以1750亿个模型参数、45TB预训练数据、最大96层数惊艳了世界。与上一代模型相比，GPT-3模型在各方面迎来了指数级的变化，对于算力的需求也呈现出指数级的增长。

与传统服务器成熟的SPC等测试体系相比，AI基准测试处于起步阶段，却在帮助AI开发者了解AI系统、开发AI系统产品、推动市场良性竞争和AI应用落地方面发挥着重要作用，这也是 MLPerf™ AI基准测试近年来受到广受业界关注的核心原因。

MLPerf™ AI基准测试大有来头，由图灵奖得主David  Patterson联合斯坦福、哈佛大学等顶尖学术机构发起成立，近年来已经有英特尔、英伟达、谷歌、亚马逊、阿里巴巴、微软、百度、浪潮等70多个知名企业和机构积极参与，成为全球权威性最大、影响力最广的AI性能基准测试。

某种程度而言，MLPerf™在以可复制的、公平可靠的基准测量方法推动机器学习行业和研究的发展，促进AI系统之间的良性竞争与长远发展。例如，最新MLPerf™ Inference V1.0基准，涵盖了图像分类、目标检测、医疗图像分割、自然语言处理、语音转文字和推荐系统6类AI应用场景，分为数据中心和边缘两类处理场景，每类场景都包含固定任务(Closed)和开放优化(Open)两类性能竞赛，对于AI系统在行业中的落地极富参考价值。

可以说，以浪潮为代表的中国厂商在此次MLPerf™ AI基准测试取得的成绩极富含金量，标志着中国厂商在AI算力的创新探索和系统产品落地方面走在了业界最前沿。

厚积薄发，18项冠军的背后

在本次MLPerf™ AI基准测试中，浪潮NF 5488A5服务器和浪潮NE5260边缘服务器，分别斩获数据中心场景11项冠军和边缘场景7项冠军。

具体来看，在数据中心固定任务竞赛中，一共有13家厂商提交了584项竞赛成绩，竞争极为激烈，浪潮NF5488A5在其中全部16条赛道中斩获11项冠军，在全部21项基准测试中，浪潮同样以11项获得第一。

值得关注的是，NF5488A5属于再次卫冕“性能王”。作为业界率先实现500W 80GB A100GPU的液冷散热AI服务器，NF5488A5在系统拓扑上采用了超低延迟设计，并通过深度优化系统结构设计，实现在高温、高负载环境中稳定运行，将2020年MLPerf™ DLRM的最高推理性能提升了23.4%，同比2019年MLPerf™ Resnet50的单机最高推理性能提升326%。

而在边缘场景固定任务赛道中，一共有11家厂商提交326项竞赛成绩，竞争同样异常激烈，浪潮NE5260首次亮相就一战成名，斩获7项目冠军，在边缘场景21项基准测试中，同样获得7项第一。

浪潮NE5260 采用专门针对边缘计算出行家的设计，完美兼容CPU和GPU、FPGA等多种异构加速器，在追求边缘场景极致AI性能的同时，打破物理空间限制，最大限度提升边缘计算场景的部署体验。

此外，参与评测的NF5488 M6也收获了同等配置迹象9项最好成绩，居同类服务器性能帮助。

事实上，浪潮此次在MLPerf™ AI基准测试取得如此出色的成绩，并不是为了打榜成绩而做的“一蹴而就”行为，背后是其对于AI算力趋势洞察、战略布局、创新投入等长期积累的结果。

早在2016年AlphGo给世界一大彩蛋、AI计算方兴未艾之际，浪潮就敏锐洞察到新型计算类型--智慧计算，认为随着AI技术的迅猛发展，物理世界数字化、数字世界智能化进程进一步加速，智慧计算也开始崛起。

为此，浪潮在2016年首次提出了“智慧计算”战略，明确智慧计算的框架：以云计算为平台、以大数据为认知方法，以深度学习为优化工具，三者相互促进、相互融合、共同发展，衍生出一种新的计算类型为智慧计算。

此后，浪潮围绕“智慧计算”战略，不仅陆续提出“计算力就是生产力”、“人工智能是智慧计算的核心”、“智算中心”等先进理念，还在AI产品创新和生态建设上也不遗余力，成为业界拥有最为广泛和极富竞争力AI产品线的厂商，并且连续多年位列全球AI服务器市场第一。

“冰冻三尺非一日之寒”。浪潮斩获MLPerf™ 18项冠军，看似是一次打榜的偶然，恰恰是浪潮智慧计算战略长期执行的必然。

从MLPerf™读懂智算的未来

从MLPerf™最新榜单很难不让人想到刚刚结束的浪潮IPF 2021大会。

随着智慧场景在各个行业遍地开花，从计算到智算的变革正在加速，计算产业迎来新的格局，多元算力融合将成为关键，算力供给基建化将成为社会创新的支撑。为此，浪潮集团首席科学家王恩东院士在本次IPF大会上直指三大艰巨挑战：计算场景复杂多元，训练模型巨大与应用规模海量，产业链脱节与生态离散，需要在架构、产品、生态进行全面创新，来应对智算多元化、巨量化和生态挑战。

此时的浪潮，已经不仅仅着眼于某些产品的创新，而是在积极构建云脑生态，联合技术开放组织、部件上游厂商、模型数据伙伴等左手合作伙伴，以及智慧应用伙伴、行业方案伙伴、平台供应商等右手合作伙伴，共同推动智算产品、技术的落地与应用。

可以说，浪潮此次在MLPerf™霸榜，不仅是其长期致力于AI产品创新的成果，更是从计算到智算的产业跃迁中，新模式、新技术、新生态的结晶。

面对未来，随着多元算力需求的不断提升，计算产业真正进入到创新大周期，无论是体系结构还是产品形态，都将迎来百花齐放的时代，联合生态力量来加速AI在行业场景中的落地将成为必然之路。也正因为如此，浪潮坚持多年的智慧计算战略才显得极富前瞻性和弥足珍贵。

相信在未来，在计算产业新模式、新生态的加持下，浪潮在AI算力上必定能不断突破，再攀高峰。