曾经很长一段时间里,业界都在谈论是否有必要设立AI基准测试。如今看来,随着人工智能对于算力的强烈渴求,如何发挥AI最大潜能、赋能数字化转型正成为全行业最大挑战,以 MLPerf? 为代表的AI基准测试的价值则愈发凸显,在推动AI软硬件发展、AI系统落地等方面发挥着重要作用。

近日,在最新的2021 MLperf? AI基准评测里,英伟达、浪潮、英特尔、高通、阿里巴巴等17家业界顶尖厂商在42个赛道参与角逐,竞争极为激烈,最终结果却呈现出一边倒的情况: 浪潮获得18项性能第一, 英伟达获得10项性能第一,两家厂商占据了70%的冠军榜单,浪潮更是创造了中国公司在 MLPerf? 基准测试中最佳成绩。

有人说,计算产业正在加速从计算跃迁智算,从此次MLperf? AI基准评测中,我们不仅看到了人工智能算力快速发展的一角,更读懂了智算时代的未来。

MLPerf?测试为何愈发重要

毫无疑问,人工智能进入到比拼算力的时代。专家直言,近年来人工智能对于算力的强烈渴求正在加速形成新摩尔定律,即在数据爆炸性增长和模型日趋复杂的驱动下,人工智能系统所需算力每3．43个月翻一倍。

例如,去年,OpenAI发布的超大模型GPT-3以1750亿个模型参数、45TB预训练数据、最大96层数惊艳了世界。与上一代模型相比,GPT-3模型在各方面迎来了指数级的变化,对于算力的需求也呈现出指数级的增长。

与传统服务器成熟的SPC等测试体系相比,AI基准测试处于起步阶段,却在帮助AI开发者了解AI系统、开发AI系统产品、推动市场良性竞争和AI应用落地方面发挥着重要作用,这也是 MLPerf? AI基准测试近年来受到广受业界关注的核心原因。

MLPerf? AI基准测试大有来头,由图灵奖得主David ?Patterson联合斯坦福、哈佛大学等顶尖学术机构发起成立,近年来已经有英特尔、英伟达、谷歌、亚马逊、阿里巴巴、微软、百度、浪潮等70多个知名企业和机构积极参与,成为全球权威性最大、影响力最广的AI性能基准测试。

某种程度而言,MLPerf?在以可复制的、公平可靠的基准测量方法推动机器学习行业和研究的发展,促进AI系统之间的良性竞争与长远发展。例如,最新MLPerf? Inference V1．0基准,涵盖了图像分类、目标检测、医疗图像分割、自然语言处理、语音转文字和推荐系统6类AI应用场景,分为数据中心和边缘两类处理场景,每类场景都包含固定任务(Closed)和开放优化(Open)两类性能竞赛,对于AI系统在行业中的落地极富参考价值。

可以说,以浪潮为代表的中国厂商在此次MLPerf? AI基准测试取得的成绩极富含金量,标志着中国厂商在AI算力的创新探索和系统产品落地方面走在了业界最前沿。

厚积薄发,18项冠军的背后

在本次MLPerf? AI基准测试中,浪潮NF 5488A5服务器和浪潮NE5260边缘服务器,分别斩获数据中心场景11项冠军和边缘场景7项冠军。

具体来看,在数据中心固定任务竞赛中,一共有13家厂商提交了584项竞赛成绩,竞争极为激烈,浪潮NF5488A5在其中全部16条赛道中斩获11项冠军,在全部21项基准测试中,浪潮同样以11项获得第一。

值得关注的是,NF5488A5属于再次卫冕“性能王”。作为业界率先实现500W 80GB A100GPU的液冷散热AI服务器,NF5488A5在系统拓扑上采用了超低延迟设计,并通过深度优化系统结构设计,实现在高温、高负载环境中稳定运行,将2020年MLPerf? DLRM的最高推理性能提升了23．4%,同比2019年MLPerf? Resnet50的单机最高推理性能提升326%。

浪潮NF5488A5卫冕“性能王”

而在边缘场景固定任务赛道中,一共有11家厂商提交326项竞赛成绩,竞争同样异常激烈,浪潮NE5260首次亮相就一战成名,斩获7项目冠军,在边缘场景21项基准测试中,同样获得7项第一。

浪潮NE5260 采用专门针对边缘计算出行家的设计,完美兼容CPU和GPU、FPGA等多种异构加速器,在追求边缘场景极致AI性能的同时,打破物理空间限制,最大限度提升边缘计算场景的部署体验。

此外,参与评测的NF5488 M6也收获了同等配置迹象9项最好成绩,居同类服务器性能帮助。

事实上,浪潮此次在MLPerf? AI基准测试取得如此出色的成绩,并不是为了打榜成绩而做的“一蹴而就”行为,背后是其对于AI算力趋势洞察、战略布局、创新投入等长期积累的结果。

早在2016年AlphGo给世界一大彩蛋、AI计算方兴未艾之际,浪潮就敏锐洞察到新型计算类型--智慧计算,认为随着AI技术的迅猛发展,物理世界数字化、数字世界智能化进程进一步加速,智慧计算也开始崛起。

为此,浪潮在2016年首次提出了“智慧计算”战略,明确智慧计算的框架:以云计算为平台、以大数据为认知方法,以深度学习为优化工具,三者相互促进、相互融合、共同发展,衍生出一种新的计算类型为智慧计算。

此后,浪潮围绕“智慧计算”战略,不仅陆续提出“计算力就是生产力”、“人工智能是智慧计算的核心”、“智算中心”等先进理念,还在AI产品创新和生态建设上也不遗余力,成为业界拥有最为广泛和极富竞争力AI产品线的厂商,并且连续多年位列全球AI服务器市场第一。

“冰冻三尺非一日之寒”。浪潮斩获MLPerf? 18项冠军,看似是一次打榜的偶然,恰恰是浪潮智慧计算战略长期执行的必然。

从MLPerf?读懂智算的未来

从MLPerf?最新榜单很难不让人想到刚刚结束的浪潮IPF 2021大会。

随着智慧场景在各个行业遍地开花,从计算到智算的变革正在加速,计算产业迎来新的格局,多元算力融合将成为关键,算力供给基建化将成为社会创新的支撑。为此,浪潮集团首席科学家王恩东院士在本次IPF大会上直指三大艰巨挑战:计算场景复杂多元,训练模型巨大与应用规模海量,产业链脱节与生态离散,需要在架构、产品、生态进行全面创新,来应对智算多元化、巨量化和生态挑战。

此时的浪潮,已经不仅仅着眼于某些产品的创新,而是在积极构建云脑生态,联合技术开放组织、部件上游厂商、模型数据伙伴等左手合作伙伴,以及智慧应用伙伴、行业方案伙伴、平台供应商等右手合作伙伴,共同推动智算产品、技术的落地与应用。

可以说,浪潮此次在MLPerf?霸榜,不仅是其长期致力于AI产品创新的成果,更是从计算到智算的产业跃迁中,新模式、新技术、新生态的结晶。

面对未来,随着多元算力需求的不断提升,计算产业真正进入到创新大周期,无论是体系结构还是产品形态,都将迎来百花齐放的时代,联合生态力量来加速AI在行业场景中的落地将成为必然之路。也正因为如此,浪潮坚持多年的智慧计算战略才显得极富前瞻性和弥足珍贵。

相信在未来,在计算产业新模式、新生态的加持下,浪潮在AI算力上必定能不断突破,再攀高峰。