MLperf 30项性能第一！宁畅X640 AI服务器拆机首测

无论是云计算、大数据，亦或是近两年兴起的人工智能，新一轮技术的发展均离不开算力作为支撑。以服务器为例，业务的发展对算力和IO读写能力都有着不小的要求，尤其是在深度学习和神经网络等领域，更对服务器提出了新的要求。

顺应AI时代需求，宁畅信息产业（北京）有限公司（以下简称“宁畅”）推出的X640 G30服务器，便是一款兼备训练与推理功能型的全能型GPU服务器。这款服务器采用双路英特尔至强可扩展处理器，支持多达8个训练GPU或16个推理GPU，专为高密度GPU计算提供全方位性能支持。还支持多种不同的GPU拓补结构，针对不同的应用和模型进行GPU互联优化，实现最高效的计算平台。

值得一提的是，不久之前，搭载NVIDIA T4/A100 GPU显卡的宁畅X640 G30在AI基准性能评测平台MLPerf的ResNet、BERT、DLRM等基准测试中取得30项世界第一的成绩。（注：MLPerf是用于衡量AI、边缘计算等设备性能的基准测试平台，由云服务厂商、OEM厂商、大学、软件公司等超14个组织、50余家知名IT企业共同驱动。该基准测试包括可代表生产级别的测试用例，测试结果在行业内具有较高权威性。）

而小编也是对宁畅这款X640 G30 AI服务器进行了一次深入测评，下面让我们看看其“内功”如何。X640 G30 AI服务器采用了4U机架式机箱，整体采用银白色设计，高、宽、深“三围”为175.5mm X 482mm X 793mm。从整体上来看，不论做工、还是用料、细节，均彰显出大厂品质，宁畅这家新创公司的家底看来很厚实。

宁畅X640 G30 AI服务器前面板为黑色系，电源键及宁畅logo位于前面板右上角，电源键下方是ID按键，前面板左上角则是两个USB 3.0接口和VGA接口。前面版的丰富接口，充分考虑了运维人员的工作场景，十分便捷，加分！

将视线转移到机器背面板，可以很明显地看到大部分后面板都是密集的散热通道，4个电源接口，1个RJ-45管理端口，2个USB 3.0接口，两个LAN口和1个串口分布在下方。本次送测的服务器在实际评测过程中使用了1600W的电源，据官方介绍，宁畅X640 G30 AI服务器可选1600W或2000W CRPS高效白金电源，可选3+1冗余或者2+2冗余，电压范围100-240Vac，多种组合的冗余电源设计，充分考虑了不同配置AI服务器的负载情况，保障稳定性。

宁畅X640 G30 AI服务器的接口组成很丰富。网络方面，宁畅X640 G30 AI板载集成千兆双口RJ45，可选万兆双口RJ45、25G双口光纤，万兆双口等多种网络接口，这样丰富的网口组合，保证了“道路”通常，让服务器性能可以全面发挥。

宁畅X640 G30 打开各个管理模块的方式十分便捷，还有图注。打开上部面板，首先看下总体做工，处理器、电源、风扇、GPU等各模块简洁明朗，同时线路收于一起，丝毫不显拖拉，设计、制造很到位。

在风扇模块上，宁畅X640 G30 AI服务器采用了4个热插拔风扇模组，支持N+1冗余。

值得一提的是，除了支持传统风冷模组，宁畅X640 G30还支持“一体闭式循环液冷散热器”以及“分体式开环冷板液冷散热器”方案，不论多“猛”的GPU、CPU都可以镇住。

但目前小编手上的机器，风冷应该已足够了，小编暂时还未拿到装有液冷模块的机型，只能向厂家要张设计图，解解馋。

小编手上的这台X640 G30，最吸引我的还是这8块NVIDIA Tesla T4。（8GPU卡交火的梦，这次算是圆了。）

接下来就是最振奋人心的环节，小编将通过一系列测试软件来了解这款服务器的硬实力。

初次开机时，可以轻松进入BIOS界面为服务器安装操作系统。

宁畅X640 G30 支持Microsoft Windows Server、Red Hat Enterprise Linux、SUSE Linux Enterprise Server、Ubuntu等多种操作系统，本次评测的环境为Windows Server 2019。

首先借助CPU-Z查看一下CPU基本信息。

送评的宁畅X640 G30 AI服务器搭载的是两块Intel 至强金牌5220 CPU，14nm制程，主频2.2GHz，单个CPU 18核心36线程。使用CPU-Z测试，单核得分321.2分，多核得分7844.9分。

然后通过CineBench R20测试CPU性能，这也是一款饱受认可的跑分软件。

可以看到，宁畅X640 G30 AI服务器在模拟测试中，跑出单核268cb，多核10930cb的得分，多核分数十分恐怖。

接下来的测试项目是利用SiSoftware Sandra Lite 2020对宁畅X64 G30 AI服务器的算数、多媒体、加密、内存带宽/延时等进行全方位测试。

可以看到，在算数性能、多媒体性能、内存延时、内存带宽以及缓存及内存测试方面，宁畅X640 G30 AI服务器的成绩都可圈可点，位于行业前列。

接下来则是本次测试的重头戏：宁畅X640 G30 AI服务器的GPU性能。

首先让我们看看宁畅X64 G30 AI服务器搭载的NVIDIA Tesla T4 GPU的基本信息。

小编在这里也贴出T4与其他Tesla GPU的数据对比，以及搭载T4 GPU 的X640 G30在MLperf平台跑分结果，读者可以查看了解相关信息。

各种模型测试结果太多，小编这里就不逐一贴出了。关于宁畅X640 G30 AI服务器的GPU配置，根据官方文档，针对训练应用，支持8个NVIDIA V100 Tensor Core GPU/NVIDIA Quadro RTX 6000/NVIDIA Quadro RTX 8000全速7*24h工作，而针对推理应用，支持16个NVIDIA Tensor Core GPU提供在线大数据处理。

上文中也提到了宁畅X640 G30 AI服务器在MLPerf中的不俗表现，最高可支持10张NVIDIA A100 PCIe卡或21张NVIDIA T4 PCIe卡。在搭载四个A100 GPU的情况下，在MLperf的Resnet50、SSD、RNN-T、BERT、DLRM等10项测试中分数值取得世界性能第一；搭载16个T4 GPU配置的情况下，X640 G30打破六项世界纪录。在搭载21个T4 GPU配置下，亦取得14项性能第一。

总结：

通过上述外观、内部设计及整体实际性能的综合测试，可以看到，宁畅X640 G30 AI服务器无论是在计算、内存、和GPU方面的表现都十分不俗。

可以预见到的是，如此的性能猛兽，在未来几年内均可为企业数字化转型提供源源不断的算力，而强大的GPU运算能力，灵活可配置的计算性能，丰富的扩展，则可以在AI的应用场景中大显身手，让企业迈向智能化的道路更为通畅。

此外，人性化的设计以及扎实的做工，也彰显出宁畅这家初创公司所具备的大厂实力，为批量交付产品，提供了全面保障。纵观行业内，宁畅X640 G30是款竞争力极强的产品，结合宁畅的定制化服务，相信能有不错的市场表现。