美国东部时间10月21日,
MLPerf是当前
浪潮NF5488A5获数据中心AI性能优势
此次浪潮NF5488A5一举创造18项MLPerf推理性能纪录,成为创纪录极多的AI服务器。今年的测试中,数据中心AI性能受关注,全部参与机构提交了507项性能测试数据。浪潮NF5488A5创下了数据中心22个赛项中的13项性能纪录以优势领先,NVIDIADGX取得了5项数据中心性能纪录。而在此前的MLPerf训练榜单中,NF5488A5在核心的Resnet50训练任务中也创下了性能纪录。
浪潮NF5488A5创造18项MLPerf推理性能纪录
性能大幅提升3倍,全栈AI能力优势凸显
在此次基准测试中,浪潮AI服务器NF5488A5在开放优化(Open)和固定任务(Closed)的ResNet50基准性能测试中,均表现优异,相比2019年MLPerf推理榜单的服务器极好性能提升高达3倍。
MLPerf ResNet50推理性能2019VS 2020对比
NF5488A5是浪潮自研的新一代AI服务器,是此次MLPerf
本次基准测试中,浪潮展示出了卓越的AI计算软硬件协同优化能力。在硬件层面,通过对CPU、GPU硬件性能的精细校准和全面优化,使CPU性能、GPU性能、CPU与GPU之间的数据通路均处于对AI推理极优状态;在软件层面,结合GPU硬件拓扑对多GPU的轮询调度优化使单卡至多卡性能达到了近似线性扩展;在深度学习算法层面,结合GPUTensor Core 单元的计算特征,通过自研通道压缩算法成功实现了模型的性能优化,在精度无损的情况下性能提升近2倍。
各服务器MLPerfAI推理性能对比(以浪潮NF5488A5为基准,越高越好)
浪潮是
评论