英伟达近日发布了全新的NVIDIA L40S GPU以及配套的OVX服务器系统。据了解,这款L40S GPU与最新发布的OVX服务器相结合,可适用于AI大模型训练和推理、三维设计、可视化、视频处理、工业数字化等多种用途。相比A100 GPU,这套L40S系统能够增强生成式AI、图形和视频处理能力,并满足不断增长的算力需求。 L40S GPU是英伟达此前L40 GPU的升级版本,配备48GB GDDR6 ECC显存。该GPU基于Ada Lovelace架构,搭载第四代Tensor Core和FP8转换引擎,运算速度是上一代的5倍。然而,它并不支持NVLink。 英伟达声称,L40S的生成式AI推理性能比A100高1.2倍,训练性能高1.7倍。对于具有数十亿个参数和多种数据模式的复杂AI工作,L40S的效能更加突出。 英伟达表示,L40S GPU将在今年秋季上市,每台OVX服务器系统最多可搭载8个L40S加速卡。然而,英伟达并未透露该GPU的定价。同时,华硕、戴尔、技嘉、HPE、联想、QCT和美超微等厂商将很快推出搭载L40S GPU的OVX服务器系统。
评论