大模型提升45倍！2024 GTC大会重磅开幕

英伟达于当地时间3月18日在加州圣何塞举办了2024GTC大会，隆重推出了基于下一代Blackwell超级计算架构打造的AI超级计算机。在此次发布会上，英伟达率先揭晓了一款配备GB200 GraceBlackwell超级芯片的DGX SuperPOD计算机，专为处理具有万亿参数级别的模型设计，以确保超大规模生成式AI训练和推理任务能够连续高效运行。

这款新型AI超级计算机创新采用了先进的液冷机架级扩展架构，具备卓越性能，在FP4精度下可提供高达11.5exaflops的AI超级计算能力以及240TB的高速显存，并且其性能可通过增加机架进一步扩展。据悉，每个DGX GB200系统内部集成了36颗NVIDIAGB200超级芯片，其中包括36个NVIDIA GraceCPU核心和72个NVIDIA Blackwell GPU，所有这些超级芯片通过第五代NVIDIA NVLink技术无缝连接成一台强大的超级计算机。相较于上一代NVIDIAH100 Tensor Core GPU，GB200超级芯片在处理大语言模型推理工作负载时，性能提升了最高30倍。

此外，英伟达还发布了通用型AI超级计算平台——NVIDIA DGX B200系统，该系统同样构建于全新的Blackwell架构之上，配置了8块NVIDIAB200 Tensor Core GPU以及两颗英特尔处理器，用于支持AI模型的训练、微调及推理操作。DGX B200系统在FP4精度下的AI计算性能可达144petaflops，配备1.4TB的GPU显存和64TB/s的显存带宽，其万亿参数模型的实时推理速度相比前一代产品提升了15倍之多。