NVIDIA的新一代Blackwell架构服务器已经开始批量出货,并在OCP Summit 2024峰会上进行公开展示。值得注意的是,展示中的服务器直接将芯片裸露在外,供人们观看。
这款服务器搭载了八颗B200芯片,这些芯片采用4NP工艺制造,集成了高达2080亿个晶体管。同时,它还配备了192GB的HBM3E内存,性能卓越。
然而,这款服务器的功耗也相当惊人,高达1000W。八颗B200芯片的总功耗更是达到了恐怖的8000W,即一个小时消耗8度电。
与前代服务器相比,NVIDIA对这款新服务器进行了一些关键调整。其中,NVLink互联控制芯片的位置发生了显著变化,不再位于服务器边缘,而是被巧妙地转移到了中心,被八颗B200芯片所环绕。这样的设计有助于缩短GPU之间的距离,提升数据传输效率。
此外,我们还可以在这款服务器中看到多颗由Astera Labs提供的PCIe Retimer芯片。这些芯片在数据传输过程中发挥着重要作用,进一步优化了服务器的性能。
据此前爆料的消息,NVIDIA称得益于Blackwell强大的AI性能,在部分测试中只要64块Blackwell就可以实现256块Hopper GPU的AI水平,而在Llama 2 70B的测试中,Blackwell性能提升了2.2倍,GPT-3性能提升了2倍。
评论