中关村在线

热点资讯

Nvidia将为数据中心带来双GPU

Nvidia在其GTC 2023年春季主题演讲中宣布了一个新的双GPU产品,H100 NVL。这不会带来SLI或多GPU游戏的回归,也不会是最好的游戏显卡之一,而是针对不断增长的AI市场。从Nvidia发布的信息和图片来看,H100 NVL(H100 NVLink)将在顶部采用三个NVLink连接器,相邻的两块卡可插入独立的PCIe插槽。

这是一个有趣的变化,显然是为了适应不支持Nvidia的SXM选项的服务器,重点是推理性能而不是训练。NVLink连接应该有助于提供NVSwitch在SXM解决方案上提供的缺失带宽,而且还有一些其他明显的区别。

以规格为例。以前的H100解决方案--包括SXM和PCIe--都配备了80GB的HBM3内存,但实际包装包含六个堆栈,每个堆栈有16GB的内存。目前还不清楚是否有一个堆栈被完全禁用,或者是用于ECC或其他目的。我们所知道的是,H100 NVL每个GPU将有94GB,总共有188GB HBM3。我们认为每个GPU "缺少 "的2GB是为了ECC。

功率比H100 PCIe略高,每个GPU为350-400瓦(可配置),增加50瓦。同时,总性能实际上是H100 SXM的两倍:134 teraflops的FP64,1,979 teraflops的TF32,和7,916 teraflops FP8(以及7,916 teraops INT8)。

基本上,这看起来与H100 PCIe的核心设计相同,它也支持NVLink,但现在可能启用了更多的GPU核心,而且内存增加了17.5%。内存带宽也比H100 PCIe高一些,每个GPU为3.9TB/s,合计7.8TB/s(而H100 PCIe为2TB/s,H100 SXM为3.35TB/s)。

由于这是一个双卡解决方案,每张卡占用2个插槽的空间,Nvidia只支持合作伙伴和认证系统的2至4对H100 NVL卡。一对的价格是多少,它们是否可以单独购买?这还有待观察,尽管单块H100 PCIe有时可以找到,价格约为28,000美元(在新标签中打开)。因此,80,000美元购买一对H100 NVL似乎并不是不可能的事。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多
说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具