腾讯云发布面向大模型训练的新一代HCC高性能计算集群,采用最新一代腾讯云星星海自研服务器,搭载了NVIDIA H800 Tensor Core GPU,并提供业界目前最高的3.2T超高互联带宽。
H800是NVIDIA为中国市场特供的加速卡替代型号,基于A100及H100设计,但将NVLink高速互连总线的带宽从600GB/s降低到了400GB/s。由于H100 SXM版的带宽也只有3.35T,因此腾讯H800的3.2T带宽下降并不明显。腾讯云HCC集群支持分布式TensorFlow和PyTorch训练,可大幅提升模型训练速度。
在价格方面,腾讯没有透露H800的具体采购价,但H100的价格约为25万元,而A800特供版的价格相当于标准版A100的8成。因此,H800的价格可能会在20万元或更高水平。
这一新一代HCC高性能计算集群的推出将有助于满足大规模深度学习训练的需求,加速人工智能技术的发展。
评论