近日,Rambus宣布Rambus HBM3内存控制器IP现在可提供高达9.6 Gbps的性能,可支持HBM3标准的持续演进。相比HBM3 Gen1 6.4 Gbps的数据速率,Rambus HBM3内存控制器的数据速率提高了50%,总内存吞吐量超过1.2 TB/s,适用于推荐系统的训练、生成式AI以及其他要求苛刻的数据中心工作负载。
Rambus HBM3控制器模块图
Rambus IP核部门总经理Neeraj Paliwal表示:“大语言模型要求高性能内存技术的不断进步,使得HBM3成为AI/ML训练的首选内存。依靠Rambus的创新和卓越的工程技术,我们的HBM3内存控制器IP可提供业界领先的9.6 Gbps性能。”
IDC内存半导体副总裁Soo-Kyoum Kim表示:“HBM是更快速且更高效的处理大型AI训练和推理集的关键内存技术,比如用于生成式AI的训练和推理。对于像Rambus这样的 HBM IP供应商来说,持续提高性能来支持满足市场苛刻要求的领先AI加速器的意义重大。”
HBM采用创新的2.5D/3D架构,为AI加速器提供具有高内存带宽和低功耗的解决方案。凭借极低的延迟和紧凑的封装,HBM已成为AI训练硬件的首选。
Rambus HBM3内存控制器IP专为需要高内存吞吐量、低延迟和完全可编程性应用而设计。该控制器是一种高度可配置的模块化解决方案,可根据每个客户对尺寸和性能的独特要求进行定制。对于选择第三方HBM3 PHY的客户,Rambus还提供HBM3控制器的集成与验证服务。
Rambus HBM3内存控制器从即日起提供许可证。
评论