美光公司近日宣布已完成12-Hi堆栈的高带宽内存HBM3E新一代产品,单颗容量达到了惊人的36GB。这一技术将应用于顶级人工智能(AI)和高性能计算(HPC)产品的开发,例如NVIDIA H200、B200加速卡等。据悉,这款新型内存无需频繁调用CPU即可轻松处理包含700亿参数的大模型Llama2。
值得一提的是,这款12-Hi 36GB HBM3E内存具备高达9.2Gbps的超高速率,其单颗就能提供超过1.2TB/s的惊人带宽,并且功耗比8-Hi版本更低。
此外,该产品采用台积电CoWoS封装技术制造,也就是普遍使用于NVIDIA H100、H200等加速卡的技术。这使得两者之间可以轻松搭配使用。
值得一提的是,这款新型内存支持完全可编程的MBIST(内存内置自测试),可以模拟全速下的系统负载进行测试验证,从而加快产品的上市进程。
美光公司表示,这款12-Hi HBM3E内存已经向关键伙伴进行了验证,并且已经开始提供给这些伙伴进行进一步的验证。
评论