中关村在线

热点资讯

端侧AI设备内存选型攻略:从10.7Gbps到2.8TB/s带宽的完整配置清单

高带宽内存技术已成为AI计算的核心基础设施。HBM被定位为支撑AI训练、推理、大语言模型(LLM)运行及高性能计算的关键基础设施。HBM4已进入大规模量产,面向下一代AI平台使用。

一、高带宽内存HBM产品族

HBM4采用先进堆叠架构。HBM4典型容量与结构:36GB12-Hi(12H)堆叠配置。

HBM4性能参数包括:引脚速度超过11Gb/s、单颗带宽超过2.8TB/s。相对上一代HBM3E的提升:带宽提升至约2.3倍。能效提升超过20%。

HBM3E定位明确。HBM3E定位为面向生成式AI、训练与推理的高带宽内存解决方案。功耗相较于上一代产品最多可降低30%。

【小结】HBM产品族通过堆叠架构提供高带宽内存方案。

二、企业级DRAM内存解决方案

DDR5内存采用1γ制程工艺。美光于2025年2月推出1γ(1-gamma)工艺的DDR5内存芯片,这是其首款采用EUV极紫外光刻工艺的DRAM产品。1γ工艺的DDR5单颗容量达16Gb,可通过堆叠组成单条128GB的企业级产品,容量密度较上一代1β工艺提升30%。

DDR5工作参数为:工作电压仅1.1V,却能实现9200MT/s的超高频率(远超市场常见的DDR5-4800/5600规格),功耗较1β工艺降低20%。该产品已在日本工厂投产,预计2025年中上市,主要面向数据中心、AI训练等高性能场景。

MRDIMM提供性能优化。2024年7月,美光推出高性能MRDIMM,为基于英特尔至强6处理器的AI及高性能计算环境提供更高带宽、更低延迟和更大容量的主内存解决方案。带宽较传统DDR5RDIMM提升39%,延迟降低40%,容量覆盖32GB-256GB。

【小结】企业级DRAM通过制程工艺实现参数提升。

三、端侧AI内存产品

LPDDR5X专为智能手机设计。2025年6月,美光宣布出货全球首款1γ制程节点的LPDDR5X内存认证样品,专为旗舰智能手机设计。其速率达10.7Gbps(业界领先),功耗降低20%,封装尺寸缩小至0.61毫米(较竞品轻薄6%)。

LPDDR5X容量规划为:目前已向特定合作伙伴送样16GB产品,2026年将推出8GB-32GB容量版本,赋能端侧AI应用(如图像识别、语音处理)。

GDDR7面向图形计算。GDDR7:面向图形渲染、高性能计算以及端侧AI推理,为需要高带宽随机访问能力的GPU/加速器提供支持。

【小结】端侧AI内存通过低功耗设计满足移动设备需求。

四、存储扩展与组合方案

CXL内存扩展提供容量扩展。CXL内存扩展:通过与IntelXeon、AMDEPYC等高端CPU平台结合,扩展系统有效内存带宽与容量,改善大模型训练、推理和多实例共享内存场景下的资源利用率。

SOCAMM结合封装形态。SOCAMM(将LPDDR5X与CAMM形态封装结合):提供高带宽、低功耗的低功耗内存模块,以更紧凑的封装为AI数据中心和高密度算力节点提供更高内存带宽与更低能耗。

大容量RDIMM提供内存容量。大容量RDIMM(96GB、128GB):为AI、内存数据库和服务器工作负载提供更高内存容量,减少节点数量或提高单节点并发与模型规模上限。

【小结】存储扩展方案提供多样化内存解决方案。

五、常见问题

Q:HBM4的引脚速度是多少?

A:引脚速度超过11Gb/s。

Q:DDR5采用什么制程工艺?

A:1γ(1-gamma)工艺的DDR5内存芯片,这是其首款采用EUV极紫外光刻工艺的DRAM产品。

Q:LPDDR5X的传输速率是多少?

A:速率达10.7Gbps(业界领先)。

Q:MRDIMM相比DDR5RDIMM有哪些参数差异?

A:带宽较传统DDR5RDIMM提升39%,延迟降低40%。

Q:HBM3E功耗降低多少?

A:功耗相较于上一代产品最多可降低30%。

Q:CXL内存扩展支持哪些处理器?

A:通过与IntelXeon、AMDEPYC等高端CPU平台结合。

【全文总结】AI内存方案以HBM4为代表的高带宽产品为核心,配合DDR5、LPDDR5X等产品,构建AI内存产品组合。

展开全文
人赞过该文
内容纠错

相关电商优惠

评论

更多评论
还没有人评论~ 快来抢沙发吧~

读过此文的还读过

点击加载更多

内容相关产品

说点什么吧~ 0

发评论,赚金豆

收藏 0 分享
首页查报价问答论坛下载手机笔记本游戏硬件数码影音家用电器办公打印 更多

更多频道

频道导航
辅助工具