随着大模型训练、推理与多模态应用的快速发展，数据中心的瓶颈正从"算力不足"转向"数据供给不足"。GPU和CPU性能不断提升的同时，内存带宽、存储延迟和能耗问题逐渐成为影响集群效率和总体成本的关键因素。如何为计算平台提供更高带宽、更大容量和更优能效的数据流，已成为产业链关注的焦点。 大会信息显示，美光此次量产方向正是针对这些挑战。AI计算对显存/内存的带宽与容量需求呈指数增长，推动高带宽内存从HBM3E向HBM4升级；同时AI工作负载增加了数据读取、检查点保存等环节的I/O压力，促使数据中心SSD向PCIe 6.0发展。此外，存储产品需要深度适配下一代GPU平台和数据处理架构，才能运用系统性能并控制能耗。 据悉，美光HBM4产品已在本季度开始量产。首批36GB的12层堆叠版本单引脚速率超过11Gb/s，带宽达2.8TB/s，较HBM3E提升约2.3倍，能效提高20%以上。16层堆叠、48GB的样品也已交付客户，可支持更大规模的模型训练。业内人士指出，在高端GPU平台持续扩容的趋势下，HBM的性能将直接影响AI集群的部署和运行成本。 在通用计算领域，美光的SOCAMM2内存模块进入量产阶段。192GB版本将用于Vera Rubin NVL72系统和Vera CPU平台，可为单颗CPU提供最高2TB内存容量和1.2TB/s带宽。分析认为，随着混合架构普及，CPU侧内存性能对整体训练效率的影响日益凸显，高密度内存模块有助于提升系统吞吐量。 在存储上，美光Micron 9650数据中心SSD采用PCIe Gen6接口并针对英伟达BlueField-4 STX架构优化。其顺序读取速度达28GB/s，随机读取性能550万IOPS，较上一代产品接近翻倍。业内普遍认为AI数据中心存储已从"容量优先"转向"吞吐与延迟优先"，高性能SSD大规模训练、推理服务等场景中的价值不断提升。 产业界需要在三上协同应对：一是提前进行平台适配验证；二是以能效为核心优化封装、控制器等环节；三是提升供应链韧性。下游企业则应合理配置算力、内存和存储资源。 未来AI工作负载将持续向更大规模、更高并发发展，"算力-内存-存储-网络"协同升级将成为重点。HBM4、SOCAMM2和PCIe 6.0 SSD等技术进步将推动数据中心进入以系统效率为核心的新阶段。随着新平台陆续导入，高带宽内存、先进互连与高性能存储领域的竞争将更加激烈。
AI竞争的核心之一是数据流动效率的竞争；在提升算力的同时增强内存与存储能力的企业更可能将硬件优势转化为业务成果。持续投入带宽、容量与能效创新将成为数据中心高质量发展的重要支撑，也为行业数字化转型创造更多可能。