英伟达推出1tb 内存的ai gpu

英伟达最近把那一款1TB内存的AI GPU给展示出来了，在这次 GTC 大会上推出的 Rubin Ultra 托盘，是第一款拥有 TB 级内存的 AI 加速器。你猜猜，这个托盘用了多少个计算芯粒？对了，就是四个，还有 1TB 的 HBM4E 内存。这么大的内存容量，给处理那些超大 AI 模型提供了强有力的支持。你有没有注意到 Rubin Ultra 的外观变化？封装技术更新了，散热器把内部细节都挡住了，听说现在还不确定流片完成了没有。而且它看起来超级紧凑，可能还用了堆叠设计。哦对了，线缆连接几乎全都取消了，组装服务器的时候能省不少事儿。科技媒体 Tom's Hardware 说英伟达以后可能直接卖整个托盘，合作伙伴可能就只剩下组装机架的活儿了。他们把一个机架的容量增加到了 144 个 GPU 封装。这次 Kyber 机架采用垂直布局，自带液冷系统，和传统的水平托盘不一样。这次的 NVL144 系统，GPU 模块数量翻倍，封装总数也翻倍。这就意味着性能提升至少四倍呢。另外他们还把 NVLink 交换机升级到第七代，带宽保持在 3600 GB/s 这么高，还能支持更多 GPU。这次他们打算引进 CX9-1600G 以太网处理器，全面提高数据中心通信效率。