576颗GPU当一颗用!英伟达用光纤把8个机柜连起来,明年冲10万亿参数大模型
英伟达在OCP 2026峰会上由副总裁Ian Buck披露,下一代Vera Rubin Ultra NVL576将把576颗Rubin Ultra GPU通过NVLink 7连接成一个统一计算域。该方案由8个机柜组成(每柜72颗GPU),机柜内部仍采用铜缆,机柜之间则首次大规模使用光纤与CPO(共封装光学)交换托盘进行互联,目标是支撑10万亿参数以上的大模型,并强调“全球最高每瓦性能”。
英伟达要把576颗Rubin Ultra GPU用NVLink连成一颗巨型GPU。
在刚刚结束的OCP全球峰会上,英伟达副总裁Ian Buck首次公开下一代NVLink 7 CPO交换托盘,并明确表示:这回连起来的GPU要跨好几个机柜,一共576颗一起干活,柜与柜之间靠光纤和CPO交换机连接,目标是支撑10万亿参数以上的大模型,明年推出。

从单柜到跨柜:NVLink终于走出机柜 目前英伟达的主力机柜叫NVL72,一个柜子里72颗GPU用NVLink连成一个整体。柜子中间那根NVLink“脊柱”全是铜缆,五千多根,加起来3公里多长。英伟达当时算过,这些连接要是换成光模块,光是收发器和中继芯片就要多耗约2万瓦电。铜缆省电,可传不远,所以NVLink一直被关在一个柜子里。
Rubin Ultra这一代,NVLink要跨出机柜了。
按今年3月GTC之后的分析,这套Vera Rubin Ultra NVL576由8个机柜组成,每柜72颗GPU,柜子里面还是铜缆,柜与柜之间才走光。576除以72,正好是8个柜子连成一个统一的NVLink计算域。
CPO交换托盘首次亮相 Ian Buck现场展示了下一代的NVLink 7 CPO交换托盘。CPO(共封装光学)把光学引擎和交换芯片封装在一起,不再一根线配一个插拔式光模块。机柜之间用光纤把这些光学引擎连起来,照片里那些细细的黄色光纤,连的就是这些光学引擎。
英伟达展示的Vera Rubin Ultra NVL576,左起是计算托盘、NVLink 7 CPO交换托盘和一整排机柜。计算托盘上是两颗Rubin Ultra GPU加一颗Vera CPU,全部液冷。整套设计照着OCP开放标准来,模块化、快插设计,装机时间从几个小时缩到几分钟。
英伟达给它的定位很直接:全球每瓦性能最高的NVLink巨型GPU。
命名与路线图的变化 576这个数,去年3月就出现过一次。那时英伟达画的是一个叫Kyber的新机柜,单柜号称576颗GPU,数的是芯片(每个封装里4颗die),实际是144个封装。今年GTC改回按封装数,Kyber单柜写成144颗(NVL144),NVL576这个名字留给了8个机柜拼起来的这一套。
路线图上,Rubin Ultra NVL576计划2027年下半年推出,目标就是10万亿参数量级的模型。不过也有分析机构认为,第一批会是小批量,主要拿来测试,光纤大规模接管机柜之间的NVLink,更可能是下一代Feynman的事。
黄仁勋柏林GTC的补充 黄仁勋这周在柏林的GTC上说,CPO机柜已经进入大规模量产。不过需要注意,他指的主要是Spectrum-X以太网CPO交换机(用于scale-out),而不是这次NVLink scale-up的CPO。两者相关,但落地节奏并不完全同步。

为什么这一步重要 铜缆省电可靠,但距离受限;光互连带宽密度高、传得远,但成本和功耗更高。英伟达的策略一直是“能用铜就用铜,只有跨柜才上光”。NVL576是NVLink第一次真正跨出单柜的尝试,把计算域从72颗扩展到576颗,为超大模型提供更紧密的互联环境。
但这并不意味着576颗GPU会自动变成“一颗更快的GPU”。实际效果仍取决于模型并行方式、通信延迟、内存分配和软件调度效率。功耗、散热、光器件的可靠性与维护成本,也都会成为新的挑战。
从单柜铜缆到跨柜光纤,英伟达正在把“一颗巨型GPU”的概念从机柜内部,延伸到机柜之间。明年能不能真正大规模落地,要看光器件良率、系统集成和客户数据中心准备情况。
讨论与补充
0还没有讨论
分享一条可复现的补充、问题或使用经验。