7月22日新闻，，，，，在GTC 2026正式宣布之后，，，，，英伟达（NVIDIA）克日首次完整果真了Rubin AI GPU架构的手艺细节
。。。作为下一代AI数据中心平台的焦点盘算芯片，，，，，Rubin不但肩负着接替Blackwell的使命，，，，，也将成为未来Agentic AI（智能体AI）时代的主要算力基础
。。。

凭证英伟达宣布的数据，，，，，相比Blackwell架构，，，，，Rubin在单位能耗下的Agentic AI推理吞吐量提升最高可达10倍
。。。这一性能跃升主要来自三项要害架构立异：全新增强版Tensor Core（张量焦点）、 新一代HBM4高带宽内存子系统、第三代Transformer Engine（Transformer引擎）
。。。

接纳双裸片设计，，，，，集成3360亿颗晶体管

Rubin GPU接纳台积电（TSMC）3nm N3P制程工艺制造，，，，，由两颗抵达光罩尺寸上限（Reticle Limit）的GPU裸片组成，，，，，并通过英伟达自研的NV-HBI（High-Bandwidth Interface）高速互连手艺封装为一颗完整GPU
。。。

整个Rubin GPU共集成约3360亿颗晶体管，，，，，较Blackwell GB300增添约62%，，，，，也是现在业内集成度最高的AI GPU之一
。。。

从架构来看，，，，，每颗Rubin GPU包括：8个GPC（Graphics Processing Cluster，，，，，图形处理集群）、224个SM（Streaming Multiprocessor，，，，，流式多处理器）、896个Tensor Core（张量焦点）
。。。

凭证平均盘算，，，，，每个GPC约拥有28个SM和112个Tensor Core
。。。不过从官方框图来看，，，，，Rubin现实上接纳了两种差别设置的GPC，，，，，一种集成30个SM，，，，，另一种集成26个SM
。。。

每颗裸片内部包括4个GPC，，，，，同时毗连：大容量漫衍式L2 Cache、Gigathread Engine、4组HBM4内存控制器（每裸片4096-bit）和NVLink接口
。。。

别的，，，，，Rubin还集成了：

PCIe Gen6控制器，，，，，用于毗连主机CPU；；

第六代NVLink IO，，，，，可提供最高3600GB/s GPU互连带宽；；

MIG（Multi-Instance GPU）控制器，，，，，实现GPU资源切分；；

NVDEC视频解码单位；；

基于TEE-I/O（Trusted Execution Environment）的Confidential Computing（神秘盘算）能力，，，，，可包管AI事情流中数据静态、传输及运行历程中的清静
。。。

首次接纳HBM4，，，，，带宽高达22TB/s

内存子系统是Rubin最大的升级之一
。。。Rubin首次接纳HBM4高带宽内存，，，，，共设置8组12-Hi堆叠，，，，，总容量抵达288GB
。。。

详细来看，，，，，8组12-Hi HBM4，，，，，每组容量36GB，，，，，单颗DRAM容量3GB，，，，，总容量288GB，，，，，整体峰值带宽抵达22TB/s，，，，，是现在英伟达最快的HBM内存方案
。。。相比Blackwell约8TB/s带宽，，，，，Rubin实现约2.8倍提升
。。。

与此同时，，，，，Rubin还配备升级版Tensor Memory Accelerator（TMA），，，，，进一步优化GPU内部重大数据搬运效率
。。。

整个数据传输系统包括：

HBM4：22TB/s

NVLink 6：GPU之间3600GB/s

NVLink-C2C：CPU-GPU之间1800GB/s

PCIe Gen6 x16：256GB/s

HBM4显著提升Token天生效率

随着大语言模子参数一直增添，，，，，模子推理越来越受到内存带脱期制
。。。英伟达体现，，，，，现在AI推理普遍面临更长Context窗口、更大的KV Cache、更高并发Token天生
。。。HBM4的大带宽可有用解决上述瓶颈
。。。

详细而言，，，，，容量提升意味着，，，，，可容纳更大模子常驻显存、支持更长上下文窗口、支持更大的KV Cache、提高推理并发能力、镌汰KV Cache外存交流
。。。

带宽提升则意味着，，，，，提高Token逐个天生阶段的数据供应速率、阻止Tensor Core期待数据、提高GPU使用率
。。。

别的，，，，，升级后的TMA及内存局部性优化战略，，，，，可进一步提高重大数据结构下的有用带宽使用率
。。。

英伟达体现，，，，，HBM4使Rubin能够支持未来多万亿参数模子、更长上下文推理以及高并发Agentic AI事情负载
。。。

全新Tensor Memory Accelerator优化MoE模子推理

针对现在普遍应用的MoE（Mixture of Experts，，，，，混淆专家）模子，，，，，Rubin进一步增强了Tensor Memory Accelerator（TMA）
。。。

随着MoE模子专家数目一直增添，，，，，专家权重的数据定位与搬运成为新的性能瓶颈
。。。

新版TMA通过优化形貌符（Descriptor）治理机制，，，，，可更高效地定位和调理专家权重，，，，，镌汰数据搬运开销
。。。

同时，，，，，Rubin新增Inline Descriptor支持，，，，，使多个Tensor共享统一形貌信息，，，，，仅需在运行历程中动态修改内存地点、Stride等参数即可完成调理
。。。

英伟达体现，，，，，这一刷新可使MoE模子在专家数目进一步增添后仍坚持较高扩展效率，，，，，并将更多GPU盘算资源用于推理盘算，，，，，从而提升整体吞吐能力
。。。

Tensor Core吞吐翻倍，，，，，Transformer推理进一步加速

Rubin另一项焦点升级来自Tensor Core
。。。新版Tensor Core单个时钟周期可处理的数据量翻倍，，，，，其主要通过扩大Tensor盘算中的K维数据处理能力实现
。。。

以矩阵乘法（GEMM）为例：在Blackwell上需要执行4轮K循环，，，，，而Rubin仅需2轮即可完成相同盘算
。。。这不但提升盘算吞吐，，，，，也降低了Kernel调理延迟
。。。与此同时，，，，，Rubin进一步优化了Transformer中的Attention盘算流程
。。。

据官方先容，，，，，其接纳Activation Sparsity（激活希罕）连系Adaptive Compression（自顺应压缩）手艺，，，，，可将Attention Score压缩为结构化2:4希罕名堂，，，，，仅生涯非零数据及对应元数据
。。。

这样既镌汰Attention Score写入与存储开销，，，，，也降低后续Attention盘算的数据传输量，，，，，同时坚持最终输出仍为标准Dense名堂，，，，，无需修改模子结构
。。。

别的，，，，，Rubin还提升了Softmax及指数运算（Exponential）性能
。。。

差别精度下盘算能力提升如下：

FP32吞吐抵达GB300水平，，，，，是GB200的2倍；；

BF16/FP16吞吐相比GB200提升4倍，，，，，相比GB300提升2倍
。。。

更低Kernel延迟，，，，，更适合Agentic AI推理

Rubin还增强了GPU内部Kernel之间的调理协同能力
。。。古板GPU通常需要期待上一阶段Kernel所有完成后再启动下一阶段盘算，，，，，而Rubin允许后续Kernel在所需输入数据准备完成后即可提前启动
。。。

这样能够镌汰GPU空闲时间、提高差别Kernel执行重叠度、提升流水线使用率
。。。英伟达以为，，，，，这关于Agentic AI推理尤为主要
。。。

由于Agentic AI使命通常需要模子逐步天生Token，，，，，各Kernel之间保存一连依赖关系，，，，，Kernel间延迟将直接影响单用户Token天生速率（Tokens/s）
。。。

DSX MaxLPS进一步优化AI数据中心能效

除了GPU自己，，，，，Rubin平台也针对数据中心能效举行了大宗优化
。。。

以Vera Rubin NVL72系统为例，，，，，其新增了Dynamic Power Steering（动态功率调理）和Intelligent Power Smoothing（智能功率平滑）
。。。系统通过集成储能？？？？？，，，，，可吸收GPU瞬时功率波动
。。。

英伟达体现，，，，，相较上一代平台平均功耗降低约10%，，，，，50毫秒峰值功耗降低约20%
。。。从而使整个AI服务器能够更稳固运行于最大功率区间，，，，，提高整体Token输出效率
。。。

别的，，，，，英伟达还推出DSX OS操作系统，，，，，其中集成DSX MaxLPS，，，，，可统一治理GPU、机柜、液冷系统以及AI事情负载，，，，，实现调理、生命周期治理及康健状态自动化
。。。

官方数据显示，，，，，在相同供电预算下，，，，，DSX MaxLPS可支持安排约40%更多GPU资源，，，，，从而进一步提升AI数据中心整体算力密度和推理吞吐能力
。。。

从3360亿颗晶体管的双裸片设计，，，，，到首次引入HBM4内存、增强版Tensor Core、第三代Transformer Engine，，，，，以及围绕MoE模子、Agentic AI推理和数据中心能效所举行的一系列架构优化，，，，，Rubin代表着英伟达AI GPU的一次周全升级
。。。

可以看出，，，，，相较于Blackwell主要面向大模子训练和通用推理，，，，，Rubin的设计重点已经显着转向以智能体（Agentic AI）为代表的新一代AI应用场景，，，，，通过提升Token天生效率、降低推理延迟、优化内存带宽使用率及提高单位能耗算力输出，，，，，为未来更大规模、更高并发、更长上下文的大模子安排涤讪硬件基础
。。。

编辑：芯智讯-浪客剑