7月22日新闻，， ，，在GTC 2026正式宣布之后，， ，，英伟达（NVIDIA）克日首次完整果真了Rubin AI GPU架构的手艺细节。 。作为下一代AI数据中心平台的焦点盘算芯片，， ，，Rubin不但肩负着接替Blackwell的使命，， ，，也将成为未来Agentic AI（智能体AI）时代的主要算力基础。 。
凭证英伟达宣布的数据，， ，，相比Blackwell架构，， ，，Rubin在单位能耗下的Agentic AI推理吞吐量提升最高可达10倍。 。这一性能跃升主要来自三项要害架构立异：全新增强版Tensor Core（张量焦点）、 新一代HBM4高带宽内存子系统、第三代Transformer Engine（Transformer引擎）。 。
接纳双裸片设计，， ，，集成3360亿颗晶体管
Rubin GPU接纳台积电（TSMC）3nm N3P制程工艺制造，， ，，由两颗抵达光罩尺寸上限（Reticle Limit）的GPU裸片组成，， ，，并通过英伟达自研的NV-HBI（High-Bandwidth Interface）高速互连手艺封装为一颗完整GPU。 。
整个Rubin GPU共集成约3360亿颗晶体管，， ，，较Blackwell GB300增添约62%，， ，，也是现在业内集成度最高的AI GPU之一。 。
从架构来看，， ，，每颗Rubin GPU包括：8个GPC（Graphics Processing Cluster，， ，，图形处理集群）、224个SM（Streaming Multiprocessor，， ，，流式多处理器）、896个Tensor Core（张量焦点）。 。
凭证平均盘算，， ，，每个GPC约拥有28个SM和112个Tensor Core。 。不过从官方框图来看，， ，，Rubin现实上接纳了两种差别设置的GPC，， ，，一种集成30个SM，， ，，另一种集成26个SM。 。
每颗裸片内部包括4个GPC，， ，，同时毗连：大容量漫衍式L2 Cache、Gigathread Engine、4组HBM4内存控制器（每裸片4096-bit）和NVLink接口。 。
别的，， ，，Rubin还集成了：
PCIe Gen6控制器，， ，，用于毗连主机CPU ；；；；
第六代NVLink IO，， ，，可提供最高3600GB/s GPU互连带宽 ；；；；
MIG（Multi-Instance GPU）控制器，， ，，实现GPU资源切分 ；；；；
NVDEC视频解码单位 ；；；；
基于TEE-I/O（Trusted Execution Environment）的Confidential Computing（神秘盘算）能力，， ，，可包管AI事情流中数据静态、传输及运行历程中的清静。 。
首次接纳HBM4，， ，，带宽高达22TB/s
内存子系统是Rubin最大的升级之一。 。Rubin首次接纳HBM4高带宽内存，， ，，共设置8组12-Hi堆叠，， ，，总容量抵达288GB。 。
详细来看，， ，，8组12-Hi HBM4，， ，，每组容量36GB，， ，，单颗DRAM容量3GB，， ，，总容量288GB，， ，，整体峰值带宽抵达22TB/s，， ，，是现在英伟达最快的HBM内存方案。 。相比Blackwell约8TB/s带宽，， ，，Rubin实现约2.8倍提升。 。
与此同时，， ，，Rubin还配备升级版Tensor Memory Accelerator（TMA），， ，，进一步优化GPU内部重大数据搬运效率。 。
整个数据传输系统包括：
HBM4：22TB/s
NVLink 6：GPU之间3600GB/s
NVLink-C2C：CPU-GPU之间1800GB/s
PCIe Gen6 x16：256GB/s
HBM4显著提升Token天生效率
随着大语言模子参数一直增添，， ，，模子推理越来越受到内存带脱期制。 。英伟达体现，， ，，现在AI推理普遍面临更长Context窗口、更大的KV Cache、更高并发Token天生。 。HBM4的大带宽可有用解决上述瓶颈。 。
详细而言，， ，，容量提升意味着，， ，，可容纳更大模子常驻显存、支持更长上下文窗口、支持更大的KV Cache、提高推理并发能力、镌汰KV Cache外存交流。 。
带宽提升则意味着，， ，，提高Token逐个天生阶段的数据供应速率、阻止Tensor Core期待数据、提高GPU使用率。 。
别的，， ，，升级后的TMA及内存局部性优化战略，， ，，可进一步提高重大数据结构下的有用带宽使用率。 。
英伟达体现，， ，，HBM4使Rubin能够支持未来多万亿参数模子、更长上下文推理以及高并发Agentic AI事情负载。 。
全新Tensor Memory Accelerator优化MoE模子推理
针对现在普遍应用的MoE（Mixture of Experts，， ，，混淆专家）模子，， ，，Rubin进一步增强了Tensor Memory Accelerator（TMA）。 。
随着MoE模子专家数目一直增添，， ，，专家权重的数据定位与搬运成为新的性能瓶颈。 。
新版TMA通过优化形貌符（Descriptor）治理机制，， ，，可更高效地定位和调理专家权重，， ，，镌汰数据搬运开销。 。
同时，， ，，Rubin新增Inline Descriptor支持，， ，，使多个Tensor共享统一形貌信息，， ，，仅需在运行历程中动态修改内存地点、Stride等参数即可完成调理。 。
英伟达体现，， ，，这一刷新可使MoE模子在专家数目进一步增添后仍坚持较高扩展效率，， ，，并将更多GPU盘算资源用于推理盘算，， ，，从而提升整体吞吐能力。 。
Tensor Core吞吐翻倍，， ，，Transformer推理进一步加速
Rubin另一项焦点升级来自Tensor Core。 。新版Tensor Core单个时钟周期可处理的数据量翻倍，， ，，其主要通过扩大Tensor盘算中的K维数据处理能力实现。 。
以矩阵乘法（GEMM）为例：在Blackwell上需要执行4轮K循环，， ，，而Rubin仅需2轮即可完成相同盘算。 。这不但提升盘算吞吐，， ，，也降低了Kernel调理延迟。 。与此同时，， ，，Rubin进一步优化了Transformer中的Attention盘算流程。 。
据官方先容，， ，，其接纳Activation Sparsity（激活希罕）连系Adaptive Compression（自顺应压缩）手艺，， ，，可将Attention Score压缩为结构化2:4希罕名堂，， ，，仅生涯非零数据及对应元数据。 。
这样既镌汰Attention Score写入与存储开销，， ，，也降低后续Attention盘算的数据传输量，， ，，同时坚持最终输出仍为标准Dense名堂，， ，，无需修改模子结构。 。
别的，， ，，Rubin还提升了Softmax及指数运算（Exponential）性能。 。
差别精度下盘算能力提升如下：
FP32吞吐抵达GB300水平，， ，，是GB200的2倍 ；；；；
BF16/FP16吞吐相比GB200提升4倍，， ，，相比GB300提升2倍。 。
更低Kernel延迟，， ，，更适合Agentic AI推理
Rubin还增强了GPU内部Kernel之间的调理协同能力。 。古板GPU通常需要期待上一阶段Kernel所有完成后再启动下一阶段盘算，， ，，而Rubin允许后续Kernel在所需输入数据准备完成后即可提前启动。 。
这样能够镌汰GPU空闲时间、提高差别Kernel执行重叠度、提升流水线使用率。 。英伟达以为，， ，，这关于Agentic AI推理尤为主要。 。
由于Agentic AI使命通常需要模子逐步天生Token，， ，，各Kernel之间保存一连依赖关系，， ，，Kernel间延迟将直接影响单用户Token天生速率（Tokens/s）。 。
DSX MaxLPS进一步优化AI数据中心能效
除了GPU自己，， ，，Rubin平台也针对数据中心能效举行了大宗优化。 。
以Vera Rubin NVL72系统为例，， ，，其新增了Dynamic Power Steering（动态功率调理）和Intelligent Power Smoothing（智能功率平滑）。 。系统通过集成储能？？？？？，， ，，可吸收GPU瞬时功率波动。 。
英伟达体现，， ，，相较上一代平台平均功耗降低约10%，， ，，50毫秒峰值功耗降低约20%。 。从而使整个AI服务器能够更稳固运行于最大功率区间，， ，，提高整体Token输出效率。 。
别的，， ，，英伟达还推出DSX OS操作系统，， ，，其中集成DSX MaxLPS，， ，，可统一治理GPU、机柜、液冷系统以及AI事情负载，， ，，实现调理、生命周期治理及康健状态自动化。 。
官方数据显示，， ，，在相同供电预算下，， ，，DSX MaxLPS可支持安排约40%更多GPU资源，， ，，从而进一步提升AI数据中心整体算力密度和推理吞吐能力。 。
从3360亿颗晶体管的双裸片设计，， ，，到首次引入HBM4内存、增强版Tensor Core、第三代Transformer Engine，， ，，以及围绕MoE模子、Agentic AI推理和数据中心能效所举行的一系列架构优化，， ，，Rubin代表着英伟达AI GPU的一次周全升级。 。
可以看出，， ，，相较于Blackwell主要面向大模子训练和通用推理，， ，，Rubin的设计重点已经显着转向以智能体（Agentic AI）为代表的新一代AI应用场景，， ，，通过提升Token天生效率、降低推理延迟、优化内存带宽使用率及提高单位能耗算力输出，， ，，为未来更大规模、更高并发、更长上下文的大模子安排涤讪硬件基础。 。
编辑：芯智讯-浪客剑
