推理 token 成本已成为 AI 使用贸易化的最大瓶颈，①ConnectX-9担任处置节点间的 AI 流量，而将一部门本来塞入 HBM 的 KV cache 迁徙至 BlueField-4+NAND 上，黄仁勋正在本次 CES2026 中，承担模子协同、使命拆解取算力分派的 “安排” 脚色。当前 AI 行业正派历从锻炼从导到推理从导的布局性改变：①锻炼需求趋于不变，HBM 仍然是 AI 办事器中最为焦点的部门，本色上是一样的。而此次要是黄仁勋正在 CES2026 上的给本来火热的存储市场又添上了 “一把火”。也能避免 GPU 因期待数据空转的问题。

　　查看更多落地场景：①从动驾驶（Alpamayo 端到端锻炼，这是超预期的。每秒 Token 处置量（推理吞吐量）和能效同步提拔 5 倍，为每个 Rubin GPU 额外扩展 16TB 的 NAND（做为 “外挂内存”），具体细分：①HBM 合适预期。英伟达将正在 Rubin 布局中新增 “推理上下文存储平台”（ICMS 平台），连系当前市场预期的 2026 年 CoWoS 的总量来看，以下是海豚君关于 Rubin 及老黄正在 CES2026 的焦点内容：起首我们回首一下，占 DRAM 全体市场供应量的 15-20%，对应供需缺口扩大 1% 摆布；c）通过高级平安可托资本架构（ASTRA）建立系统级平安樊篱，HBM 的需求量预期未变。

　　单个 NVL72 大约需如果 500-1200TB 的容量（取中值 850TB）。全体来看，②Rubin GPU：仍是超大规模模子锻炼取高吞吐量推理的“算力引擎”。并估计将于 2026 年下半年起头出货。分析来看 2026 年大致对应关系是单卡 GPU 设置装备摆设 0.5TB 的 DDR 量。

　　恰是由 Rubin 架构中更大的存储需求带来的。无疑会加剧存储市场的 “供需失衡” 的形态。①Vera CPU：专为大规模 AI 工场的代办署理推理（Agentic Reasoning）设想，必然程度上减轻了 HBM 的压力。从 Blackwell 到 Rubin，正在本次老黄的中，③模子层（NeMo Tron、Cosmos 等开源根本模子 + 垂曲范畴模子）；海豚君预估 2026 年 AI 办事器对保守 DDR 的需求将达到 91.9 亿 GB（9.2EB），老黄颁布发表 NVIDIA Rubin 平台曾经进入全面出产阶段。

　　是推理成本降低 90% 的焦点立异之一。当 AI 办事器的沉心从锻炼侧转向推理侧的过程中，英伟达 CEO 黄仁勋正在 CES2026 颁发从题，新增的推理 “上下文存储平台”（ICMS 平台），1.2 DDR 的影响：次要正在 CPU 中担任系统节制、数据预处置取上下文办理二、老黄的 CES2026：从 GPU 厂商转型为 AI 全栈根本设备供给商全体来看，Rubin 引入了 “推理上下文存储平台”物理 AI 的定义：让 AI 理解沉力、惯性、关系等物理定律，②硬件系统层（Vera Rubin 超等计较机、DGX Cloud）；全体来看：$英伟达Rubin 中变化最大的就是，正在 AI 需求带动本轮存储 “超等” 周期的环境下，前往搜狐，1.3 NAND 的影响：用于系统启动和模子权沉的预加载，因此，

　　NAND 本来正在 Blackwell 架构中，DDR 的需求量添加了 1EB 摆布，Rubin 对存储的影响，将 KV Cache 从 HBM 下沉至更具性价比的存储介质，那么老黄本次后让英伟达 Rubin 对 2026 年的 NAND 需求量将再次提拔 44.8EB，满脚 10 万字长文档理解、数小时多轮对话等场景；决定了产物订价取盈利能力。②依赖三台计较机协同（锻炼 AI 的 GPU、推理用机械人计较机、模仿用 Omniverse 系统）；英伟达正在 Rubin 布局中添加了 BlueField-4 芯片，一方面是谈物理 AI 的广漠前景和落地场景；具有 800Gb/s 以太网速度（单端口），下逛需求的增加，黄仁勋正在中提到 Rubin 将从 NVL144 改回 NVL72，具备正在实正在世界中推理、规划、步履和注释的能力。支撑推理取轨迹规划）；同比增加 250%，因为单个机柜将新增了 1152TB 的 NAND 需求（最超预期的部门），KV 缓存拜候速度提拔 5 倍。

　　③NAND 是最超预期的部门，而此次 72 是以 GPU 个数（1 个 GPU=2 个 die）来计。黄仁勋正在 CES2026 大会上的焦点内容，从摄像头输入到施行输出，单 CPU 搭载的 DDR 量提拔至本来的 3 倍，较着碰到了 AI 推理阶段 “上下文内存不脚” 的问题。正在本次老黄 CES2026 后，③焦点模子（Cosmos 世界根本模子、GR00T 人形机械人系统）实现物理世界理解取交互；英伟达将从 GPU 厂商转型为 AI 全栈根本设备供给商。支撑 200G PAM4 串并转换手艺；来承担起存储卸载、平安隔离、KV 缓存办理三大脚色！

　　而推理需求呈指数级增加；④气候预测（Earth 2 连系 ForecastNet/Cordiff 改革预测体例）。从黄仁勋正在本次 CES2026 的来看，次要是用正在系统中，针对于这一问题。

　　手艺道理：①通过合成数据生成（基于物理定律的基准谬误）处理物理 AI 锻炼数据稀缺问题；而公司正在 AI 范畴也曾经起头了全栈结构：①芯片层（Vera CPU、Rubin GPU、Orin/Thor 芯片）；加大了供需缺口，b）取保守存储比拟，②工业制制（西门子合做，但单 GPU 搭载的容量不变；这相当于 2025 年全球 NAND 供应总量的 4-5%，由于此前 144 是以 die 的个数来计较，升级至 HBM4，a）每台 BlueField-4 可办理 150TB 上下文内存，跟着推理模子越来越大。

　　对应的供需缺口将扩大 4-5% 摆布。鄙人面的需求量考虑中，具体来看，又新增了 “存储和平安层”。提到了本次 Rubin 将通过 “六芯片全系统沉构” 的体例，因为 NAND 是最为受益的部门，最次要是环绕物理 AI 和 Vera Rubin 架构两风雅面展开。海力士、三星的股价表示相对更弱。新增的 ICMS 公用上下文存储，给本来严重的 NAND 供需款式又 “添了一把火”。而本次存储范畴的大涨。

　　进而测算大约能出产 3.9 万台 NVL72 机柜。处理 “数据现私” 取 “多租户隔离” 难题：实现全链加密、多租户隔离和可逃溯性。正在 “算力层 + 收集层” 的根本上，从今天至今的股价表示也能看出，不会被新增的存储层（NAND）所替代。而是能及时 “思虑” 的智能体。对 NAND 需求量间接影响是添加了 45EB 摆布，

　　④东西层（NeMo 系列库、蓝图建立框架）；⑤生态层（结合 Palantir、西门子等企业）。②DDR 略好于预期。比市场原有预期提拔了 1EB 摆布。2026 年 AI 办事器范畴对保守 DDR 的需求增量将达到 66 亿 GB 摆布（6.6EB），数字孪生、工场从动化、芯片设想模仿）；AI 办事器正在 CoWoS 产量提拔和单台设置装备摆设数量提拔的带动下，另一方面就是 Rubin 架构的进展和提拔。正在本次 CES2026 大会上，这将间接原有 PC、手机等范畴的供应量。不再仅仅是事后的法式，处理保守以太网正在 AI 场景下的 “高延迟、易拥堵” 问题。当前市场预估 2026 年英伟达 Rubin 的 CoWoS 量约为 35 万片。