×

研报 | 英伟达多元产品线分攻AI训练与推理需求,以应对CSP自研ASIC规模升级

wang wang 发表于2026-03-18 21:30:10 浏览1 评论0

抢沙发发表评论

研报 | 英伟达多元产品线分攻AI训练与推理需求,以应对CSP自研ASIC规模升级

Mar. 18, 2026 

产业洞察

根据TrendForce集邦咨询最新AI Server研究,在大型云端服务供应商(CSP)加大自研芯片力道的情况下,NVIDIA(英伟达)在GTC 2026大会改为着重各领域的AI推理应用落地,有别于以往专注云端AI训练市场。通过推动GPU、CPU以及LPU等多元产品轴线分攻AI训练、AI推理需求,并借由Rack整合方案带动供应链成长。

TrendForce集邦咨询表示,随着以Google(谷歌)、Amazon(亚马逊)等CSP为首的自研芯片态势扩大,预估ASIC AI Server占整体AI Server的出货比例将从2026年的27.8%,上升至2030年的近40%。

为巩固在AI市场的领导地位,NVIDIA采取的其中一项策略为积极推动GB300、VR200等整合CPU、GPU的整柜式方案,强调可扩展至AI推理应用。本次在GTC发表的Vera Rubin被定义为高度垂直整合的完整系统,涵盖七款芯片和五款机柜。

观察Rubin供应链进度,预计2026年第二季存储器原厂可提供HBM4给Rubin GPU搭载使用,助力NVIDIA于第三季前后陆续出货Rubin芯片。至于NVIDIA GB300、VR200 Rack系统出货进程,前者已于2025年第四季取代GB200成为主力,预估至2026年出货占比将达近80%,而VR200 Rack则约在2026年第三季度末可望逐步释放出货量能,后续发展仍需视ODM实际进度而定。

另外,AI从生成跨入代理模型时代,在生成Token的译码(Decode)阶段面临严重的延迟与存储器带宽瓶颈。为此,NVIDIA整合Groq团队技术,推出专为低延迟推理设计的Groq 3 LPU,单颗内建500MB SRAM、整机柜可达128GB。

然而,LPU本身的存储器容量无法容纳Vera Rubin等级的庞大参数与KV Cache。NVIDIA因此于本次GTC提出“解耦合推理(Disaggregated Inference)”架构,通过名为Dynamo的AI工厂作业系统,将推理流水线一分为二:处理代理型AI时,需进行大量数学运算并储存庞大KV Cache的Pre-fill、Attention运算阶段,交由具备极高吞吐量与巨量存储器的Vera Rubin执行。而受限于带宽且对延迟极度敏感的译码与Token生成阶段,则直接卸载至扩充了巨量存储器的LPU机柜上。

在供应链进度上,第三代Groq LP30由Samsung(三星)代工,已进入全面量产阶段,预计于2026年下半年正式出货,未来更规划在下一代Feynman架构中推出效能更高的LP40芯片。

如果你觉得这篇文章有价值,记得点赞并分享给更多人知道!

   TrendForce集邦咨询   

TrendForce

AI服务器产业

趋势分析  商业洞察  信息精选

PS:当您需要在报道中引用TrendForce集邦咨询提供的研报内容或分析资料,请注明资料来源为TrendForce集邦咨询。

近期文章精选 TrendForce 

研报 | 2025年第四季度全球电动车牵引逆变器装机量创新高,高压平台渗透率持续提升

研报 | 2025年第四季度全球前五大企业级SSD营收季增超50%

研报 | AI需求推升2025年第四季度全球前十大晶圆代工产值季增2.6%

关注我们

全球高科技产业研究机构

TrendForce集邦咨询是一家全球高科技产业研究机构,研究领域涵盖存储器、AI服务器、集成电路与半导体、晶圆代工、显示面板、LED、AR/VR、新能源(含太阳能光伏、储能和电池)、AI机器人及汽车科技等前沿科技领域。凭借多年深耕,集邦咨询致力于为政企客户提供前瞻性的行业研究报告、产业分析、项目规划评估、企业战略咨询及品牌整合行销服务,是高科技领域值得信赖的决策伙伴。

TrendForce is a global high-tech industry research institution. Its research fields cover cutting-edge technology domains such as memory, AI servers, integrated circuits and semiconductors, semiconductor foundry, display panels, LEDs, AR/VR, new energy (including solar photovoltaics, energy storage, and batteries), AI robots, and automotive technology. With years of in-depth research, TrendForce is committed to providing forward-looking industry research reports, industrial analysis, project planning and evaluation, corporate strategic consulting, and brand integrated marketing services for government and enterprise clients. TrendForce is a trusted decision-making partner in the high-tech field.

△  向上滑动查看企业介绍