返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

英伟达GB200机柜方案

国信证券最新报告指出,英伟达Blackwell架构正推动AI服务器形态发生根本性变革,从8卡HGX服务器向机柜级产品转移。GB200 NVL72机架级方案连接36个Grace CPU和72个Blackwell GPU,功率约120kW,是一款液冷式机架级解决方案。在相同功率下,GB200可提供25倍于H100风冷基础设施的性能。鸿海计划到2025年产能达20,000台NVL72机柜。英伟达还推出GB200 NVL362、Ariel和x86 B200 NVL72等形态,以及HGX/DGX/MGX三种交付模式。下一代GB300预计2025年3月GTC大会发布,B300芯片功率达1400W,HBM容量升至288GB。GB200/GB300机柜方案正重塑AI服务器产业链,铜连接、液冷、电源等环节价值量显著提升。

从Hopper到Blackwell——服务器形态的根本性变革

英伟达从2006年进军AI计算后,计算架构基本保持两年一代的迭代速度。2024年春季GTC上,英伟达正式推出Blackwell计算架构,拥有2080亿个晶体管,是Hopper GPU晶体管数量的2.5倍以上,使用台积电4NP工艺制造,单芯片算力高达20 petaFLOPS。Blackwell产品体系包括超级芯片GB200对应的机柜级产品、高性能HGX系统HGX B200/B300等。B200将两个晶片合并为一个GPU,通过10TB/s的NV-HBI接口连接。GB200超级芯片由2颗Blackwell GPU和1颗Grace CPU组成,通过NVLink-C2C连接提供900GB/s双向带宽。从产品形态看,Blackwell较Hopper发生重大变化——Hopper系列以HGX H100/H200(8 GPU服务器)为主,而Blackwell推出GB200 NVL72机柜级产品(72 GPU)。GB200 NVL72引入第二代Transformer引擎支持FP4 AI,与第五代NVLink结合可为万亿参数语言模型提供30倍实时LLM推理性能。与H100风冷基础设施相比,GB200在相同功率下可提供25倍性能。

GB200机柜家族——NVL72/NVL362/Ariel/x86四种形态

英伟达GB200机柜预计将推出四种外形尺寸,为客户提供更多选择。GB200 NVL72:每个机架约120kW,由18个1U计算托盘和9个NVSwitch托盘组成,每个计算托盘包含2个Bianca板(1个Grace CPU+2个Blackwell GPU),NVSwitch托盘包含两个28.8Tb/s NVSwitch5 ASIC。GB200 NVL362:两个并排互连的机架,每个机架36个GPU,总功率132kW,为无法支持120kW密度的数据中心提供选择。GB200 NVL362(Ariel):将计算托盘中的Bianca板替换为Ariel板(1个Grace CPU+1个Blackwell GPU),主要用于Meta推荐系统训练和推理工作负载。x86 B200 NVL72/NVL36x2:预计2025年二季度推出,用x86 CPU替代Grace CPU。鸿海发言人在法说会回应,2024年四季度小量生产GB200服务器,2025年大量出货;鸿海科技日上董事长刘扬伟表示市场对Blackwell芯片需求达“疯狂程度”,计划到2025年产能达到20,000台NVL72机柜。

HGX/DGX/MGX三种模式——产业链分工的重塑

GB200机柜级产品带来产业链分工的显著变化。HGX模式:GPU模组、板卡、服务器的制造几乎全部由ODM厂商进行,交付给品牌服务器厂商出货。DGX GB200机柜:英伟达标准化平台,不支持定制,芯片制造封装完成后由ODM代工组装为Compute Board、Switch Board等,再按英伟达标准组装为机柜,交付给英伟达直接销售给中小数据中心、主权数据中心等客户。MGX GB200机柜:模块化参考设计,ODM完成Compute Board、Switch Board等组装后交付英伟达,再由英伟达将标准模块化组件出货给服务器ODM厂商,根据CSP(大型云服务商)的设计要求组装为机柜并交付。对于GB200机柜级产品,ODM厂商的分工均较HGX模式发生变化——由于机柜本身价值量提升、技术难度增长,ODM厂商贡献的价值也随之提升。GB200服务器ODM市场加速整合,鉴于广达和鸿海与CSP的紧密业务关系、充足的营运资金和研发资源以及全球生产基地,预测广达和鸿海将占据GB200服务器ODM市场的大部分份额。
表:英伟达GB200机柜方案四种形态对比
形态GPU数量功率特点目标客户
GB200 NVL7272120kW标准方案,18个1U计算托盘通用数据中心
GB200 NVL36236×2132kW两个机架互连,功率密度更低无法支持120kW的数据中心
GB200 NVL362 (Ariel)36×21 Grace CPU+1 Blackwell GPUMeta推荐系统
x86 B200 NVL7272x86 CPU替代Grace CPU通用数据中心

GB300展望——2025年GTC发布,B300芯片1400W

英伟达下一代AI服务器GB300已进入研发设计阶段,预计2025年3月GTC大会发布,三季度实机面市。主要规格变化:配置更强大的B300芯片,功率达1400W(B200为1200W),通过新Ultra架构带来单卡1.5倍FP4性能提升,每个GPU的HBM容量从192GB提升到288GB。服务器设计变更包括:B300将采用LPDDR CAMMs和GPU插座以降低GPU故障成本和供应链风险;x86 CPU替代方案仍需PCI-E接口;机架总功耗提升至130-140kW;可选择采用功率电容架和BBU;GB300/300A的零部件供应商更灵活选择。受惠厂商包括鸿海、广达、英业达、台光电、台耀、AES-KY等。从H100到GB200到GB300,AI服务器价值量持续提升,产业链相关公司持续受益。
点击阅读报告原文: AI服务器行业深度:驱动因素、竞争格局、产业链及相关公司深度梳理-250120(38页)
相关报告