2024年GTC大会上,英伟达发布基于Blackwell架构的GB200 NVL72服务器,引发行业广泛关注。这款液冷机架级解决方案包含18个计算节点、72个GPU芯片,内部采用5000根NVLink铜缆实现互联,总长度超3219米。铜连接方案替代光纤成为服务器内部互联基石,无需光电信号转换,大幅降低能耗。东方证券从技术架构、性能优势、市场影响三个维度,深入分析NVL72服务器铜连接方案对产业链的深远影响。
NVL72技术架构——5000根铜缆构建内部互联网络
GB200 NVL72服务器具备130TB/s的NVLink多节点全互联带宽,包含18个计算节点,每个节点配备2块GB200主板,共计72个GPU芯片。每个NVLink交换机托盘提供144个100GB的NVLink端口,9台交换机完全连接72个Blackwell GPU的18个NVLink端口。
内部网络主要依赖电气信号背板和铜线组成的NVLink网络,而在外部扩展特别是大规模GPU卡片互联时,则需要2至3层交换机网络和光通信方案。新架构将NVSwitch系统集成到服务器内部,无需光电信号转换。电缆盒内含5000根NVLink铜缆,总长度超3219米(2英里)。外部线缆较长,NVL72服务器选择采用ACC电缆设计而非DAC。
NVLink 5.0——性能是PCIe 5.0的14倍
NVLink是专为连接NVIDIA GPU设计的高速互联技术,允许GPU间进行点对点通信,取代传统PCIe总线,实现更高带宽和更低延迟。NVLink 5.0 GPU间总带宽达1800 GB/s,是NVLink 1.0(160 GB/s)的11倍,是PCIe 5.0的14倍。最大链数从4条增至18条。
第五代NVLink技术单个NVLink域最多可连接576个GPU,总带宽超1PB/s,快速内存容量超240TB。GB200 NVL72服务器推理能力是前代H100的7倍,训练速度提升至H100的4倍,同时大幅降低能耗,已成为高性能、低能耗设备新标杆。
Blackwell产品策略——B200A推动铜背板占比提升
受CoWoS-L良率影响,英伟达决定取消B100系列产品,并推迟B200系列订单。同时计划2025年推出B200A和GB200A Ultra NVL36机柜。B200A性能与B20芯片相似,主要面向能耗要求不高的小型企业。GB200A NVL36由36个CPU互连并配备NVLink。
由于B200A成本低于B200,铜背板在GB200A NVL36的总物料清单(BOM)中比例将上升。机柜内部互联(包括NVSwitch机架和电缆盒)对铜的需求将增加,为铜互联市场带来更多发展机会。英伟达正在为中国市场开发Blackwell架构的AI芯片B20,采用同系列铜连接架构设计,若客户需求从H20转向B20,铜互联市场将迎来显著增量需求。
铜互连产业影响——海外巨头跟进,国产替代加速
铜互联技术不仅限于英伟达,谷歌、微软和亚马逊等科技巨头也在数据中心集成方案中积累铜缆使用经验。谷歌TPU v4超级计算机中,64个芯片通过直接连接的铜缆在ICI网络内部通信;光收发器成本超过无源铜缆10倍。微软和亚马逊都在各自数据中心中引入DAC或AEC互联方案。
国内华为昇腾AI芯片训练效率已超越业界标准,随着华为芯片、板卡、服务器和集群需求增长,高速背板连接器和I/O连接器等上游企业受到更多关注。华丰科技作为华为高速背板连接器核心合作伙伴,已具备56Gbps量产能力并完成国产替代。随半导体产业国产替代进程推进,国内高速背板连接器行业有望与国产AI算力芯片共同快速发展。
表3:NVLink各版本性能对比| 版本 | 显卡 | 架构 | GPU间总带宽 | 最大链数 |
|---|
| NVLink 1.0 | P100 | Pascal | 160 GB/s | 4 |
| NVLink 2.0 | V100 | Volta | 300 GB/s | 6 |
| NVLink 3.0 | A100 | Ampere | 600 GB/s | 12 |
| NVLink 4.0 | H200 | Hopper | 900 GB/s | 18 |
| NVLink 5.0 | GB200 | Blackwell | 1,800 GB/s | 18 |