德勤:2026驱动人工智能-支撑数据中心的半导体生态系统研究报告(46页).pdf
2026-07-07
文档编号:1275670
文档页数:46
文档大小:6.27MB
下载积分:VIP专享
文档格式:PDF
DOCX
核心结论速览。 单个AI服务器机架包含超4,500颗封装芯片,由约20,000个独立晶粒组成:AI数据中心是半导体技术的集大成者,一个领先数据中心可容纳超4,500万颗芯片。 半导体占领先AI服务器机架内容价值95%以上:同时占建设和运营AI数据中心所需总资本支出的50%以上,是AI基础设施的绝对价值核心。 AI数据中心半导体年收入到2028年有望突破1.2万亿美元:四年内增长近十倍,2022年至2028年复合年增长率达88.8%。 逻辑芯片占服务器机架半导体内容价值65%,存储芯片超20%:AI加速器(GPU/ASIC)单一品类即占半导体内容70%以上。 AI加速器与HBM共同封装成现代AI计算核心:HBM通过硅通孔垂直堆叠存储晶粒,为加速器提供超快速片上内存带宽。 政府与行业将在2028年前向AI数据中心投资超4万亿美元:其中高达2.8万亿美元将用于半导体,AI正驱动半导体行业进入超级周期。 推理工作负载正成为AI芯片需求主要驱动力:预计推理在总需求中的份额将从2024年的20%增长至2032年的80%,复合年增长率达122%。H2:研究背景——半导体,AI基础设施的基石。半导体是人工智能(AI)的基础使能技术,这项技术正在改变全球经济与社会,使整个产业更具生产力和创新性,并推动重大科学突破。当今的AI系统建立在半导体生态系统数十年创新的基础之上。美国半导体行业协会(SIA)与德勤(Deloitte)联合发布的《驱动人工智能支撑数据中心的半导体生态系统》报告(2026年6月),通过拆解最先进的AI数据中心服务器——现代AI基础设施的基础单元——提供了关于构成AI基础设施核心的多种芯片的独特由内而外的视角。与传统停留在系统级性能或市场规模分析的报告不同,本报告深入探讨服务器每个子系统内部的半导体内容本身,映射出驱动当今数据中心的芯片、晶粒和支持组件。核心数据分布:本报告覆盖从设计到数据中心的全供应链分析,拆解了AI服务器机架中计算托盘、加速器互连托盘、电源托盘、网络与IPMI托盘、CDU托盘五大子系统的半导体内容。报告显示,AI需要全方位的半导体技术——先进逻辑芯片、存储芯片、模拟和基础芯片——每一类对于推动AI建设都至关重要。H2:AI数据中心的芯片全景——从晶粒到机架的五层架构。AI硬件栈从晶粒到机架共分五层,每一层都承载着不可或缺的半导体内容: 晶粒(Die) :半导体层次结构中最小的功能单元,包含执行逻辑、存储或I/O功能的晶体管(如AI加速器晶粒、DRAM晶粒)。 芯片(Chip) :集成一个或多个晶粒的封装半导体器件,提供电气连接、热管理和机械保护。 电路板(Board) :承载芯片、无源器件、存储器和连接器的印刷电路板。 托盘(Tray) :为一个或多个针对特定功能配置的电路板的模块化组件,设计用于在机架内热插拔安装。 机架(Rack) :容纳多个托盘以及共享电源、网络和热基础设施的完整服务器机柜。H2:五大子系统深度拆解——半导体内容的全景透视。1. 计算托盘——AI服务器的大脑。计算托盘是AI服务器机架的大脑,为AI工作负载提供主要处理逻辑。它承载了服务器机架中最昂贵、最先进和最集中的半导体组件,直接负责每瓦性能和AI工作负载吞吐量。核心芯片组件: AI加速器(GPU/ASIC/FPGA):执行核心AI模型计算,并行处理海量数据。单价约10,000-40,000美元(含HBM)。 高带宽存储(HBM) :直接向AI加速器提供超快速片上内存带宽。单价约30-50美元/GB。 中央处理单元(CPU) :服务器控制中心,管理内存访问、系统启动和关闭。单价约7,500-15,000美元。 系统内存(RAM) :为CPU和DPU提供快速临时存储。单价约7-8美元/Gb。 非易失性存储(SSD) :通过PCIe快速存储和服务大型AI数据集。单价约0.20美元/Gb。 数据处理单元(DPU) :从CPU卸载网络、存储访问、加密和遥测工作负载。单价1,000-3,500美元。2. 加速器互连托盘——统一高性能计算架构。加速器互连托盘创建统一的高性能计算架构,使AI服务器内的AI加速器能够作为一个单元运行。包含高带宽交换机ASIC、电源分配块和信号调理有源铜缆芯片,协调服务器机架内数十个AI加速器之间的无缝通信。每个互连托盘包含约4,000颗芯片。3. 电源托盘——电气基础。电源托盘作为AI服务器机架的电气基础,转换、调节和分配电力给机架内的所有系统组件。包含主电源单元(PSU)和电源管理模块(PSMM),以高效率和实时监控转换、调节和分配千瓦级负载。电源托盘包含约600颗芯片,价值约50,000-290,000美元。化合物半导体(如氮化镓GaN和碳化硅SiC)越来越多地用于电源管理系统,因为它们可以处理更高的电压,能量损失和热量更少。4. 网络与IPMI托盘——控制与安全基础设施。提供控制平面基础设施,结合带外管理、高速网络和硬件根安全,以管理和保护机架级操作。包含基板管理控制器(BMC)、带外交换机、带内交换机和可信平台模块(TPM)。5. CDU托盘——液冷管理。冷却液分配单元托盘为高性能AI服务器管理机架级液冷。通过连接到CPU、AI加速器和存储器模块上冷板的闭环系统循环液冷剂,确保稳定热性能。H2:AI训练工作流——芯片如何协同作战。大规模训练AI模型需要一个紧密协调的专用芯片系统,每个芯片都针对工作流中的特定角色进行优化:1. 数据摄取:由DPU处理,作为web规模数据进入系统的协调器。2. 数据存储:写入NVMe SSD,针对检查点和同时供给多个加速器进行优化。3. 数据预处理:DPU以线速率对数据进行预处理,在传递给计算单元之前进行解析和格式化。4. 并行计算:AI加速器集群通过在数千个核心上进行高度并行化计算来加速训练,由HBM支持以管理跨分布式节点的大量模型权重和激活。5. 任务编排:CPU管理同步、存储器协调和任务分配。6. 模型输出:训练完成后,CPU聚合输出并完成模型组装,为下游部署做好准备。H2:市场增长——AI驱动的半导体超级周期。收入预测:部署在AI数据中心的半导体收入预计到2028年将超过1.2万亿美元,五年内增长近十倍。数据中心逻辑芯片(主要是AI加速器)市场在2022年约为300亿美元,2024年扩大到700亿美元,预计2026年将达到1900亿美元。投资规模:为满足全球AI需求,预计2023年至2030年将累计投资4.0万亿美元用于建设AI数据中心,其中高达2.8万亿美元将用于半导体和其他硬件。训练vs推理的此消彼长:行业预测表明,推理工作负载的收入将在未来几年增长数倍。波士顿咨询集团估计,从2023年到2028年,训练将以30%的复合年增长率增长,而推理在同一时期将以122%的速度增长。推理在总需求中的份额预计将从2024年的20%增长到2032年的80%。整体市场展望:麦肯锡预计半导体行业年收入到2030年将达到1.6万亿美元,主要受AI和数据中心的推动。2025年半导体市场为7,917亿美元,生成式AI可能代表该行业未来几年增长的40%以上。H2:半导体内容价值分析——价值高度集中。价值分布:在典型的AI数据中心中,大部分资本支出位于计算基础设施,占AI数据中心总资本支出的50%以上。 逻辑芯片:占服务器机架半导体内容价值的65%,包括AI加速器、CPU、DPU、NIC控制器等。 存储芯片:占20%以上,由HBM、DRAM和NAND闪存器件组成。 模拟与基础芯片:占剩余约10%,包括电源管理IC、电压稳压器和时钟发生器。价值集中现象:仅3%的高价值芯片就驱动了服务器大部分内容价值。服务器中超过一半的芯片价格低于10美元。AI加速器占AI数据服务器机架中半导体内容的70%以上。工艺节点分布:先进节点晶粒几乎完全集中在计算托盘中以处理AI工作负载,而其他处理非核心功能的托盘主要依赖成熟和遗留节点。H2:新兴前沿——塑造AI基础设施未来的五大趋势。1. 边缘需求的影响:到2025年,预计超过50%的数据将由边缘设备生成。推理需求正从集中式数据中心转向结合云、边缘和设备上计算的混合模型,推动对低功耗、成本优化的半导体需求。2. 工艺技术演进:该行业正从FinFET转向纳米片FET设计。未来节点可能包含全环绕栅极(GAA)晶体管和高数值孔径EUV等先进光刻技术。3. 架构与封装转变:向领域特定架构迁移,紧密集成高性能逻辑、存储器和互连。2.5D和3D封装进步实现计算和存储元件的更紧密集成。共封装光学(CPO)将光互连直接嵌入交换机ASIC或加速器。4. 存储与数据移动:仅HBM市场预计到2025年将达到210亿美元。未来几代HBM将具有更高的堆叠高度、改进的能效。5. 硬件-软件协同设计:跨硬件和软件栈的日益集成和优化,为AI工作负载驱动更高的效率。延伸阅读:以上为报告核心趋势分析,如需获取完整报告详细数据及全部子系统拆解与供应链分析,请访问下载页下载完整PDF报告。FAQ区块。Q1:一个AI数据中心服务器机架中包含多少颗芯片?单个AI服务器机架包含超过4,500颗封装芯片,由约20,000个独立晶粒组成。一个领先的数据中心可以容纳超过45,000,000颗芯片。Q2:AI服务器中价值最高的半导体组件是什么?AI加速器(GPU/ASIC)是价值最高的组件,占AI数据服务器机架中半导体内容的70%以上。每个GPU模块将一个或多个领先节点逻辑晶粒、HBM存储器堆栈和中介层共同封装。Q3:AI数据中心半导体市场的规模有多大?部署在AI数据中心的半导体收入预计到2028年将超过1.2万亿美元。为满足全球AI需求,政府和行业将在2028年前向新数据中心基础设施投资超过4万亿美元,其中高达2.8万亿美元将用于半导体。Q4:训练和推理哪个工作负载对芯片需求更大?推理正成为主要驱动力。推理在总需求中的份额预计将从2024年的20%增长到2032年的80%。从2023年到2028年,推理工作负载的复合年增长率预计达122%,而训练为30%。Q5:化合物半导体在AI数据中心中扮演什么角色?氮化镓(GaN)和碳化硅(SiC)等化合物半导体越来越多地用于电源管理系统,因为它们可以处理更高的电压,能量损失和热量更少,对高密度AI机架的电力输送至关重要。数据来源说明。本分析基于美国半导体行业协会(SIA)与德勤(Deloitte)联合发布的《驱动人工智能支撑数据中心的半导体生态系统》(Powering AI: The Semiconductor Ecosystem at the Foundation of Data Centers)报告(2026年6月)。报告通过拆解AI数据中心服务器的五大子系统,提供了从芯片级到机架级的完整半导体内容分析。数据来源包括WSTS、麦肯锡、波士顿咨询集团等行业研究机构。





点击查看更多