东方证券研究报告显示,豆包大模型日均tokens使用量已超4万亿,较七个月前增长33倍,火山引擎预计2027年豆包每天Token消耗量将超100万亿,为当前100倍以上。推理需求的爆炸式增长对计算架构、网络、存储、安全等基础设施提出了全方位更高要求。AI云原生方案与万卡集群组网能力成为算力供给刚需,服务器、液冷、PCB、光模块等产业链环节有望持续受益于算力建设浪潮。
从训练到推理:AI算力需求结构正经历历史性切换
AI大模型的应用需要训练和推理两个过程。当前训练算力仍占据主流,训练算力与推理算力的占比约为6:4。但随着豆包等大模型在应用端的广泛落地,推理算力需求正在以远超预期的速度爆发。2024年8月英伟达管理层表示,过去四个季度推理算力占数据中心收入约40%,且未来推理算力的收入将持续提升。IDC预测更为激进,预计到2027年中国智能算力中推理算力占比将上升至72.6%。
豆包通用模型截至2024年12月中旬日均tokens使用量超过4万亿,字节跳动管理层综合算力资源储备、市场用量、模型成本下降等因素判断,2027年日Token消耗将超100万亿,是现在的100倍以上。这一增速意味着推理算力基础设施建设已从"按需扩容"切换到"超前部署"模式。
表2:AI算力需求增长核心指标与产业链传导| 核心指标 | 当前数据 | 未来预测 | 产业链受益方向 |
|---|
| 豆包日均Token消耗 | 超4万亿(2024.12) | 超100万亿(2027E) | AI服务器、光模块、数据中心 |
| AI服务器出货量 | 年增40%(2024E) | 持续高增长 | 服务器整机、PCB、散热 |
| 推理算力占比 | 约40%(当前) | 72.6%(2027E) | 推理专用芯片、边缘计算 |
| 服务器PCB市场规模 | 82亿美元(2023) | 138亿美元(2028E) | 高阶HDI、高频高速PCB |
万卡集群与AI云原生:算力工程化能力成为核心竞争力
火山引擎在2024冬季FORCE大会上提出AI Cloud Native方案,核心能力包括单集群万卡组网、vRDMA网络支持大规模并行计算、P/D分离推理架构等。在训练端,2023年1万枚AI芯片是训练基础大模型的入场券,2024年以后训练下一代基础大模型正朝着10万枚AI芯片演进。豆包模型家族的持续拓展和升级,使训练算力部署始终处于高强度投入状态。
在推理端,火山引擎通过EIC弹性极速缓存实现GPU直连,推理时延降低至1/50、成本降低20%。基于PCC私密云服务,企业可实现用户数据在云上推理的端到端加密,推理时延与明文模式差异控制在5%以内。计算架构的代际优化使单位算力产出效率持续提升,但从Token消耗量的百倍增长预期来看,算力硬件的总需求曲线仍将保持陡峭向上。
AI服务器与液冷:功耗挑战催生散热技术路线升级
AI服务器是算力建设的核心硬件载体。据TrendForce数据,2022年字节跳动AI服务器年采购占比达6.2%,高于国内主要云厂商。2024年全球AI服务器出货量预计超160万台,年增长率达40%。工业富联积极参与字节相关产品研发推出,为字节跳动提供服务器硬件设备;润泽科技、亚康股份、华胜天成等多家公司在算力侧与字节合作紧密。
服务器功耗陡增对散热提出了空前挑战。字节跳动与高澜股份合作部署12U浸没液冷模组,申菱环境数据中心液冷散热产品广泛服务于字节,曙光数创液冷产品也在字节得到应用。液冷散热相比传统风冷在PUE(电源使用效率)上的优势明显,在AI芯片功耗持续攀升的趋势下,液冷渗透率有望从当前不足10%快速跃升至30%以上,液冷产业链厂商将迎来订单放量窗口期。
PCB与光模块:数据传输速率升级拉动硬件价值重估
数据洪流对端、边、云的冲击正推动数据中心向更高速度标准演进。400Gbps及以上数据中心交换机的加速采用,以及服务器产品的更新换代,催生对大尺寸、高层数、高阶HDI以及高频高速PCB产品的强劲需求。Prismark数据显示,2023年全球服务器领域PCB市场规模约82亿美元,2028年预计增长至138亿美元,CAGR达11%。服务器PCB单机价值量由2021年576美元上升至2026年705美元,涨幅达22.4%。
光模块作为AI算力的核心器件同样受益显著。字节跳动是光迅科技、华工科技等光模块公司的重要客户,大量产品已进入字节供应链。光芯片占光器件成本的81%,源杰科技、长光华芯等光芯片厂商有望在AI算力建设浪潮中持续受益。随着数据中心向800G、1.6T光互联演进,光模块与光芯片的价值量将持续提升。