返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

AI算力需求前景

东方证券研究报告显示,豆包大模型日均tokens使用量已超4万亿,较七个月前增长33倍,火山引擎预计2027年豆包每天Token消耗量将超100万亿,为当前100倍以上。推理需求的爆炸式增长对计算架构、网络、存储、安全等基础设施提出了全方位更高要求。AI云原生方案与万卡集群组网能力成为算力供给刚需,服务器、液冷、PCB、光模块等产业链环节有望持续受益于算力建设浪潮。

从训练到推理:AI算力需求结构正经历历史性切换

AI大模型的应用需要训练和推理两个过程。当前训练算力仍占据主流,训练算力与推理算力的占比约为6:4。但随着豆包等大模型在应用端的广泛落地,推理算力需求正在以远超预期的速度爆发。2024年8月英伟达管理层表示,过去四个季度推理算力占数据中心收入约40%,且未来推理算力的收入将持续提升。IDC预测更为激进,预计到2027年中国智能算力中推理算力占比将上升至72.6%。

豆包通用模型截至2024年12月中旬日均tokens使用量超过4万亿,字节跳动管理层综合算力资源储备、市场用量、模型成本下降等因素判断,2027年日Token消耗将超100万亿,是现在的100倍以上。这一增速意味着推理算力基础设施建设已从"按需扩容"切换到"超前部署"模式。
表2:AI算力需求增长核心指标与产业链传导
核心指标当前数据未来预测产业链受益方向
豆包日均Token消耗超4万亿(2024.12)超100万亿(2027E)AI服务器、光模块、数据中心
AI服务器出货量年增40%(2024E)持续高增长服务器整机、PCB、散热
推理算力占比约40%(当前)72.6%(2027E)推理专用芯片、边缘计算
服务器PCB市场规模82亿美元(2023)138亿美元(2028E)高阶HDI、高频高速PCB

万卡集群与AI云原生:算力工程化能力成为核心竞争力

火山引擎在2024冬季FORCE大会上提出AI Cloud Native方案,核心能力包括单集群万卡组网、vRDMA网络支持大规模并行计算、P/D分离推理架构等。在训练端,2023年1万枚AI芯片是训练基础大模型的入场券,2024年以后训练下一代基础大模型正朝着10万枚AI芯片演进。豆包模型家族的持续拓展和升级,使训练算力部署始终处于高强度投入状态。

在推理端,火山引擎通过EIC弹性极速缓存实现GPU直连,推理时延降低至1/50、成本降低20%。基于PCC私密云服务,企业可实现用户数据在云上推理的端到端加密,推理时延与明文模式差异控制在5%以内。计算架构的代际优化使单位算力产出效率持续提升,但从Token消耗量的百倍增长预期来看,算力硬件的总需求曲线仍将保持陡峭向上。

AI服务器与液冷:功耗挑战催生散热技术路线升级

AI服务器是算力建设的核心硬件载体。据TrendForce数据,2022年字节跳动AI服务器年采购占比达6.2%,高于国内主要云厂商。2024年全球AI服务器出货量预计超160万台,年增长率达40%。工业富联积极参与字节相关产品研发推出,为字节跳动提供服务器硬件设备;润泽科技、亚康股份、华胜天成等多家公司在算力侧与字节合作紧密。

服务器功耗陡增对散热提出了空前挑战。字节跳动与高澜股份合作部署12U浸没液冷模组,申菱环境数据中心液冷散热产品广泛服务于字节,曙光数创液冷产品也在字节得到应用。液冷散热相比传统风冷在PUE(电源使用效率)上的优势明显,在AI芯片功耗持续攀升的趋势下,液冷渗透率有望从当前不足10%快速跃升至30%以上,液冷产业链厂商将迎来订单放量窗口期。

PCB与光模块:数据传输速率升级拉动硬件价值重估

数据洪流对端、边、云的冲击正推动数据中心向更高速度标准演进。400Gbps及以上数据中心交换机的加速采用,以及服务器产品的更新换代,催生对大尺寸、高层数、高阶HDI以及高频高速PCB产品的强劲需求。Prismark数据显示,2023年全球服务器领域PCB市场规模约82亿美元,2028年预计增长至138亿美元,CAGR达11%。服务器PCB单机价值量由2021年576美元上升至2026年705美元,涨幅达22.4%。

光模块作为AI算力的核心器件同样受益显著。字节跳动是光迅科技、华工科技等光模块公司的重要客户,大量产品已进入字节供应链。光芯片占光器件成本的81%,源杰科技、长光华芯等光芯片厂商有望在AI算力建设浪潮中持续受益。随着数据中心向800G、1.6T光互联演进,光模块与光芯片的价值量将持续提升。
点击阅读报告原文: 电子行业深度报告:豆包大模型全面升级算力侧和应用侧产业链有望受益-250106(17页)
相关报告