中泰证券2025年通信行业策略报告指出，AI正从训练时代加速迈入推理时代。OpenAI推出o1系列推理模型，复杂推理能力显著增强，带来新的Scaling Law。Barclays预测推理算力规模2026年将超过训练侧，推理资本开支从2023年的0.08亿美元增长至2027年的406亿美元。博通ASIC芯片放量预示推理需求爆发，预计2027年AI XPU和网络市场达到600-900亿美元。AI推理时代将重塑数据中心产业链，网络互联与终端价值面临重估。
从训练到推理：算力需求结构的代际切换
AI算力需求正经历从预训练主导到推理主导的结构性变革。OpenAI于2024年9月推出全新o1系列AI模型，通过内置思维链逐步解决问题，模拟人类慢思考过程，AI进入L2"推理者"阶段。o1模型性能随强化学习时间和推理时间增加而显著提高，带来不同于传统大规模预训练的全新Scaling Law。
从算力需求结构看，Barclays预测推理算力规模2026年将超过训练侧。推理算力从2023年的14EFLOPS增长至2027年的821092EFLOPS，四年增长约5.8万倍；推理芯片采购从75万片增长至约13.9亿片；推理资本开支从0.08亿美元增长至406亿美元，每年保持数倍扩张。IDC预计到2027年国内用于推理的工作负载占比将达到约73%。国内DeepSeek、Kimi、阿里等陆续发布类o1推理模型，推理算力需求正加速从海外映射至国内。
表1：AI算力推理侧与训练侧需求预测对比| 指标 | 2023年 | 2024年 | 2025年 | 2026年 | 2027年 |
|---|
| 推理算力（EFLOPS） | 14 | 31,000 | 146,879 | 821,092 | — |
| 推理算力同比增速 | — | 68x | 5x | 6x | — |
| 推理芯片采购（万片） | 75 | 1,316 | 7,760 | 23,279 | 13,989 |
| 推理资本开支（亿美元） | 0.08 | 3 | 49 | 122 | 406 |
| 推理工作负载占比 | 33% | 39% | 50% | 73% | 75% |
云厂商资本开支上行：北美CSP与国内BAT双轮驱动
海外云厂商持续加大AI基础设施投入。2024Q3亚马逊/微软/Meta/谷歌资本开支合计约575亿美元，同比增长59.6%，环比增长约11%。亚马逊预计2024年全年资本支出约750亿美元，2025年将进一步扩大；Meta预计2024年全年资本支出380-400亿美元，2025年将显著增长；谷歌资本开支主要投向服务器、数据中心和网络设备。Meta计划投资100亿美元建设公司史上最大AI数据中心；xAI计划将Colossus超算扩至至少100万个GPU。
国内BAT资本开支自2023Q2起整体回暖，2024Q3合计约370亿元，同比增长约136%，环比增长62%。开支重点为AI处理器和基础设施采购，为AI大语言模型训练和推理提供支持。三大运营商2024年资本开支结构向算力网络倾斜，中移动算力投资475亿元（+21.5%），占资本开支比重提升至27.5%；中电信产业数字化投资占比提升至38.5%。北美CSP与国内BAT资本开支同步高增，为全球AI算力产业链提供持续订单能见度。
博通ASIC与AI芯片迭代：推理需求放量的产业信号
博通2024年ASIC芯片放量预示推理算力需求爆发。博通预计2027年AI XPU和网络市场达到600-900亿美元，AI XPU（定制化ASIC芯片）在推理场景中因性价比优势正在快速渗透。英伟达芯片升级周期缩短，2024年3月发布Blackwell架构GB200，性能为H100的5倍，2025年1月开启交付；2025年中推出"Blackwell Ultra"GB300，原定2026年的Rubin GPU有望提前6个月推出（3nm工艺+HBM4）。
科技巨头加码AI芯片自研。亚马逊Trainium2芯片正式可用（BF16约650TFLOPS，约H100的60%），Trainium3（3nm，性能翻倍）2025年上市。苹果在AWS上推理负载实现40%效率提升。谷歌、微软均在自研AI专用芯片布局，OpenAI与博通台积电合作开发首款芯片（预计2026年推出）。AI芯片从训练专用走向训练+推理通用，推理场景的多样化正推动ASIC、GPU、NPU等多路径并存。
AI终端百花齐放：端侧推理开启新一轮硬件周期
AI推理正从云端向终端下沉。混合AI架构在云端和边缘终端之间分配AI工作负载，降低成本能耗、提高运行效率。高通2024年10月发布骁龙8至尊版芯片，支持同时运行多个AI工作负载。端侧AI由手机向车载、PC及可穿戴设备延伸，Canalys预计2027年全球AI PC出货量将超1.7亿台。
特斯拉Optimus人形机器人2025年初小批量生产（工厂自用），2026年对外出售，单手自由度提升至22个。字节AI陪伴玩偶"显眼包"、AI玩具挂件"BubblePal"（2024年7月上线，截至10月销量达数万台）等C端产品验证了端侧AI商业化的可行性。AI推理时代人形机器人、自动驾驶、AI手机、AI玩具、AI眼镜等端侧AI百花齐放，AI在每个领域的应用落地都意味着推理算力需求的指数级扩张，终端推理芯片、模组、传感器等硬件环节迎来确定性增量。
