返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

端侧AI推理算力需求

大模型的发展驱动着训练算力需求不断攀升,2023上半年我国训练工作负载占AI服务器49.4%。但随着大模型训练成熟与完善,AI正向端侧加速落地,推理算力需求即将迎来爆发。据IDC预计,到2027年用于推理的工作负载将达到72.6%,训练占比将降至27.4%。AI眼镜作为端侧AI的重要载体,正凭借轻量化设计和AI能力成为推理算力的新引擎。西部证券从算力需求转移、AI眼镜推动推理算力、产业链受益三个维度,分析端侧AI推理算力的增长趋势与投资机会。

算力需求从训练向推理转移——2027年推理工作负载达72.6%

大模型的发展经历了“训练先行、推理跟进”的典型路径。训练阶段需要大量算力进行模型参数优化,2023上半年我国训练工作负载占AI服务器49.4%,预计全年达58.7%。随着GPT-4等大模型训练完成、模型能力趋于成熟,AI应用的重心正从“训练模型”转向“部署应用”,推理算力需求进入爆发期。

据IDC数据,2022-2027年推理工作负载占比将从约50%提升至72.6%,训练工作负载将从约50%降至27.4%。推理算力的增长驱动力来自两方面:一是AI应用场景的拓展——从云端走向端侧(手机、PC、眼镜、汽车等);二是AI用户规模的扩大——端侧AI普及使推理请求量呈指数级增长。AI眼镜作为新兴的端侧AI载体,有望成为推理算力增量需求的重要来源。

AI眼镜——推理算力的新增长引擎

AI眼镜与端侧推理算力的关联体现在三个层面。第一,端侧推理需求——Ray-Ban Meta等AI眼镜需在设备端进行语音唤醒、图像预处理等轻量推理,搭载高通AR1 Gen 1的NPU可提供端侧AI算力支持;同时复杂任务(如物体识别、翻译)需调用云端大模型,产生云端推理需求。第二,用户规模扩大——Ray-Ban Meta销量已破百万,2024Q1智能眼镜出货量同比+217%,用户规模快速扩张直接推动推理请求量增长。第三,AI功能深化——随着AI眼镜从“语音助手”向“多模态AI助手”演进(物体识别、实时翻译、环境感知),单设备推理需求将持续增加。

Meta Llama 3等轻量化大模型的推出,使端侧AI推理成为可能。AI眼镜作为可穿戴设备中出货量增长最快的品类(2023年+128.2%),有望成为推理算力需求的重要增长极。

产业链受益——芯片、模组、ODM全链条受益

端侧AI推理算力需求的爆发将带动AI眼镜全产业链受益。上游芯片端,高通主导XR SoC市场(骁龙AR1/XR2平台),联发科、瑞芯微等加速布局;存储端佰维等国产供应商已进入Ray-Ban Meta供应链。中游模组端,舜宇光学(摄像头模组)、歌尔股份(声学模组、ODM)深度参与;下游ODM端,歌尔股份(XR代工龙头)、立讯精密(苹果Vision Pro OEM)、华勤技术、龙旗科技等具备大规模出货能力。

Ray-Ban Meta中国产供应商价值量占比已达38.90%,随着国内AI眼镜出货量增长和国产化率提升,中国供应链企业有望持续受益。2024年或将成为AI智能眼镜领域的拐点时刻,推理算力需求爆发与AI眼镜放量有望形成正向循环。

端侧AI落地——从“训练驱动”到“推理驱动”的范式切换

端侧AI的落地标志着AI产业从“集中式训练”向“分布式推理”的范式切换。训练阶段是“烧钱”阶段——需要大量GPU集群和电力,主要由科技巨头承担;推理阶段是“赚钱”阶段——AI能力转化为实际应用场景和用户价值,商业模式更加多元。

AI眼镜作为端侧AI落地的重要场景,其发展路径可类比TWS耳机——先通过基础功能(音频)普及,再通过AI能力(语音助手、翻译、识别)提升价值量。随着AI眼镜出货量从百万级向千万级迈进,推理算力需求有望迎来爆发式增长,带动从芯片到整机的全产业链升级。
表4:中国AI服务器工作负载预测(2022-2027)
年份训练工作负载推理工作负载
2022~50%~50%
2023E58.7%41.3%
2027E27.4%72.6%
点击阅读报告原文: AI眼镜行业深度:现状及趋势、竞争格局、产业链及相关公司深度梳理-240826(30页)
相关报告