返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

端侧AI算力需求测算

端侧AI在手机场景中的算力需求正以翻倍速度增长。东吴证券电子团队基于苹果Apple Intelligence的功能梳理与Writing Tools测评,将AI推理任务划分为简单功能(短文本、端侧7B小模型)和复杂功能(长文本、云端大模型),测算得到端侧算力需求2024-2027年基本维持翻倍以上增速,2027-2030年增速依然在高双位数水平。端侧SoC硬件不断升级与端侧小模型定向优化是支撑端侧算力落地的两条并行路径。

端侧AI在手机场景中如何落地?——从Writing Tools测评看端云分工

苹果Writing Tools功能中,校对、重写、调整措辞语气等功能可在无网络场景下直接运行,由端侧约30亿参数AFM-on-device模型承载;而Summary、Key Points、Table、List四个复杂功能仅支持接入网络场景使用,需调用云端AFM-server大模型。端侧优先响应、云端补充算力的端云混合架构已成为AI手机主流范式。苹果对全球手机行业具备示范效应,东吴证券认为,当前AI手机文本推理的简单功能(短文本处理)有望在7B端侧小模型上实现,未来端侧小模型有望从7B向13B逐渐渗透;复杂功能(长文本处理)当前主要通过外接云端大模型实现,随着端侧硬件升级和模型定向优化,复杂功能有望从2027年开始逐步被端侧承接。

端侧算力需求翻倍增长的驱动逻辑

端侧算力需求爆发式增长的驱动因素来自量价两方面。量的层面,全球AI手机出货量从2024年1.9亿部增长至2028年约7亿部,CAGR达38%;累计AI手机用户数从2024年0.6亿部增长至2028年16.2亿部,增长超27倍。价的层面,单机AI推理调用次数持续提升——简单功能单日调用次数从20次增至2030年100次;单次调用算力需求因模型参数量增长而提升,端侧模型从7B向13B渗透。根据"推理算力需求=2×参数量×token数"公式,单机算力需求随模型大小和调用次数增长而快速提升。东吴证券测算端侧算力需求在2024-2027年间基本维持翻倍以上增速,2028-2030年增速仍保持在68%、43%的高双位数水平。

端侧算力落地的两条可行路径

路径1:端侧SoC硬件不断升级。当前符合IDC定义(NPU算力>30 TOPS)的AI手机SoC仅有苹果A17 Pro、联发科天玑9300/9400、高通骁龙8 Gen3/8 Elite等少数旗舰芯片。骁龙8 Elite NPU出词速度达70+tokens/s,天玑9400 LLM提示词处理能力较上代提升80%。但1000 tokens文本推理,7B小模型需14 TFLOPS,云端大模型需560 TFLOPS,端侧硬件仍远不足以支撑复杂任务。硬件升级会是电子行业未来很长时间的主题任务。路径2:端侧小模型定向优化。Qwen2.5-7B-Instruct在10B小模型排行榜中以55.5分排名第一,GLM-4-9B-Chat 52.4分、Gemma-2-9b-it 48.6分。端侧小模型在有限参数量下展现出不错的AI性能。手机AI主流功能有限,通过定向优化减轻算力负载是短期内可行的同步思路。
表:端侧AI算力需求测算核心假设与结果
指标2024年2025年2026年2027年2028年
简单功能单日调用次数2030507080
端侧模型参数量(7B占比)90%80%65%50%35%
端侧模型参数量(13B占比)10%20%35%50%65%
单次7B模型算力需求(TFLOPS)88888
端侧算力需求yoy285%233%165%73%68%
点击阅读报告原文: 【东吴证券】电子行业深度报告:算力需求看点系列——如何看待AI手机对端侧&云端算力影响?-250215(14页)
相关报告