返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

端侧AI推理算力

国盛证券报告指出,随着各类AI Agent的广泛应用,推理侧算力需求有望大幅提升。英伟达管理层表示OpenAI o1模型发布后新的AI叙事正在展开,转向解决更复杂的推理问题,提升对硬件组合的需求。随着终端算力增强和模型优化,AI Agent模型有望在端侧广泛部署。端侧模型优势在于断网环境使用和省去网络传输时延。苹果Apple Intelligence包含30亿参数设备端模型和服务器模型,Siri可在应用内及跨应用执行数百项新操作。端侧模型对终端硬件性能的需求有望促进手机、耳机、AR眼镜等终端的更新换代,终端厂商价值量有较大增长机会。

推理算力需求:Agent广泛应用驱动算力增长

AI Agent的广泛应用将从根本上改变算力需求结构。训练侧算力需求已有明确预期,而推理侧算力需求正成为新的增长极。据华尔街见闻10月报道,英伟达管理层在近期闭门会表示,当前仍是AI周期的早期阶段,随着OpenAI o1模型的发布,新的AI叙事正在展开,开始转向解决更复杂的推理问题,这将提升对硬件组合的需求。

推理侧算力需求增长的核心逻辑在于Agent的工作方式。传统AI应用以"问答"为主——用户提问,模型生成回答,单次交互计算量相对可控。Agent则需在环境中持续感知、规划、执行、验证,涉及多轮推理和行动规划,计算量成倍增加。以AutoGLM为例,执行"订外卖"任务需理解用户需求→打开美团→搜索餐厅→浏览菜单→选择菜品→确认订单→提交支付,每个步骤都涉及感知-推理-决策的计算循环。

英伟达即将推出的机架产品被视为最佳解决方案。机架产品通过高密度集成和高速互联,可在大规模推理集群中实现更高效率和更低延迟。推理算力的需求增长将直接拉动AI服务器、交换机、光模块等产业链需求,建议关注寒武纪、中科曙光、海光信息、中际旭创、新易盛、浪潮信息、工业富联等算力相关标的。

端侧部署:断网+低延迟,终端算力需求提升

端侧AI是推理算力的另一重要方向。与云端推理相比,端侧部署的优势在于:可在断网环境使用(无网络依赖)、省去网络传输时延(响应更快)、数据不出设备(隐私保护更强)。苹果官方介绍Apple Intelligence中的两个模型包括一个30亿参数的设备端语言模型和一个更大的在服务器上运行的语言模型,端云协同是AI应用落地的现实路径。

苹果Apple Intelligence使Siri能够在Apple和第三方应用内及跨应用执行数百项新操作。用户可以说"从我的阅读列表中调出那篇关于蝉的文章"或"将周六烧烤的照片发送给玛丽亚",Siri帮用户完成操作。这本质上是Apple版的Phone Use/Computer Use功能。端侧模型对终端硬件性能要求更高——30亿参数模型在手机上运行需要足够的内存带宽和算力,有望促进硬件的更新换代需求。

AI终端硬件正从手机向多设备延伸。除手机外,耳机、AR眼镜等终端设备也在积极引入AI能力。端侧AI的普及将提升终端设备的价值量——具备AI能力的设备与不具备AI能力的设备之间存在定价差异,消费者愿意为AI功能支付溢价,终端厂商的产品需求和价值量均有较大增长机会。

终端产业链:手机/耳机/AR眼镜迎机遇

终端AI的产业链机会集中在三个方向。潜力硬件方面,漫步者(音频设备)、传音控股(非洲手机龙头)、中科创达(终端操作系统及AI中间件)有望受益于端侧AI功能普及。果链方面,立讯精密、东山精密、鹏鼎控股等苹果产业链公司受益于Apple Intelligence带动的iPhone升级周期。

OlaFriend的发布验证了AI耳机的市场可行性。字节跳动豆包发布的AI智能体耳机OlaFriend单耳仅6.6克,接入豆包大模型,与豆包App深度结合。用户戴上耳机后无需打开手机,喊出"豆包豆包"即可唤起对话,在信息查询、旅游出行、英语学习及情感交流等场景提供帮助。耳机作为AI交互入口的优势在于解放双手、随时可用。

AI AR眼镜同样是值得关注的方向。与手机和耳机相比,AR眼镜既能"看到"用户视角,又能"听到"用户指令,还能"显示"AI反馈,是Agent交互的理想载体。Meta与雷朋合作的AI眼镜已取得初步成功,国内厂商有望跟进。AI Agent在手机、耳机、AR眼镜等终端设备上的广泛应用,将为终端产业链带来系统性增长机会。
表:端侧AI受益产业链标的分类
类别核心标的受益逻辑
潜力硬件漫步者、传音控股、中科创达AI终端设备价值量提升
果链立讯精密、东山精密、鹏鼎控股iPhone AI升级周期
算力寒武纪、中科曙光、海光信息、中际旭创、新易盛推理算力需求增长
点击阅读报告原文: 计算机专题报告:智能助理潜力从苹果开始扩散-241101(21页)
相关报告