端侧AI的瓶颈不在算力,而在内存。东吴证券研报指出,7B半精度模型仅参数加载入DRAM就超过14GB,而DRAM耗能比SRAM高两个数量级(6400pJ vs 550pJ),比计算操作高约1700倍。苹果当前iPhone DRAM仅8GB,远低于安卓旗舰的24GB,提升空间巨大。苹果正与三星合作研发独立封装LPDDR DRAM,并计划2026年转向WMCM多芯片封装。内存,正在成为端侧AI硬件变革的核心战场。
内存——端侧AI推理能力的核心短板
模型参数加载入DRAM的空间需求远超预期。7B半精度模型参数加载入DRAM需超过14GB,但DRAM需与系统和其它应用共享,单个应用程序不应超过DRAM的10%。微软Phi-3-mini(3.8B参数)在4bits量化下仍需占用1.8GB DRAM。SRAM缓存通常在20MB,仅能容纳一个Transformer块,Flash容量足够但速度较慢。
能耗数据更为震撼。在相同精度下,DRAM耗能6400pJ,比SRAM耗能550pJ高两个数量级(约11.6倍),比32位浮点乘法计算3.7pJ高约1700倍。每10亿参数生成1 token需耗能0.1J,满电iPhone约50KJ,以10Token/s速度仅支持7B模型运行不到2小时。内存读取是主要的耗能项,能耗增加同时带来散热问题突出。
安卓与iOS内存利用效率——生态差异显著
相同App在iOS的内存占用远低于安卓。Acrobat Reader iOS占用117MB vs 安卓390MB;Booking.com 73MB vs 330MB;Gmail 190MB vs 259MB;YouTube 176MB vs 282MB;Twitter 100MB vs 366MB。主要原因是安卓为消除硬件差异性,代码运行在虚拟机中需编译为中间语言,而iOS则是原生编写。
游戏内存占用差异较小——因游戏引擎均为原生编写。但在国内安卓生态中,各App为保活留存后台、集成功能等进一步增加了内存占用。这一生态差异意味着:安卓需要在OS层提供统一的AI基础模型以减少重复加载,而iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。
苹果硬件积极应变——内存创新集中突破
苹果在内存容量上较安卓差距明显。最新iPhone DRAM仅为8GB,安卓旗舰最高24GB,差距达3倍。苹果A18 Pro NPU算力35 TOPS,高通骁龙8至尊版NPU算力80 TOPS。苹果设备功耗极限潜力虽高但受限于散热无法全部发挥。iPhone 16 Pro Max电池4685mAh,小米15 Pro为6100mAh,苹果增加电池容量的空间巨大。
苹果正从多个维度突破内存瓶颈。第一,与三星合作研发独立封装LPDDR DRAM,改变2010年起沿用至今的堆叠式封装(PoP)方案。PoP技术下内存直接叠在SoC上,端侧AI负载下带宽和散热问题严重。分开封装可增加I/O引脚数量,提高数据传输速率并改善散热性能。第二,尝试在DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍。第三,预计2026年从InFO封装改为WMCM封装方式,将CPU、GPU、DRAM、NPU等多芯片灵活排列集成在同一封装中,减少信号延迟和干扰。
内存架构变革的产业链机遇
端侧AI内存升级将带动多条产业链机会。第一,独立封装DRAM增加I/O引脚数量,对封装基板和测试设备提出更高要求。第二,WMCM多芯片封装推动先进封装设备需求,包括晶圆级封装设备、测试设备和材料供应商。第三,LPDDR6-PIM技术引入计算存储一体化理念,对存储芯片设计提出新要求,国内存储芯片厂商有望受益于存储与计算融合趋势。
内存容量提升也是确定性方向。苹果若将DRAM从8GB提升至12GB或16GB,将直接拉动DRAM芯片采购量。国内消费电子品牌厂商紧随苹果和三星的硬件升级路径,同样面临内存容量和封装技术的升级需求。端侧AI的普及将推动手机、PC、可穿戴设备等终端的内存配置普遍提升,形成对存储芯片和封装产业链的持续性需求拉动。
主流手机SoC内存与AI能力对比| 芯片型号 | 厂商 | 工艺制程 | NPU算力 | 存储最高容量 | 代表机型 |
|---|
| 骁龙8至尊版 | 高通 | 3nm | 80 TOPS | 24GB LPDDR5X-5300 | 小米15系列 |
| 天玑9400 | 联发科 | 3nm | - | 24GB LPDDR5X-10667 | vivo X200系列 |
| A18 Pro | 苹果 | 3nm | 35 TOPS | 8GB LPDDR5X-7500 | iPhone 16 Pro |
| A17 Pro | 苹果 | 3nm | 35 TOPS | 8GB LPDDR5-6400 | iPhone 15 Pro |