大模型从云端向端侧迁移已成为确定趋势，但端侧设备在功耗、散热、尺寸上的严苛约束对存储芯片提出了全新要求。中邮证券《端侧大模型近存计算，定制化存储研究框架》报告显示，端侧AI全球市场规模预计从2022年的152亿美元增长至2032年的1,436亿美元，AI手机2028年渗透率将达54%，AI PC 2025年出货量将达1.14亿台。华邦电子推出的CUBE（定制化超高带宽元件）技术，以低于1pJ/bit的功耗和最高256GB/s的带宽，为边缘AI运算提供近存计算解决方案。本文从市场驱动、技术瓶颈、定制化存储路径三个维度，分析端侧AI存储芯片的投资逻辑。
端侧AI市场爆发式增长，存储芯片需求呈指数级攀升
端侧AI市场的增长曲线陡峭。根据报告数据，端侧AI全球市场规模将从2022年的152亿美元增长至2032年的1,436亿美元，复合增速超过25%。AI手机方面，2024年全球AI手机出货占比约16%，Canalys预测2028年将提升至54%，CAGR达63%，AI手机将先由高端机型渗透，再向中端扩散。AI PC方面，Gartner定义AI PC为带有NPU的PC，2024年出货量4,300万台（同比+99.8%），2025年预计达1.14亿台（同比+165.5%），渗透率从17%跃升至43%，其中AI笔记本占比达51%。端侧AI设备数量的爆发式增长直接拉动对高带宽、低功耗存储芯片的需求。大模型在端侧运行需要数十GB级的内存容量和TB/s级带宽，传统LPDDR方案已难以满足LLM（如Llama2-7B）在端侧对带宽和功耗的同时要求，定制化近存存储成为破局关键。
冯·诺依曼瓶颈成端侧大模型主要制约，存算一体技术应运而生
传统计算架构中，存储与计算分离，数据在CPU/GPU与DRAM之间频繁搬移，产生大量功耗和延迟——所谓冯·诺依曼瓶颈。在端侧设备中，功耗和散热严重受限，数据搬移带来的能耗甚至超过计算本身。存算一体技术通过将存储与计算融合，有效克服这一瓶颈。存算一体分为近存计算（PNM）、存内处理（PIM）和存内计算（CIM）。近存计算通过将计算单元靠近存储（如HBM），减少数据传输路径；存内处理将计算嵌入存储芯片；存内计算使存储单元直接参与数据计算。对于端侧AI，基于HBM和3D封装的方案功耗高、成本昂贵，不适用于手持设备和边缘终端。因此，需要专门为边缘计算设计的近存方案，兼顾带宽、功耗、尺寸和成本。华邦CUBE正是针对这一需求开发的客制化3D TSV DRAM，可供模组制造商和SoC厂商直接部署。
端侧AI主要设备出货预测| 设备类型 | 2024年 | 2025年 | 2028年 | CAGR |
|---|
| AI手机渗透率 | 16% | — | 54% | 63% |
| AI PC出货量 | 4300万台 | 1.14亿台 | — | 165%（25年同比） |
定制化存储（KGD 2.0）——华邦CUBE技术详解与优势
华邦CUBE（Customized Ultra Bandwidth Element）是一种客制化的高带宽3D TSV DRAM，专门为边缘AI运算设计。其技术架构采用SoC裸片置于上方、DRAM裸片置于下方的3D堆叠，省去SoC中的TSV工艺，降低SoC尺寸和成本，同时利用3D DRAM TSV将信号引至外部，使它们成为同一颗芯片，缩减封装尺寸。CUBE基于D20（20nm）工艺，单颗容量1-8Gb（D16工艺为16Gb），支持非TSV和TSV堆叠两种方式。关键性能指标：功耗低于1pJ/bit，显著低于HBM的4-6pJ/bit；I/O速度于1K I/O可高达2Gbps，总带宽从16GB/s至256GB/s；通过uBump或混合键合增强电源和信号完整性。相比传统HBM，CUBE在保持高带宽的同时，功耗降低超过75%，面积更小，成本更低。在实际应用中，CUBE可作为L4级缓存，替代昂贵的SRAM L3扩展（SRAM每个核心单元需6个晶体管，DRAM仅需1个晶体管），使SoC可使用成熟制程（28/22nm）获得接近先进制程的高带宽性能，极大降低端侧AI芯片的BOM成本。
兆易创新、瑞芯微等国内厂商积极布局端侧存储与NPU生态
国内厂商正在从存储和计算两个维度切入端侧AI赛道。兆易创新设立控股子公司青耘科技，专注定制化存储解决方案，已中标广东省智能科学研究院高性能存储IP项目（存储峰值带宽不低于10TB/s，容量不低于20GB）。同时，兆易与燧原科技合资成立光羽芯辰，聚焦端侧大模型芯片，通过3D堆叠方案融合燧原AI技术与兆易DRAM技术，打造低成本定制化AI芯片。瑞芯微的RK3588、RK3576芯片集成6TOPs自研NPU，能够支持端侧0.5B-3B参数模型部署，已落地教育平板、桌面机器人、AI玩具等场景。芯原股份的NPU IP已被82家客户用于142款AI芯片，全球出货超1亿颗，在嵌入式AI/NPU领域全球领先。端侧大模型的商业化需要"定制化存储+专用NPU+先进封装"三位一体的协同创新，国内厂商正在形成从存储、计算到封装的完整产业链能力。
