返回顶部
返回首页 会员充值 我的足迹 返回上一页
跳转三个皮匠报告小程序

计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf

2024-06-12
文档编号:164785
文档页数:21
文档大小:2.55MB
下载积分:VIP专享
文档格式:PDF DOCX

1、 免责声明和披露以及分析师声明是报告的一部分,请务必一起阅读。1 证券研究报告 计算机计算机 国产大模型“凭”什么降价?国产大模型“凭”什么降价?华泰研究华泰研究 计算机计算机 增持增持 (维持维持)研究员 谢春生谢春生 SAC No.S0570519080006 SFC No.BQZ938 +(86)21 2987 2036 联系人 袁泽世,袁泽世,PhD SAC No.S0570122080053 +(86)21 2897 2228 行业走势图行业走势图 资料来源:Wind,华泰研究 重点推荐重点推荐 股票名称股票名称 股票代码股票代码 目标价目标价 (当地币种当地币种)投资评级投资评级

2、浪潮信息 000977 CH 50.67 买入 金山办公 688111 CH 354.50 买入 福昕软件 688095 CH 73.96 买入 泛微网络 603039 CH 41.97 买入 资料来源:华泰研究预测 2024 年 6 月 10 日中国内地 专题研究专题研究 国产国产模型模型厂商厂商进入进入 API“价格战”“价格战”,利好,利好 AI 应用开发应用开发 2024 年 5 月 6 日,DeepSeek 发布最新 MoE 模型 DeepSeek-V2(32K 上下文),刷新了模型 API 定价:输入¥1 元/M tokens、输出¥2 元/M tokens。紧接着,智谱、阿里、百

3、度、腾讯、讯飞等厂商均宣布旗下模型 API 降价,部分降价幅度高达 100%。我们深入拆解了各家 API 产品矩阵,发现降价的主要是轻量级模型,对于高并发 B 端用户或影响不大。我们从定性逻辑和定量技术两个维度分析降价的原因。我们认为,API 降价将吸引更多的 ISV 开发 AI 相关应用,有望提高 Super App 出现概率,建议关注算力和应用相关公司,包括浪潮信息、金山办公、福昕软件、泛微网络等。降价以入门级轻量降价以入门级轻量 API 为主,可以从技术优化和生态抢占来解释为主,可以从技术优化和生态抢占来解释 降价厂商中,智谱、百度和讯飞主要降价产品为轻量版;阿里和腾讯则将旗下全部模型进

4、行降价,降价幅度不等。字节为首次定价,价格较低。可以看出,降价幅度和范围较大的主要是互联网企业,其资源更加丰富。分析降价原因,一方面,DeepSeek V2 证明了,确实可以通过注意力机制优化,大大减少所需缓存的量,降低成本和提高效率。另一方面,即使没有技术上的降价逻辑,通过降价手段吸引开发者,目前看仍是抢占生态的重要手段。从技术层面降低模型推理成本,核心在于从技术层面降低模型推理成本,核心在于优化优化 KV cache 目前,大模型的长文本支持能力已成为趋势。在推理长文本时,需要首先将文本预填充到 GPU 的 HBM 中,然后再解码出 token。其中预填充速度主要受GPU计算能力影响,解码

5、速度受HBM带宽影响。当文本很长时,KV cache将占用 HBM 相当大的空间,导致用户并发性下降,且解码耗时更长。用户并发性下降,还将带来新的问题,即需要从 HBM 上“卸载”暂时不用的 KV cache,再“加载”下一个用户的 KV cache,带来新的耗时。因此,降低KV cache 是优化关键。典型优化方法:压缩典型优化方法:压缩 KV cache,或采用全局,或采用全局 KV cache 我们研究了近期DeepSeek V2和微软的YOCO典型的KV cache压缩方法,代表两种流派。DeepSeek V2 引入多头隐注意力(MLA)机制,不再缓存全部的 KV,而是用隐向量来压缩

6、KV,与 Transformer 原始的多头注意力相比,KV cache 可以减少 90%以上。微软的 YOCO 则将 Decoder 架构一切为二,下半部分负责用高效的注意力机制产生全局 KV cache,上半部分则直接使用全局 KV cache,不再需要额外计算,也大大降低了缓存量。模型降价有望利好算力和应用,建议关注相关产业链公司模型降价有望利好算力和应用,建议关注相关产业链公司 我们认为,模型降价将吸引更多的开发者开发 AI 应用,或进一步提振算力需求,提升 Super App 出现概率,建议关注:1)AI 服务器:浪潮信息等;2)AI 应用:金山办公、福昕软件、泛微网络等。其他产业链

计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf_第1页
计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf_第2页
计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf_第3页
计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf_第4页
计算机行业专题研究:国产大模型“凭”什么降价?-240610(21页).pdf_第5页

点击查看更多