大模型竞赛已从“算力堆砌”进入“工程优化”新阶段。DeepSeek开源周5天5大代码库的密集发布，展示了如何通过FP8精度计算、MoE通信优化、并行流水线等技术将Hopper架构性能压榨至极致。中泰证券认为，工程优化正成为AI企业的核心竞争力，DeepSeek通过开源策略将技术民主化，推动行业从“闭源优先”向“开源协作”转变。
FP8精度计算：DeepGEMM与FlashMLA的双重突破
DeepGEMM以300行核心代码实现FP8通用矩阵乘法，JIT编译动态适配不同硬件配置，峰值算力达1350TFLOPS。两级累加策略（FP8批量乘法+FP32高精度校正）在轻量化与精度之间取得平衡，验证了FP8在AI计算中的商用可行性。FlashMLA同样基于FP8/BF16混合精度优化，将H800内存带宽利用率推至3000GB/s（超原生峰值1681GB/s），计算速度达行业平均8倍。FP8精度正从理论走向大规模商用。
MoE通信优化：DeepEP打破分布式训练瓶颈
DeepEP是全球首个MoE模型专用通信库，解决了千亿级参数MoE训练中专家并行通信效率低下的核心痛点。“专家小组分工”机制动态分组GPU资源，按任务类型避免跨组资源抢占；NVLink+RDMA深度融合实现节点内/间微秒级通信延迟；计算-通信重叠机制在不占用SM资源的前提下实现FP8精度调度。该方案填补了专家并行领域工具链空白。
并行计算优化：DualPipe+EPLB双轮驱动
DualPipe双向流水线并行算法将前向传播与反向传播拆解为双向并行流水线，实现计算与通信100%重叠，类比双向高铁轨道同步运行，降低“流水线气泡”，V3模型训练仅耗278.8万H800 GPU小时（557万美元）。EPLB实时监控专家负载动态调整GPU分布，将过载专家子任务迁移至空闲节点，确保计算密度与通信开销平衡。
工程优化如何转化为商业优势
DeepSeek通过工程优化实现545%的理论成本利润率。单H800节点prefill吞吐73.7k tokens/s、decode吞吐14.8k tokens/s，日处理输入token 608B、输出168B，理论日收入56.2万美元。工程优化带来的成本优势使单位token成本压至ChatGPT-4.5的十分之一，某教育机构接入后AI客服小时成本从12元降至0.8元（降幅93%）。
表：DeepSeek工程优化技术路线总结| 优化维度 | 核心技术 | 效率提升 |
|---|
| 计算精度 | FP8+JIT编译 | 1350TFLOPS |
| 通信效率 | NVLink+RDMA | 微秒级延迟 |
| 并行流水线 | DualPipe双向重叠 | 100%计算-通信重叠 |
| 负载均衡 | EPLB动态调度 | GPU利用率最大化 |
| 数据存储 | 3FS并行文件系统 | 6.6TiB/s吞吐 |
