国信证券报告聚焦微软模型侧竞争力。2024年8月微软发布Phi 3.5系列（mini/MoE/vision三版本），Phi-3.5-MoE在MMLU测试中击败GPT-4o mini和Gemini 1.5 Flash。所有模型在Hugging Face开源，获MIT许可证允许商业应用。此外微软推出新型MoE模型GRIN MoE，采用SparseMixer梯度估计方法解决传统MoE不可微问题，编码和数学任务超越GPT-3.5。本报告解析微软AI模型的技术路线与竞争力。
Phi 3.5系列三款模型，MoE版本击败GPT-4o mini
2024年8月微软发布Phi 3.5系列，包含三个模型：Phi-3.5-mini-instruct（3.82B参数，优化于基础和快速推理任务）、Phi-3.5-MoE-instruct（419B参数，混合专家架构，处理高质量推理密集型任务）、Phi-3.5-vision-instruct（415B参数，集成了文本和图像处理能力，支持128K token上下文长度）。
Phi-3.5-MoE-instruct在MMLU（5-shot）测试中击败GPT-4o mini和Gemini 1.5 Flash等领先大模型。所有模型均可在Hugging Face平台下载，获微软MIT许可证，允许商业应用和修改。微软宣布从2024年11月1日起在Azure AI中提供LoRA微调Phi-3.5-mini和Phi-3.5-MoE模型的功能。Phi系列证明了“小而美”路线在特定任务场景的竞争力。
表：Phi 3.5系列三款模型对比| 模型 | 参数量 | 核心特点 | 适用场景 |
|---|
| Phi-3.5-mini-instruct | 3.82B | 轻量级，适合资源受限设备 | 代码生成、数学推理 |
| Phi-3.5-MoE-instruct | 419B（MoE） | 混合专家架构，MMLU击败GPT-4o mini | 高质量推理密集型任务 |
| Phi-3.5-vision-instruct | 415B | 文本+图像多模态，128K上下文 | 图像理解、多帧视觉任务 |
GRIN MoE新训练路径，解决MoE不可微问题
微软推出新型混合专家模型GRIN MoE（GRadient-INformed Mixture-of-Experts），在传统MoE基础上创新，提高模型可扩展性和性能。GRIN MoE使用SparseMixer准确估计专家路由的梯度，解决了传统MoE模型中的不可微问题，提高训练效率。GRIN MoE不需要专家并行，在基准测试中表现出色，特别是在编码任务和数学问题解决方面超越了GPT-3.5等模型，展示了这种新训练路径对MoE模型的潜力。
GitHub Copilot接入Claude+Gemini，多模型生态扩张
2024年10月30日GitHub Copilot宣布接入Claude 3.5 Sonnet和Gemini 1.5 Pro两大模型，标志着与OpenAI的合作不再是唯一选择。Claude 3.5 Sonnet以高编码熟练度和处理整个软件开发生命周期的能力为开发者提供新选择；Gemini 1.5 Pro以200k token上下文窗口和多模态能力，特别适合处理大规模代码库。GitHub Copilot从“单一模型工具”升级为“多模型开发平台”。
Phi系列+多模型生态的战略意义
微软在模型侧采取“两条腿走路”策略。一方面推出Phi系列小模型，证明“小模型+高质量数据”可在特定任务上接近甚至超越大模型，为资源受限场景提供替代方案；另一方面GitHub Copilot接入Claude和Gemini，构建多模型生态，将选择权交给开发者。Phi系列开源+MIT许可降低了开发者使用门槛，多模型生态则增强了平台粘性。微软通过Phi系列模型提升了在AI模型市场的竞争力，同时GitHub Copilot的多模型策略让微软在AI编程工具领域保持领先地位。
