左金虎-《大语言模型赋能开启运维新篇章—中国移动IT运维大模型落地实践》.pdf

1、中国信息通信研究院左金虎中国移动信息技术中心/架构师个人介绍：中国移动信息技术中心架构师，中国移动“十百千”高级专家，长期从事运营商领域业务支撑系统架构云化、容器化等技术的演进研究及AIOps建设运营研究工作中国信息通信研究院大语言模型赋能，开启运维新篇章中国移动IT运维大模型落地实践演讲嘉宾：左金虎中国信息通信研究院The Society of Mind“然而当时的计算机语言不足以描述智能体之间的交互”“The Society of Mind”心智社会理论，1986 人工智能是一个由多个agent（智能代理）组成的社会；每个agent有特定的身份，协同运作解决问题；多个agent的合作实现的

2、效果远超出单个agent的效果；“当代人工智能之父”马文 明斯基中国信息通信研究院大模型在智能运维上的探索中国信息通信研究院循环执行2-任务规划3-API选择5-结果观察4-API调用6-生成反馈AGENT，让大模型超越思考，解锁运维操作当前AGENT聚合了大量了的运维工具用于配合运维人员要求完成对应的运维操作，基于运维工作需求，模拟运维人员的工作模式，结合COT技术提出大模型运维应用开发范式，让会”做事”。LLMAPI自主AI AgentAPI 1API 2API 3系统告警API平台(大量的包含Schema的API集合)1.先检查网络情况，确认网络状态；2.再确认分布式服务控制组件状态是否

3、正常3.任务规划服务节点状态异常，建议1.平台拉起薪节点接管流量2.当前节点重启3重启完毕后接入结论输出服务节点的状态检查完毕，可能问题是由于XX进程挂死，报错日志是.重启后服务超时问题不再出现效果达到预期自主思考工具箱健康度检查API组件状态检查API节点重启API节点检查API服务监控APIAGENT开发范式AGENT决策：感知、计划、行动1-任务指令故障发生，服务超时生成反馈任务规划API筛选/分配任务执行结果生成Agent工作流程分为四个阶段：中国信息通信研究院Agent演进规划大语言模型之所以能在运维领域发挥应用价值，关键点在于Agent能自主理解、规划决策、执行复杂任务，可以代替运

4、维专家使用工具完成运维任务，基于大模型范式，规划了AGENT发展的三个阶段，通过持续对Agent能力进行演进，让AGENT成为专业的运维专家。“人类之所以是人类，因为他会使用工具。”小瞳AI告警查询API服务成功率查询API故障定界模板输出API简单任务代理（一阶段）复杂任务代理（二阶段）自主任务代理（远期）简单运维任务 无法自动分析问题细节 模板化回答 有限领域运维场景 辅助专家运维 复杂运维任务 多轮问答明确客户诉求 大模型思考回答 更丰富的运维场景 辅助一线运维 多模态观测数据分析+复杂运维任务执行 流程无须人员介入实操 运维团队更多负责监管与跨组织协同 完整的运维场景覆盖 AI驱动运维

5、小瞳AI“系统有故障吗？”“系统存在12个告警，服务存活率97%.”“检查系统异常”小瞳AI观察与监督“您问的是哪个系统？”能力调用规划并调度执行小瞳AI深瞳运维能力引擎“经过分析，故障诱因为Redis部分实例僵死，建议重启Redis集群，授权操作请回复授权码。”深瞳运维能力引擎自我驱动规划调度执行“故障处理完了吗？”“业务成功率下滑，小瞳已介入排查！”多模态数据观测中国信息通信研究院AGENT能力进阶技术SAASDatabaseK8SRedisHardwareOpenStack目前AGENT仅能代替一个普通的运维人员，但是无法代替运维专家进行复杂运维任务的解决方案规划和思考，我们规划通过强化

6、运维领域AGENT训练构建运维排障树思维，在后续阶段打造运维专家级别AGENT。训练设置任务推导自生成指令AgentLMAgentTuningAgentInstruct普通指令GBase资源登录异常Trajectory 1Thought：我首先要查出GBase资源的所有用户，然后 Action:SHOW USERS;Reward：0.0 XTrajectory 2Thought：我首先查看所有异常的登录日志Action:query_login_resource(system=“GBase”)Reward：1.0 I