返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

智能体AI安全治理

智能体工具OpenClaw(中国业内俗称“龙虾”)——国家信息安全漏洞库累计收录相关漏洞155个,包含11个超高危漏洞与53个高危漏洞,某制造企业仓促部署后生产线停摆72小时——这是智能体AI安全治理失守的现实写照。IBM与Palo Alto Networks的联合报告揭示了一个关键判断:当前大多数组织的治理体系与基础设施暂不足以支撑安全的多智能体或自主运营。全球51%和中国30%的受访者坦言现有基础设施尚无法安全支撑多智能体运营。本文聚焦智能体AI的安全挑战、治理框架与身份管理策略。

智能体AI的安全挑战——攻击者的新武器库

智能体AI改变了威胁模型。它可以持续、静默运行,且不触发传统管控机制。攻击无需高调行动,只需长期潜伏即可实现突破。网络攻击者正精准锁定薄弱环节:从过于宽泛的AI权限与数据访问,到缺乏精细化控制与情境化最小权限的机器身份,均成为攻击突破口。

OpenClaw暴露的安全短板具有典型意义。该工具以智能体方式自主执行多步骤任务,但安全机制严重滞后于功能演进。从企业实际落地案例来看,盲目、仓促落地智能体工具已引发严重经营事故:某制造企业部署后直接造成生产线停摆72小时,预估直接经济损失超2000万元;另有法律服务机构发生大规模客户隐私信息外泄事件。

多智能体系统的安全拐点

本研究揭示了一个关键判断:当前大多数组织的治理体系与基础设施暂不足以支撑安全的多智能体或自主运营。但多智能体系统(MAS)的潜在价值不容忽视——由多个自主智能体构成,持续交互以实现复杂目标,核心价值源于去中心化、协作性与动态适应能力。

部分先行组织已部署MAS并应用于事件检测与响应、威胁修复等成熟业务流程。当MAS集成至覆盖企业全局的统一AI平台时,可实现对端到端运营与安全的全面支撑。MAS可自动完成漏洞扫描、优先级排序,并对最紧急问题实施修复,全程无需人工干预。在中国,企业布局落地MAS需充分考量合规要求与数据主权保护,MAS可依据中国特有的法律法规开展合规性检查,实现本地化自适应运行。

AI代理身份管理——安全治理的核心抓手

全球68%和中国74%的高管认为,组织需要将AI代理视为独立身份进行管理。关键是:将每一个AI组件纳入资产管理,赋予其独立身份;将AI代理视为一级身份主体,实施实时认证、授权、监控与监督;构建跨领域、跨云、跨业务单元的协同治理体系,确保自主行为可见、可解释、可撤销且合规。

采用零信任认证机制,在精细粒度层面对AI工作流进行定义与划分。使用运行时空安全保障AI的实时运行,防止模型操纵与提示词注入攻击。在中国,遵循《生成式人工智能服务管理暂行办法》等国家法规,落实AI安全评估与备案制度,将依法合规作为AI资产界定与治理的底线要求。

责任共担与治理模式

近九成领导者认同,当前关于治理、政策与基础设施的决策将直接决定未来两年内企业能否安全地部署多智能体与自主AI。全球40%和中国38%受访者坦言当前责任共担模式“效果甚微”。三大核心障碍为:多个AI供应商环境带来的复杂性、AI技术的快速迭代、对AI供应商安全控制措施的可见性不足。

在中国,AI产业发展受国家顶层战略规划引导,“数字中国”战略、新质生产力培育等宏观部署叠加人工智能“安全、可靠、可控”的硬性监管要求,共同框定了企业智能化建设的边界。智能体AI部署必须同步统筹数据治理、算法合规、网络安全体系等多重维度,构建深度耦合的系统工程。
点击阅读报告原文: IBM:威胁无形防御有韧:规模化AI安全防护-中国洞察报告(2026)(44页)
相关报告