组织在生产环境中平均使用7个AI模型,78%自行运营推理服务——AI已从“构建”转向“运营”,从实验变为基础设施。但88%面临重大挑战,77%预计AI Agent将引发身份与访问控制危机。F5年度报告揭示了推理时代的核心矛盾:AI的价值不再取决于模型能力,而取决于能否像管理分布式系统一样管理推理。
推理时代已至——AI从实验性技术变为生产级基础设施
2026年的关键发现揭示了一个不可逆转的趋势:AI推理已经跨过重要门槛,成为企业架构的有机组成部分。各组织在生产环境中平均使用7个AI模型——这一数字并非源于新奇性,而是因为企业需要使用多种模型来满足API兼容性、成本、可用性、数据主权以及合规等多维度需求。78%的组织自行运营AI推理服务,77%的受访者表示,相对于模型训练或微调,推理已成为其主要AI活动。
这种转变并非由AI模型的复杂程度定义,而是由推理现在如何嵌入生产系统、运营决策循环以及交付应用、产品和服务的管道来定义。AI经济已从“构建”转向“运营”。这些组织不再仅仅是“使用”AI,他们正通过AI管理业务,将其从创新转变为基础设施。
多模型推理使推理不再像一个单一端点那样运行,而是开始像一个分布式系统一样运作。52%的组织正在使用多模型编排来适配并扩展其AI模型,超过半数的组织正在对多个模型进行链式调用或编排。模型数量的增加源于企业需要使用多种模型来满足业务和技术需求——成本优化、合规要求、战略多元化、弹性、特定模型能力等,这些考量与混合多云应用部署的决策逻辑高度相似。
混合多云已成运营现实——93%组织管理混合环境
数字化转型的整体格局已趋于稳定。现代应用在应用组合中的平均占比已达到53%,与2025年持平,这在一定程度上是因为过去一年中各组织的关注重点已大多转向AI。86%的组织跨本地、公有云和托管环境运行应用,93%的组织正在管理混合多云环境。受访者平均管理5个自有数据中心、5个托管机房设施,总计10个基础设施部署地点,同时使用4个不同的公有云服务提供商。
可观测性已从反映系统状态的一面镜子转变为系统本身的一部分。运营数据的使用率从2023年的较低水平跃升至2025年的80%以上,直至近乎普及。可观测性不再只是反映系统状态的一面镜子,而已经成为系统本身的一部分。
多模型推理的系统化挑战
当你只使用一个AI模型时,推理看起来很简单——将流量发送给模型,加上身份验证,再加一两个护栏即可。但当你平均运营7个模型时,这种思维模型很快就会崩溃。AI已经不再只是选择一个最好模型的问题,而是管理一整套模型与服务组合的问题。
88%的组织已经部署了至少一种用于推理交付和安全服务的战略。超过一半的受访者正在管理AI服务的身份认证和API访问、监控AI流量以及防止敏感数据泄露。超过三分之一的组织建立了集中控制点。
运营层面的痛点并没有减缓AI的采用。88%的受访者报告面临重大挑战,计算资源成本位居首位,技能人才获取紧随其后。但组织已经达到了运营信心,效率低下并不会抑制AI的使用——因为推理带来的价值超过了麻烦本身。
98%的组织正在准备部署AI Agent,77%预计AI Agent将引发身份与访问控制危机。接近一半的组织将部署身份感知基础设施来应对。
控制平面是推理时代的核心命题
当组织使用多个模型时,关注点从模型本身转移到了控制平面。决策变成:如何设计和管理那些控制推理流量如何被整形、路由、约束、安全保护和监控的系统。只有28%的组织表示已经通过单一的AI管理入口来简化开发者工作流,其余组织仍在碎片化的控制面上进行管理,复杂性风险正在持续积累。数字领导者需要构建既能安全扩展AI、又能大规模获取其效益的架构。