返回顶部
返回首页 会员充值 我的足迹 返回上一页
具身智能
情绪经济
商业航天
十五五
银发经济

金融大模型部署实践

工商银行建成“工银智涌”千亿金融大模型技术体系,交通银行部署超2500个智能体——大模型正在从“技术概念”转化为“金融生产力”。北京金融科技产业联盟这份报告揭示了金融大模型部署的完整路径:从模型分类(传统模型、大语言模型、多模态大模型)到引入方式(闭源API、开源自建、行业自研),再到微调策略(LoRA参数高效微调、DAPT领域自适应预训练),构建了覆盖全生命周期的金融大模型工程化体系。

大模型技术架构——从底座到应用的完整链路

四层架构支撑大模型规模化部署

金融业大模型应用体系正朝着清晰的四层架构演进。底座层构建标准化算力支撑体系,依托超节点、参数面网络与向量存储等先进技术,为模型训练与推理构建强大基础设施。平台层实现算力、数据和算法的统一调度与高效利用。模型层打造企业级智能模型中枢,通过统一模型管理平台实现对开源、商用及通用、垂直领域等多源模型的集中纳管。应用层形成多模型交互、知识检索、数据分析等AI应用范式。

信息基础设施支撑大模型需求

随着大模型参数规模向万亿级迈进,算力基础设施面临四大挑战。AI服务器性能需求呈数量级提升——算力需求激增10倍以上,HBM容量单卡配置起点提升至32GB。高带宽网络方面,参数面网络需提供200-400Gbps高速通信支持。多样化存储系统演进,向量存储已成为RAG应用标准数据库,可毫秒级实现百万级知识数据的向量检索。一体化集群运维需具备全栈监控、端到端检查、智能诊断、自动化优化四项核心能力。

模型算法管理与应用路径

传统模型与大模型双轨并行

金融机构采用“双轨并进、治理为先”的总体策略。传统模型方面,通过梳理评分卡、PD/LGD、限额、反欺诈、画像等模型,统一要素与特征仓,建立Champion/Challenger机制与漂移监测仪表盘。大模型方面,闭源API/商用模型用于低风险快落地场景;开源/自建模型面向敏感场景私有化部署——如工行“工银智涌”矩阵完成对开源大模型的行内私有化接入;行业自研专用模型对高专业任务构建领域模型,提升金融NLP专项能力。

微调策略与工程化落地

微调(SFT/PEFT)优先采用参数高效微调(LoRA/LoRA+),在冻结底座参数下以极少参数实现接近全参的效果,显著降低显存与成本。二次预训练(Continual/DAPT/TAPT)对公私域金融语料进行继续预训练,先进行领域自适应预训练,再进行任务自适应预训练,在长文本法规、研报、财报等任务上实现稳定增益。

工程化落地采用多种创新方式:数据治理与合规审计、评测集与红线库、RAG知识底座、多代理编排与灰度发布等,构建“平台+生态”支撑体系,以平台方式大规模供给场景。

Agent平台——大模型能力的执行载体

五大引擎协同支撑智能体运行

Agent开发平台提供原生AI应用开发入口,由五大核心模块构成。编排引擎将复杂工作流解析为可独立运行的Agent单元,借助动态任务分配算法实现资源的智能重分配。规划引擎利用LLM设计、预测和优化Agent的未来行动路径。工具引擎标准化工具/API接口,使能Agent访问外部工具或服务。优化引擎通过接收反馈和学习新数据提升任务性能。知识引擎采用向量数据库与语义网络相结合的存储架构,支持知识结构化管理与快速检索。

国有大行大模型部署实践

交通银行——“1+1+N”三维一体框架

交通银行2025年发布《交通银行“人工智能+”行动方案(2025-2027年)》,构建“1+1+N”三维一体框架。夯实1个企业级AI能力平台——搭建以国产GPU服务器为主的千卡异构算力集群。健全1套AI治理机制——搭建统一AI门户,强化算力、数据、模型、场景、风险的穿透式、集成式管理。赋能N个AI场景应用——落地超400个AI场景、累计部署超2500个智能体。

工商银行——“工银智涌”千亿金融大模型

工商银行体系化推动大模型企业级技术能力建设,按照“三大支柱、1+X范式、两全平台、全域生态”的建设思路,建成集“算力、算法、数据、工具、能力、安全、应用、生态”于一体的企业级千亿金融大模型技术体系,打造“工银智涌”大模型品牌,内外协同赋能,实现“人工智能+金融”新生态。
点击阅读报告原文: 北京金融科技产业联盟:人工智能技术金融应用发展报告(2025年)(49页)
相关报告