05-林金曙-金融大模型:架构变革、工程实践及Agent探索.pdf
1、恒生电子 林金曙金融大模型:架构变革、工程实金融大模型:架构变革、工程实践及践及AgentAgent探索探索0 1背景与背景与趋势趋势0 2场景场景分享分享0 30 4Agent Agent 探索探索0 5未来展望未来展望工程工程实践实践大模型发展路线从左到右,对话/写作文/阅读理解TransformerGPTGPT2GPT3InstructGPTGPT3.5BertRoBERTa20172018.062019.112020.052022.012022.11.3020182019attention is all you needChatGPT上下文双向,完形填空基于大模型原生的金融IT架构变革
2、-大模型友好、业务skills资产化金融Agent(业务地图)投顾Agent资产配置建议话术推荐产品对比信息查询问答(RAG)抽取审核写作fuctioncallchatBI能力层大模型插件MCP标准(Model Context Protocol)公告研报财报交易数据资讯原子层恒生Agentic平台 数据层TA/估值数据资配数据投行底稿模型层LLM(deepseek/qwen/GLM等)算力层英伟达/昇腾等柜台原子能力TA/估值原子能力O32原子能力动态任务规划记忆迁移业务逻辑拆解原子能力注册AIDB资配原子能力语音识别/生成视频识别/生成图像识别/生成数字人多模态能力权限与安全.Agent平台
3、(openclaw)运营Agent机构业务办理组合业务办理合同参数抽取函证识别客服AgentFAQ问答陪练质检安抚话术投研Agent脱水研报研报撰写会议纪要观点提取投行agentIPO底稿审核债券募集书生成ABS计划书审核并购撮合推荐办公Agent知识库问答摘要写作翻译n传统IT系统业务敏捷性差n智能化程度低、知识密集型工作多n烟囱系统林立、系统孤岛严重n敏态化:基于AI中台构建业务Agentn中台化:金融大模型插件+动态编排Agent金融工具n原子化:面向大模型友好的业务内容原子化优势系统孤岛、智能化低、需求响应慢n全业务链原子能力skills化,全覆盖n金融行业大模型插件n面相大模型友好的
4、数据(AIDB)智能、开放、灵动金融场景大模型适配度业务场景颠覆概率业务特色价值客户服务场景(APP、投顾、客服)1.输入输出非结构化 2.售前、售中、售后等咨询类知识服务,随着业务、外部信息变化,需要针对给出建议和标准化业务办理 用户端,通过问答提升用户体验,最终带来业务粘性交易处理场景(UF3/2、O45/3、i2)输入输出结构化数据、实时、监管、高并发、错误零容忍 风控规则赖在文本,设置复杂 提升效率,降低合规风险:除了在前置文本数据(法规、研报等)处理,交易本身短期很难和大模型结合。流程处理场景(账户运营、机构运营、CRM等)业务变化快,菜单多 输入由大量非机构化证件、文档组成 操作留
5、痕、业务审批审核;多系统协同对接;基础数据标准化、业务规模不大;用户端,通过问答提升用户体验,降低业务学习成本 减少办理业务过程中,高频初级知识密集工作。降本增效明显数据处理场景(TA、估值、合规、统一报送)监管驱动、结构化批量化操作;数据量大,计算规则复杂、数据源多、数据标准化不高、有时限要求;在线数据展示,定制化;在线报表展示,减少定制化成本知识密集型场景(投研、投行、信披营销审核)输入输出结构化数据 知识密集性工作,主要包括搜、读、算、写、审 海量文本处理,替代人工筛选信息 高频文本审核,降低合规风险场景一:机构运营场景二:投顾理财场景三:托管运营场景四:投研场景五:投行03-1 搜反常
6、识向量真的需要嘛?BM25经典永不过时,在金融精确查询场景反而比向量检索准为什么?数字、代码、专有名词没有语义近邻知识库运营整体流程(业务知识挖掘、数据清洗、数据飞轮、效果评测)知识生产、挖掘知识立体加工知识智能应用知识反馈迭代优化知识安全:权限、审核、安全管控(水印、防复制、禁止下载、操作日志)确保价值知识全面挖掘实现数据到知识立体加工【隐性知识】自动萃取、社区互动、激励分享1、企业微信聊天记录2、客服电话录音3、录音会议纪要4、社区提问互动自动提取高频同质化问题,构建动态更新的场景化QA知识库。【显性知识】文档沉淀1、外部知识:U+订阅2、企业知识知识同步、人工上传、在线编辑FAQ自动提取





点击查看更多