1三、项目背景 (2025)》中发布的数据,截至2025 年6月,我国生成式人工智能用户规 模已达5.15亿人,上半年增长2.66亿 人,半年增幅高达106.6%。生成式 Al 一、案例摘要 进程,其中金融行业作为数据密集和 风险敏感型领域,成为生成式AI应用 Al在应用过程中产生的违规内容、数据泄露、合规风险及新型攻击问题。平台创新提 最活跃、风险最集中的场景之一。 出“策略一技术一运营”三位一体框架,并构建“三层漏斗+五道防线”全链路防护 体系。现已在智能客服、信贷审批等高敏场景稳定运行,月检测量达百万级,违规内 容识别与拦截准确率持续保持行业领先水平,显著提升金融合规运营能力,为金融行 入AI技术以提升业务效率与智能化水平。生成式AI在内容生成、交互和决策过程中 业构建以模型管理模型的AI防护新范式。 也带来了违规输出、数据泄露、合规风险与AI幻觉等新型安全问题。在实际落地过程 中,金融机构普遍面临以下三方面的突出痛点,严重制约了生成式AI的安全应用与合 ■二、企业介绍 规发展。 上海淇毓信息科技有限公司(品牌名:奇富科技,以下简称“公司”)成立于2016年, 1.内容合规与风险管控成本压力 致力于成为中国领先的AI驱动金融科技平台。公司以“用先进科技改变金融服务” 生成式AI在金融信贷等场景中易产生“保本保息”“无风险套利”等违规内容, 为使命,深耕信贷科技,自主构建了覆盖客户获取、信贷评估、资金优化与贷后管理 或出现“幻觉”输出虚构信息,导致误导客户、违反监管要求。依靠传统人工审核与 的全链路技术体系,服务于自有及合作金融业务场景。作为具备深厚业务基础和技术 静态规则的方式不仅难以及时识别和拦截,并且随着业务规模扩展,模型违规生成频 积累的金融科技企业,公司坚持以自研技术驱动业务创新,在AI与数据安全领域持 率上升,人工审核负担加剧,合规治理成本爆发式增长。 续投入,围绕高敏金融业务场景自主研发“智盾AI护栏”安全防护平台,实现从策略、 2.审核效率瓶颈引发高成本压力 技术到运营的全链路创新应用,显著提升了合规运营与风险防控能力。公司不断推动 金融服务数字化转型,形成可复制、可推广的创新实践,展现出突出的技术自主创新 准确、实时,存在覆盖不足、错误率高等问题。同时,生成式AI的推理成本(如GPU 与行业引领能力。