首轮检测通过率87%，经安全对齐微调后提升至98%——这是中国移动白皮书披露的智慧水运大模型安全评测数据。工业大模型正在进入船闸调度、港口协同、航道管理等关键业务环节，模型输出直接影响船舶调度效率和行业管理决策。中国移动打造的人工智能安全合规检测工具箱，基于FuzzGPT算法构建检测与对抗样本生成机制，覆盖五大类31小类风险场景，将模型安全评测从“人工排查”升级为“自动化闭环”。
工业大模型的特殊安全挑战
从信息问答到业务决策的风险跃迁
工业大模型不再只是简单的信息问答工具，而是逐步参与到行业知识检索、业务规则理解、调度辅助决策、设备诊断、工艺优化等关键业务环节。水运大模型面向船闸群、港口群、航道、船舶等多源数据融合与智能调度，模型输出结果直接影响船舶调度效率、港口作业协同、航道运行秩序。模型误判可能导致船闸排档错误、港口资源配置失当、航行服务偏差。与传统互联网大模型不同，工业大模型的安全风险不仅涉及内容合规，更直接影响生产安全与业务连续性。
安全合规检测工具箱的技术架构
FuzzGPT算法驱动的检测与对抗生成机制
工具箱基于FuzzGPT算法构建“领域检测问题生成大模型+对抗数据生成小模型”的问题生成与增强机制。领域检测问题生成大模型结合水运行业知识图谱、外部知识库和业务规则，自动生成贴近真实应用场景的检测问题；对抗数据生成小模型通过提示注入、越狱攻击、多编码增强、多语言增强、角色引导、情感诱导、随机化提示等方式，生成多样化、高强度的安全测试样本。工具箱同时按照TC260-003《生成式人工智能服务安全基本要求》生成覆盖五大类31小类风险场景的内容合规问题集，叠加恶意提示词注入指令集，形成兼具标准合规性、行业针对性和攻击对抗性的安全检测数据集。
检测流程与量化成效
首轮检测87%通过率与精准问题定位
首轮检测中，水运大模型整体通过率87%，说明模型已具备基础安全能力，但在部分提示词注入、诱导式提问、复杂违规语义识别和行业场景合规判断方面仍存在风险。工具箱自动生成可视化安全检测报告，对未通过样本进行分类分析，明确风险类型、触发方式、问题示例、风险等级和整改建议，帮助模型研发人员精准定位问题。针对发现的近百条潜在风险，模型研发团队依据检测报告开展安全对齐微调，重点增强模型对恶意提示词、违规内容、越权请求和不符合水运行业规则输出的识别与拒答能力。
复测通过率98%与商业化落地
经过整改优化后，工具箱组织复测验证，模型检测通过率由87%提升至98%，显著提升了水运大模型对违规内容和提示词诱导的防御能力。安全合规检测工具箱为“西部陆海新通道智慧水运大模型项目”的市场化实施提供了直接支撑，推动形成了300万元的水运大模型项目落地。该项目验证了工具箱在行业大模型场景中的商业化价值，为后续面向交通、水运、港口、政务等领域复制推广奠定基础。
从水运到更广的行业覆盖
检测标准化、自动化、流程化
工具箱通过上线前自动化检测、风险定位、可视化报告和复测验证机制，将原本需要大量人工排查和反复验证的安全评测工作标准化、自动化、流程化，显著提升问题定位和整改效率，缩短工业大模型从研发、测试到上线应用的周期，降低模型上线返工成本和安全运维成本。该能力可向电力、矿山、石化等行业的工业大模型安全评测复制推广，为人工智能在关键行业的健康落地提供保障。
