谁为AI的错误决策负责？当AI自主运行时，人类如何保持控制？安全事故发生时，如何快速阻断风险？中国社会科学院《人工智能示范法4.0》构建了一个覆盖AI研发、提供、使用全生命周期的义务体系：研发者需定期开展安全评估（保存不少于五年）、提供者需至少每两年进行一次合规审计、使用者需确保输入数据和指令的合法性、所有主体需建立应急熔断机制应对系统性风险。这套义务体系的核心逻辑是：谁研发谁负责、谁提供谁负责、谁使用谁负责，最终实现“人类能够监督和控制人工智能”的制度目标。
三重主体框架——谁对AI负责
研发者、提供者、使用者的定义与边界
示范法将AI活动主体分为三类并分别定义（第一百一十二条）：人工智能研发者，是指以训练、优化AI系统的算法、模型等为目的，实施研发活动，但不直接向使用者提供AI产品、服务的个人或组织。从事AI辅助性技术开发的，不属于研发者——这一排除条款避免了将辅助性技术开发者纳入严格义务范围。
人工智能提供者，是指以自己名义向他人提供AI系统功能，并对该系统的调用、运行、管理具有实质控制能力的个人或组织。“实质控制能力”是判断提供者身份的核心标准。人工智能使用者，是指依照AI的性能和用途对其加以利用的个人或组织。三重主体区分实现了“谁研发谁负责、谁提供谁负责、谁使用谁负责”的责任归属原则。
可问责原则的制度化
第七条确立的可问责原则在法律责任章节得到具体落实（第一百条）：研发者因训练数据或算法设计不当、安全测试不符合标准、明知存在重大隐患而未采取必要安全措施等造成损害的，应承担侵权损害赔偿责任；提供者侵害他人合法权益造成损害，不能证明自己没有过错的，应承担侵权损害赔偿责任；使用者应依法承担侵权损害赔偿责任。
研发者义务——从数据到模型的全过程责任
安全评估与文档保存
研发者义务的核心是安全评估（第四十九条）：在将AI投入使用或投放市场前以及定期开展安全评估，安全评估报告保存期限不少于五年。这一长期保存要求确保在发生安全事件时能够追溯研发阶段的安全决策和评估结论。
数据安全与模型治理
研发者需建立健全数据安全、系统安全保障机制，加强AI防御系统，防范外部攻击和内部泄露；建立重要数据和核心数据处理全流程追溯机制，妥善保管相关技术文档；采取有效措施提升模型生成内容的准确性、可靠性（第四十九条）。基础模型研发者的特殊义务包括：建立健全安全风险管理制度、模型管理和数据管理制度、确保安全风险管理必需的算力资源投入、成立主要由外部成员组成的独立机构进行监督、每年发布社会责任报告（第六十五条）。
配合提供者义务
研发者需配合提供者履行义务（第六十四条），包括提供安全评估报告、风险识别和管控措施记录等（第五十七条）。这一“配合义务”确保了研发环节的信息能够传递到提供环节，实现风险管理的连续性。
提供者义务——从备案到终止的全服务周期责任
备案与公示义务
提供者的备案义务（第六十六条）是服务开始前的准入门槛：注册用户数超100万向国家主管机关备案、超1万不足100万向省级主管机关备案。完成备案后需在网站、应用程序等的显著位置注明备案编号（第六十六条）。
日常管理义务
提供者需制定内部数据安全、风险控制、质量管理等制度和操作规程；保存提供AI产品、服务自动生成的日志；定期对从业人员进行教育和培训；采取保障鲁棒性、抗攻击性等合规技术措施；至少每两年进行一次AI审计（第六十八条）。
终止服务的妥善安排
提供者终止服务时，需提前三十个工作日公示终止方案、使用者权利等；自终止之日起三十个工作日内删除使用者的个人信息，并根据国家规定对产品、服务提供过程中产生的数据、训练数据、算法模型作出必要处理（第六十九条）。负面清单内提供者还需提前三十个工作日通知主管机关并交回许可证（第七十条）。
使用者义务与安全机制——合规使用的底线
使用者的合法使用义务
使用者需确保输入数据和指令的合法性，不得故意输入侵犯他人合法权益或包含歧视性、仇恨性内容的违法信息，不得故意提供误导性信息以诱导AI生成有害结果，不得向不符合保密要求的AI输入国家秘密、工作秘密和敏感信息（第七十五条）。不得利用AI服务实施危害国家安全、侵入他人系统、窃取他人数据等违法犯罪行为。
公开传播时需按规定添加、保留或展示标识，不得删除、篡改、隐匿、伪造或规避生成合成内容标识（第七十六条）。将AI用于可能影响公共利益或他人重大权益的场景时，应进行必要的事实核验、来源审查、人工复核、风险提示（第七十七条）。
关键安全机制——审计、补救、熔断与解释权
审计义务要求研发者、提供者按国家规定及主管机关要求进行审计，核验输入数据、算法模型、输出数据等的合规性（第五十二条）。补救和通知义务要求发现安全缺陷、漏洞及逻辑缺陷时立即采取补救措施，安全事件发生后立即采取处置措施并通知相关方（第五十三条）。
应急熔断机制（第五十八条）是最后一道防线：发现系统存在严重安全隐患、处于失控状态或可能引发级联风险时，应立即主动采取暂停研发、停止更新、限制功能、终止运行或销毁系统等风险阻断措施，并向主管机关报告。必要时主管机关有权责令采取处置措施甚至切断网络连接。
决策解释权（第五十五条）：AI产品、服务对个人权益有重大影响时，使用者有权要求提供者对决策的过程、方式等作出解释，提供者应及时反馈。这确保了个人在面对AI决策时不会被“算法黑箱”剥夺知情权和申诉权。
