2026 年 4 月到 5 月，中国人工智能治理连续释放了四个强信号：个人信息保护专项行动、拟人化互动服务管理规则、整治 AI 应用乱象专项行动、智能体规范应用与创新发展实施意见。它们不是彼此孤立的政策动作，而是在共同描绘一个更清晰的治理转向：监管关注点正在从“有没有模型能力”扩展到“模型能力被谁调用、用什么数据训练和运行、以什么方式影响用户、在什么边界内自动行动”。
一、四项政策信号放在一起看，核心不是“收紧”，而是“分层”
如果只看单条公告，很容易得出“AI 监管趋严”的概括。但把 2026 年 4 月 2 日、4 月 10 日、4 月 30 日和 5 月 8 日的四个节点连起来，真正值得关注的是监管方法的变化：一方面，监管部门继续用专项行动处理已经暴露出来的违法违规风险；另一方面，制度供给开始面向更细的产品形态和行业场景，把抽象的安全要求转化为可执行的合规边界。
4 月 2 日，中央网信办、工业和信息化部、公安部、市场监管总局发布个人信息保护系列专项行动公告，重点覆盖 App、SDK、互联网广告、教育、交通、医疗、金融等场景。4 月 10 日，国家网信办、工信部、公安部、广电总局公布《人工智能拟人化互动服务管理暂行办法》，把虚拟伴侣、情感陪伴、拟人化客服等具有持续交互和情感影响的服务纳入专门治理。4 月 30 日，中央网信办部署为期 4 个月的“清朗·整治 AI 应用乱象”专项行动，直指生成式 AI 应用中的备案、安全审核、训练语料、数据投毒、合成内容标识、虚假信息等问题。5 月 8 日，国家网信办等部门发布智能体规范应用与创新发展实施意见，开始把 AI Agent 的身份、权限、日志、标准、评估认证和跨境合规纳入治理视野。
| 时间 | 政策或行动 | 主要对象 | 企业应关注的合规问题 |
|---|---|---|---|
| 2026 年 4 月 2 日 | 个人信息保护系列专项行动 | App、SDK、广告、教育、交通、医疗、金融等 | 告知同意、最小必要、第三方共享、自动化决策、敏感个人信息、儿童个人信息 |
| 2026 年 4 月 10 日 | 人工智能拟人化互动服务管理暂行办法 | 面向公众提供持续拟人化互动的 AI 服务 | 情感依赖、未成年人保护、身份提示、数据收集边界、诱导消费、心理健康风险 |
| 2026 年 4 月 30 日 | 清朗·整治 AI 应用乱象专项行动 | 生成式 AI 应用、内容平台、模型服务、应用分发渠道 | 备案、安全评估、训练语料合法性、数据投毒、深度合成标识、虚假内容治理 |
| 2026 年 5 月 8 日 | 智能体规范应用与创新发展实施意见 | 各类智能体、智能助手、行业智能应用 | 数字身份、权限控制、行为留痕、评估认证、行业标准、海外合规、供应链安全 |
这张表背后有一个共同逻辑：人工智能治理已经不满足于把企业分成“模型提供者”和“普通使用者”。一个企业即使不训练基础模型，只要把大模型接入产品、把用户数据输入模型、让模型以拟人方式持续影响用户，或者让智能体调用企业系统执行任务，就会进入新的合规责任区域。
二、个人信息保护专项行动：AI 合规的底座仍然是数据合规
很多企业讨论 AI 合规时，会把重点放在算法备案、生成式 AI 服务备案、深度合成标识等专门制度上。但近期个人信息保护专项行动提醒我们，AI 合规的第一层底座仍是数据合规。没有合法、正当、必要的数据处理基础，后续所谓模型能力、智能推荐、自动决策、画像分析和智能客服，都可能建立在不稳固的合规基础上。
个人信息保护专项行动的重点领域并非偶然。App 和 SDK 是移动互联网时代个人信息收集的主要入口；互联网广告关系到用户画像、精准推送和自动化决策；教育、交通、医疗、金融则具有更高敏感性，既涉及大量实名身份信息，也涉及位置轨迹、健康生理、金融账户、未成年人信息等高风险数据。AI 技术嵌入这些场景后，风险会被放大：数据收集链条更长，处理目的更复杂，第三方组件更多，用户更难理解自己的信息到底被怎样利用。
对 AI 产品而言，个人信息保护专项行动至少会影响四类实践。第一，训练和微调环节。企业如果使用业务日志、客服对话、用户评论、语音文本、简历、病历、学习记录等材料训练模型，需要确认数据来源、处理目的、授权范围、匿名化或去标识化处理方式，以及是否涉及敏感个人信息。第二，提示词和上下文环节。很多企业没有意识到，用户在对话框中输入的信息、企业把 CRM 记录或工单内容拼接进提示词的行为，本身就是个人信息处理。第三，输出和决策环节。AI 输出如果用于评分、推荐、风控、招聘筛选、保险定价、教育评价，就可能触及自动化决策规则的透明度、公平性和拒绝权问题。第四，供应商和插件环节。企业把数据传给第三方模型、向量数据库、插件平台或境外云服务，需要重新审视委托处理、共同处理、数据出境和安全能力评估。
这也解释了为什么数据合规不能被简化成“隐私政策写了没有”。AI 场景中的合规难点往往不是静态文本，而是动态流转。一个用户问题可能先进入前端日志，再进入模型网关，再被写入向量库，再被发送给第三方模型，再被用于质检、训练或产品优化。每多一个环节，就多一个目的兼容性、访问权限、保存期限、脱敏方式和第三方责任的问题。监管专项行动如果向这些链路延伸，企业只靠一份隐私政策很难解释清楚。
| AI 数据环节 | 典型风险 | 建议控制点 |
|---|---|---|
| 训练语料收集 | 来源不明、未经授权、含敏感个人信息或版权内容 | 建立语料来源台账、授权证明、敏感信息过滤、版权和个人信息双重审查 |
| 用户输入处理 | 用户上传身份证、病历、合同、聊天记录后被默认留存或训练 | 默认不用于训练，提供显著提示、删除入口、企业级数据隔离和日志脱敏 |
| 上下文增强 | 把内部知识库、客户资料、工单记录无差别注入模型 | 做权限继承、字段分级、最小必要拼接、提示词审计和访问日志 |
| 模型输出使用 | AI 结果直接影响用户权益却缺少人工复核 | 区分辅助建议和自动决策，保留人工复核、申诉和解释机制 |
| 第三方服务调用 | 数据被传给外部模型、插件、代理服务或境外云 | 签署委托处理协议，核查出境路径、供应商安全能力和数据删除机制 |
三、整治 AI 应用乱象：监管从“模型能力”走向“应用秩序”
“清朗·整治 AI 应用乱象”专项行动的意义，在于它把监管焦点放在 AI 应用层。过去企业容易把责任理解为基础模型厂商的事情：模型是否备案、算法是否安全、训练语料是否合规，似乎主要由上游承担。但生成式 AI 的实际风险往往发生在应用层：一个模型被包装成写作工具、情感陪伴产品、算命应用、客服助手、知识付费工具或短视频生成器后，风险呈现完全不同的形态。
专项行动列出的风险线索覆盖面很广：未依法依规履行备案或安全评估程序，训练语料和数据来源存在问题，利用 AI 生成谣言、虚假营销、低俗内容，生成合成内容标识不到位，AI 产品诱导用户沉迷或误导消费，应用分发平台审核责任不足，甚至出现数据投毒和模型污染。这说明监管已经开始把“AI 应用生态”作为整体治理对象，而不是只盯住某一个模型或某一个内容结果。
从企业角度看，专项整治的压力会沿着三条链路传导。第一条是产品上线链路。任何面向公众的生成式 AI 服务，都要确认是否属于备案、安全评估、深度合成标识、算法推荐备案等制度范围。即使企业使用第三方大模型，也不能当然认为自己没有合规义务。第二条是内容治理链路。产品需要识别违法不良信息、虚假信息、侵权内容、未成年人不适宜内容，还要在生成合成内容中落实显著或隐式标识。第三条是分发和运营链路。应用商店、小程序平台、插件市场、内容平台如果分发 AI 应用，也需要承担审核、处置、下架、投诉处理和日志留存责任。
这里尤其值得注意的是“数据投毒”。它不是传统个人信息合规里最常见的概念，却是 AI 安全治理中的关键风险。所谓数据投毒，通常指攻击者通过污染训练数据、检索库、反馈数据或指令数据，使模型在特定触发条件下输出错误、偏见、违法或泄密内容。在企业内部智能问答、知识库检索增强、客服质检、代码生成、风控模型等场景，数据投毒可能来自外部爬虫内容、用户恶意提交、被污染的文档库，也可能来自内部权限控制不当。监管把数据投毒纳入专项整治，意味着企业需要把 AI 安全从内容审核延伸到数据供应链和模型运行链路。
对于已经上线 AI 功能的企业，最务实的做法不是等专项行动找上门，而是先完成一次应用清单盘点。清单至少应包括：产品名称、使用的模型、是否面向公众、是否可生成文本图片音视频、是否涉及推荐排序或自动化决策、是否处理个人信息或敏感个人信息、是否调用外部插件、是否留存用户输入、是否用于训练优化、是否有内容标识、是否有投诉和人工处置机制。没有这张清单，企业很难判断自己到底落入哪些监管要求。
四、拟人化互动服务：AI 不只是工具，也可能成为“关系”
《人工智能拟人化互动服务管理暂行办法》将于 2026 年 7 月 15 日施行，它的重要性在于提出了一个新的治理对象：具有持续拟人化互动能力、能够对用户形成情感影响的 AI 服务。相比普通问答工具，拟人化互动服务更接近一种长期关系。它会记住用户偏好，以人设、语气、称呼、情绪回应和陪伴机制增强黏性，甚至可能被设计成朋友、恋人、导师、心理陪伴者、虚拟偶像或数字人客服。
这类服务的风险与传统内容合规不同。普通生成式 AI 的核心风险可能是回答错、生成违法内容、泄露信息；拟人化互动服务的风险还包括情感依赖、心理暗示、操纵性设计、诱导付费、未成年人沉迷、身份混淆、过度收集私人生活信息。用户在和一个“像人一样回应”的系统交流时，往往会披露比普通搜索或客服场景更多的隐私：家庭矛盾、感情经历、健康状态、财务压力、心理困扰、未成年人身份和位置线索。这些信息未必都以表格字段出现，但从合规角度看，同样可能构成高敏感度的数据资产。
拟人化互动服务规则的出现，也说明中国 AI 治理开始关注“交互设计本身”的法律后果。过去很多合规审查只看隐私政策、用户协议、内容审核规则和数据安全制度，但拟人化产品的风险很大程度来自设计：是否让用户误以为对面是真人，是否故意制造亲密关系，是否在用户情绪脆弱时推销会员，是否通过连续签到和关系等级迫使用户沉迷，是否让未成年人接触不适当话题，是否在用户表达自伤风险时缺少干预机制。
因此，企业做拟人化 AI 产品时，合规评审不能只交给法务在上线前看文档。产品经理、算法团队、运营团队、未成年人保护负责人、客服和安全团队都需要参与。法务要问的不只是“条款有没有写”，还要问“用户在第 7 天、第 30 天、第 100 天会被怎样引导”。一项拟人化 AI 服务越强调亲密、陪伴、疗愈、关系成长和人格设定，越需要证明它没有利用用户脆弱性，也没有通过设计诱导用户持续投入时间、金钱和私人信息。
| 拟人化互动设计 | 可能触发的风险 | 合规设计建议 |
|---|---|---|
| 真人式身份、人设和语音 | 用户身份混淆、误信真人关系 | 持续提示 AI 身份，避免冒充真实个人或专业人员 |
| 长期记忆和亲密称呼 | 过度收集私密信息，形成情感依赖 | 记忆开关默认谨慎，允许查看、编辑、删除记忆 |
| 情绪安抚和心理陪伴 | 误导心理健康判断，延误专业帮助 | 设置危机干预提示，避免替代医疗或心理咨询 |
| 关系等级和付费解锁 | 诱导消费、未成年人沉迷 | 限制未成年人功能，弱化操纵性留存机制 |
| 个性化推荐和话题引导 | 利用用户脆弱性、画像过深 | 建立敏感话题边界，做推荐透明和人工复核 |
五、智能体实施意见：治理对象从“回答问题”扩展到“代人行动”
如果说生成式 AI 的典型能力是回答问题、生成内容，那么智能体的典型能力是理解目标、规划步骤、调用工具并执行任务。它可以查询数据库、调用 API、发送邮件、创建订单、修改配置、提交代码、调度流程，甚至代表用户或企业在多个系统之间完成操作。这也是智能体规范应用与创新发展实施意见值得高度关注的原因：当 AI 从“说”走向“做”，合规问题就不再只是输出内容是否正确，而是行为是否被授权、权限是否可控、后果是否可追溯。
智能体治理的关键不在于给每个 Agent 起一个名字，而在于建立可验证的责任链。一个智能体需要有明确的身份，知道它代表谁、在哪个系统中行动、拥有哪些权限、能访问哪些数据、能调用哪些工具、哪些动作必须人工确认、哪些动作必须记录日志、出现错误时由谁处置。没有这些机制，智能体就可能成为权限和数据泄露的放大器。
企业内部落地智能体时，最常见的误区是把它当成“更聪明的自动化脚本”。传统脚本通常任务单一、权限固定、输入输出可预测；智能体则可能根据上下文动态规划和调用工具，行为路径更复杂。一个销售助手原本只用于总结客户沟通记录，但接入 CRM、邮箱和报价系统后，它可能读取客户个人信息、生成报价、发送邮件、改变商机阶段。如果没有权限分级、人工确认和操作日志，企业很难在事后判断某个错误报价、数据误发或不当承诺是谁造成的。
智能体实施意见中提到的标准体系、评估认证、数字身份、行业应用、开放生态和海外合规，释放出一个信号：监管并不否定智能体创新，反而希望通过标准化和场景化机制推动高价值落地。但这种鼓励不是无边界的。未来合规能力可能成为智能体产品的市场准入要素，尤其在政务、金融、医疗、教育、交通、能源、工业制造等领域，客户会要求供应商说明智能体的权限模型、审计日志、数据隔离、模型安全、应急处置和供应链安全。
六、四项信号共同指向的企业治理框架
从企业合规建设角度看，四项政策信号可以被转化为一个分层治理框架。第一层是数据底座，回答“数据从哪里来、能不能用、能用到什么程度”。第二层是模型和应用，回答“这个 AI 能力是否需要备案、评估、标识、审核和内容处置”。第三层是交互关系，回答“产品是否以拟人化方式影响用户，是否可能造成情感依赖、身份混淆或未成年人风险”。第四层是智能体行为，回答“系统是否会代人行动，权限、日志、确认和责任链是否清楚”。
这四层不是线性关系，而是会在一个产品中同时出现。例如，一个面向企业客户的 AI 销售助手，可能收集和处理客户个人信息，使用生成式 AI 总结沟通内容，以拟人化口吻与客户互动，并作为智能体调用 CRM 和邮件系统。它同时落入个人信息保护、生成式 AI 应用、拟人化交互和智能体权限治理的视野。企业如果只用单一制度审查，就会漏掉风险。
| 治理层级 | 核心问题 | 关键制度或机制 | 责任部门 |
|---|---|---|---|
| 数据底座 | 数据是否来源合法、处理必要、授权清楚 | 数据分类分级、个人信息处理记录、语料台账、脱敏和留存规则 | 法务、数据合规、安全、业务 |
| 模型与应用 | 是否面向公众，是否生成内容，是否需要备案或评估 | AI 应用清单、备案评估判断、内容审核、深度合成标识、投诉处置 | 产品、算法、安全、法务 |
| 交互关系 | 是否拟人化，是否形成情感影响或未成年人风险 | AI 身份提示、未成年人保护、情感依赖风险评估、诱导消费审查 | 产品、运营、未保、法务 |
| 智能体行为 | 是否调用工具或代用户执行任务 | 数字身份、权限分级、人工确认、操作日志、回滚和应急机制 | 研发、安全、运维、业务负责人 |
| 外部协作 | 是否使用第三方模型、插件、云服务或境外资源 | 供应商尽调、委托处理协议、数据出境评估、服务级别和删除机制 | 采购、法务、安全、IT |
这个框架的价值在于把监管文件变成上线流程。企业不需要等每个产品都形成复杂的法律备忘录，但至少需要建立“AI 功能上线门禁”。门禁不是阻止创新，而是让创新有可证明的边界。一个成熟的上线流程应当包括：AI 功能登记、数据类型识别、模型和供应商识别、面向公众与否判断、个人信息和敏感信息评估、未成年人影响评估、内容安全评估、拟人化互动评估、智能体权限评估、日志和投诉机制确认、应急预案确认。
七、企业现在最该补的不是一份制度，而是一套台账
很多企业在监管趋严时的第一反应是补制度，写《人工智能合规管理办法》《生成式 AI 使用规范》《数据安全管理制度》。制度当然需要，但如果没有台账，制度很容易变成纸面合规。AI 合规最缺的往往不是原则，而是可追溯事实：公司到底接入了哪些模型，哪些业务在用，传输了哪些数据，哪些功能面向公众，哪些输出会影响用户权益，哪些智能体可以调用内部系统，哪些供应商会留存或训练客户数据。
建议企业至少建立四张基础台账。第一是 AI 应用台账，记录所有内外部 AI 功能及其业务负责人。第二是数据流转台账，记录输入数据、训练数据、上下文数据、日志数据和输出数据的来源、目的、保存期限和共享对象。第三是供应商与模型台账，记录模型名称、部署方式、服务商、数据处理条款、出境情况、安全能力和退出机制。第四是智能体权限台账，记录每个智能体可以访问的系统、调用的工具、执行的动作、人工确认规则和日志留存策略。
这些台账看似基础，却直接决定企业能否应对检查、投诉和事故。监管问“这个功能是否备案过”，企业要能从应用台账中找到答案；用户问“我的聊天记录是否被用于训练”，企业要能从数据流转台账中回答；客户问“你们的智能体会不会越权读取我的数据”，企业要能从权限台账中说明；发生模型输出虚假内容或误操作时，企业要能通过日志和供应商台账还原链路。
| 台账名称 | 最低字段 | 使用场景 |
|---|---|---|
| AI 应用台账 | 功能名称、负责人、模型来源、上线时间、用户范围、是否公众服务 | 判断备案、评估、内容治理和投诉处置责任 |
| 数据流转台账 | 数据类型、来源、处理目的、保存期限、共享对象、是否用于训练 | 回应个人信息保护检查和用户权利请求 |
| 供应商与模型台账 | 服务商、部署区域、合同条款、数据留存、训练承诺、出境路径 | 供应链安全、委托处理、出境合规和退出替换 |
| 智能体权限台账 | 智能体身份、系统权限、工具列表、动作级别、人工确认、日志路径 | 防止越权操作，定位事故责任，满足审计要求 |
八、合规不是和创新对立，而是决定 AI 能否进入高价值场景
近期监管动作容易让市场产生一种误读：AI 合规会抑制创新。更准确的理解是，合规正在成为 AI 进入高价值场景的前提。低风险的娱乐生成、文案辅助、公开信息问答可以比较快地试错；但医疗、金融、教育、政务、法律、工业和企业经营管理场景需要处理真实个人信息、商业秘密、关键业务流程和重大权益影响，不能只靠模型效果说服客户。
在这些高价值场景里，客户真正关心的问题很具体：数据是否会被服务商拿去训练，模型输出错误由谁负责，智能体是否可能越权下单或修改记录，员工输入客户资料是否违反合同，未成年人数据如何保护，用户如何申诉和删除信息，监管检查时企业能否提供日志和证明。能够回答这些问题的 AI 产品，才有机会进入核心业务系统。回答不了，即使演示效果很好，也很难通过采购、安全、法务和内控评审。
因此，企业不应把近期政策只理解成风险清单，也应理解成产品竞争维度的变化。未来一个成熟 AI 产品的说明书，除了模型参数、上下文长度、价格和准确率，还应包括数据处理说明、权限模型、审计日志、内容安全机制、未成年人保护、生成合成标识、供应商承诺、退出和删除机制。谁能把这些能力产品化，谁就更容易获得大客户和受监管行业的信任。
九、结语：2026 年的关键词是“可证明的边界”
回到最初的四项政策信号，个人信息保护专项行动强调数据处理的合法性和必要性，AI 应用乱象整治强调应用生态和内容秩序，拟人化互动服务规则强调交互关系和用户脆弱性，智能体实施意见强调身份、权限和行为可追溯。它们共同指向一个关键词：可证明的边界。
所谓可证明的边界，就是企业不能只说自己“重视合规”“不会滥用数据”“模型只是辅助工具”。企业需要能够拿出事实：数据来源台账、用户授权记录、模型供应商协议、备案和评估判断、内容标识方案、拟人化互动风险评估、未成年人保护机制、智能体权限配置、操作日志和应急处置记录。AI 技术越深入业务，越需要这种可证明性。
2026 年，中国人工智能治理的重心正在从原则表达走向场景落地。对企业来说，最稳妥的路线不是等待更多细则，也不是用“内部试用”逃避责任，而是尽快把 AI 功能纳入数据合规、产品合规、安全合规和内控审计的统一流程。只有这样，企业才能在监管、客户和用户三方压力下继续创新，而不是在每一次专项行动中被动补课。
参考文献
- [1] 中央网信办, 工业和信息化部, 公安部. 关于开展 2026 年个人信息保护系列专项行动的公告[EB/OL]. (2026-04-02)[2026-05-19]. https://www.cac.gov.cn/2026-04/02/c_1776867645836849.htm.
- [2] 国家互联网信息办公室. 人工智能拟人化互动服务管理暂行办法[EB/OL]. (2026-04-10)[2026-05-19]. https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm.
- [3] 中央网信办. 中央网信办部署开展“清朗·整治 AI 应用乱象”专项行动[EB/OL]. (2026-04-30)[2026-05-19]. https://www.cac.gov.cn/2026-04/30/c_1779289298718765.htm.
- [4] 国家互联网信息办公室, 国家发展改革委, 工业和信息化部. 智能体规范应用与创新发展实施意见[EB/OL]. (2026-05-08)[2026-05-19]. https://www.cac.gov.cn/2026-05/08/c_1779979789523320.htm.