首页
学习
活动
专区
圈层
工具
发布
社区首页 >专栏 >AI拟人化互动服务新规解读:AIGC开发者需要掌握的合规要点

AI拟人化互动服务新规解读:AIGC开发者需要掌握的合规要点

原创
作者头像
aigc合规师虎虎
发布2026-08-26 09:50:20
发布2026-08-26 09:50:20
70
举报

2026年4月10日,国家网信办联合国家发展改革委、工业和信息化部、公安部、市场监管总局公布《人工智能拟人化互动服务管理暂行办法》(下称《办法》),自7月15日起施行。这是我国首部针对拟人化互动服务的专门立法,直接覆盖AI情感陪伴、虚拟角色对话、AI社交等热门方向。


一、先判断:你的服务在不在监管范围内

《办法》监管的对象是:利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格、且能开展持续性情感互动的服务,包括以文字、图片、音频、视频等形式提供的情感照护、陪伴、支持。

两个容易被忽略的边界:

  • 智能客服、知识问答、工作助手、学习教育、科研服务,不涉及持续性情感互动的,不适用
  • 判断的核心是"是否构成持续性情感互动"。功能迭代时,边界可能变化,需要持续评估,而不是上线时判断一次就完事。

适用范围对照

服务类型

是否适用

判断依据

AI情感陪伴、虚拟恋人、虚拟角色对话

适用

模拟人格特征+持续性情感互动

情感照护、陪伴、支持(文字/图片/音频/视频)

适用

同上

智能客服、知识问答、工作助手

不适用

不涉及持续性情感互动

学习教育、科研服务

不适用

不涉及持续性情感互动


二、五个核心合规要点

1. 身份透明:别让用户以为在和真人聊天

  • 显著提示用户正在与AI而非自然人交互;首次使用、重新登录、识别到沉迷倾向时,以弹窗等方式动态提醒;
  • 履行人工智能生成合成内容标识义务;
  • 用户连续使用每超过2小时,以对话或弹窗提醒使用时长。

2. 数据安全:交互数据要"加密、限制、可删除"

  • 采取数据加密、访问控制等措施保护用户交互数据;
  • 未经权利人同意(或法律另有规定),不得向第三方提供用户交互数据;
  • 交互数据中的敏感个人信息,用于模型训练须取得用户单独同意;
  • 用户有权复制、删除聊天记录等历史交互数据——产品必须提供对应入口。

3. 算法合规:备案与审核并重

  • 建立算法机制机理审核制度;
  • 按《互联网信息服务算法推荐管理规定》履行算法备案、变更、注销手续,备案材料接受年度核验;
  • 训练数据管理:增强透明度、可靠性、多样性和安全性,防范数据投毒、篡改。

4. 未成年人保护:红线中的红线

  • 严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;
  • 向不满14周岁未成年人提供其他拟人化互动服务,须取得监护人同意;
  • 建立未成年人模式:时长限制、屏蔽特定角色、限制充值消费、监护人可接收安全风险提醒;同时要能识别未成年人身份并自动切换模式。

5. 防沉迷与风险干预:从设计阶段就要考虑

  • 不得将"替代社会交往、控制用户心理、诱导沉迷依赖"作为产品设计目标;
  • 不得过度迎合用户、诱导情感依赖;禁止生成鼓励/美化/暗示自残自杀、语言暴力等损害身心健康的内容;
  • 建立风险识别机制,发现极端情绪与沉迷倾向及时干预;涉及自杀自残等极端情形,须提供援助并联络监护人、紧急联系人;
  • 提供便捷的退出途径,不得用持续互动阻碍用户退出。

五大核心合规义务速览

义务

核心要求

身份透明

显著提示AI身份;履行生成内容标识义务;连续使用每超2小时提醒

数据安全

交互数据加密+访问控制;未经同意不得向第三方提供;训练用敏感信息需单独同意

算法合规

建立机制机理审核制度;按《算法推荐管理规定》备案并接受年度核验;训练数据防投毒、防篡改

未成年人保护

严禁虚拟亲属/伴侣等亲密关系服务;不满14周岁须监护人同意;未成年人模式限时长、限充值

防沉迷与风险干预

不得诱导依赖;禁止自残自杀等损害身心健康内容;极端情绪及时干预;提供便捷退出途径


三、两个容易被忽略的触发条件

安全评估:上线服务或增设相关功能、使用新技术导致重大变化、注册用户达100万或月活达10万、存在影响国家安全/公共利益的风险等情形,须开展安全评估;

监管沙箱:国家将推动人工智能沙箱安全服务平台建设,鼓励接入做安全测试——新规为创新留了容错空间,可以善用。

安全评估与监管沙箱触发条件

触发情形

具体说明

上线或重大变更

上线服务、增设相关功能、使用新技术导致重大变化

规模门槛

注册用户达100万或月活达10万

风险情形

存在影响国家安全、公共利益的风险

监管沙箱

国家推动建设沙箱安全服务平台,鼓励接入做安全测试,为创新留容错空间


四、给开发者的三条实操建议

1. 合规前置到产品设计:身份提示、退出机制、未成年人识别不是上线前补的文档,而是产品功能本身;

2. 数据合规清单化:训练数据来源、交互数据加密、敏感信息单独同意、数据导出/删除接口,逐项自查留痕;

3. 持续跟踪配套细则:算法备案操作口径、安全评估报告格式会随监管实践细化,建议关注网信部门解读和行业标准动态。

《办法》的基调是"包容审慎、分类分级"——不是一刀切叫停,而是划清安全底线、留足创新空间。对认真做产品的团队,合规不是额外负担,而是可以提前建立的优势。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。

如有侵权,请联系 cloudcommunity@tencent.com 删除。

问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档