全国首部AI拟人化互动服务新规施行正式落地-ITBeer科技资讯

全国首部AI拟人化互动服务新规施行正式落地

商业

ITBeer科技资讯 2026-07-15 12:00:00

摘要   7月15日,由国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合发布的《人工智能拟人化互...

来源: 网经社

全国首部AI拟人化互动服务新规施行正式落地

   7月15日,由国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式落地施行。作为全球首部专门针对AI情感陪伴、拟人化互动场景的专项监管法规,新规的落地标志着我国AI治理从通用合规监管迈入精细化、场景化精准治理新阶段,为快速扩张的情感AI、虚拟陪伴、智能拟人互动行业划定清晰合规红线。

  近年来,AI拟人化互动服务快速渗透大众生活,虚拟伴侣、AI情感陪伴、智能角色对话、拟人化咨询等产品持续走红,行业市场规模高速增长。这类服务凭借全天候在线、沉浸式互动、精准情绪适配等特点,成为众多用户的情绪倾诉出口,但同时衍生出一系列新型风险。部分平台存在诱导用户情感依赖、心理沉迷、过度迎合用户、泄露私密交互数据、误导非理性决策等问题,尤其对未成年人、老年人群体存在潜在安全隐患,长期存在监管规制空白,行业野蛮生长乱象亟待整治。

  据网经社AI台(AI.100EC.CN)获悉,本次正式施行的《办法》立足包容审慎、分类分级监管原则,针对性补齐AI拟人化情感互动场景的监管短板,构建起内容安全、弱势群体保护、数据合规、防沉迷干预四位一体的完整监管体系,全方位规范行业经营秩序。

  在内容与行为监管层面,《办法》明确七类禁止性行为,创新性将情感伤害、心理操控纳入监管范畴,严禁平台生成危害用户身心健康、损害人格尊严的内容,禁止过度迎合用户、诱导情感沉迷、操控用户作出不合理决策。同时打破传统事后审核模式,将产品设计算法目标纳入前置审查,严禁以替代社会交往、控制用户心理作为产品研发目标,实现全生命周期风险管控。

  在弱势群体保护方面,新规建立差异化精准防护机制,筑牢安全防护屏障。明确全面禁止向未成年人提供虚拟亲属、虚拟伴侣等亲密关系拟人服务,对低龄未成年人使用其他AI互动服务设置监护人同意机制,并强制上线未成年人专属防护模式、时长管控、充值限制等功能。同时要求平台强化老年用户风险提示与使用指导,切实守护特殊群体合法权益。

  数据合规领域,《办法》升级用户私密数据保护标准,明确AI情感交互数据属于高度敏感个人信息。严禁未经用户单独同意,将用户私密对话、情感交互数据用于模型训练,禁止擅自向第三方流转用户数据,赋予用户历史数据查询、复制、删除的自主权利,彻底打破行业“一揽子授权”的粗放数据合规模式。

  此外,新规明确AI身份强制披露、用户防沉迷、极端情绪干预三大核心机制。要求平台主动提示用户交互对象为人工智能,对用户过度使用、情感沉迷行为进行动态提醒,针对用户自残、自杀等极端情绪场景,要求平台启动专项干预机制,构建人文化、智能化的风险防控体系。

  文章内容仅供阅读,不构成投资建议,请谨慎对待。投资者据此操作,风险自担。

海报生成中...


要闻阅读

热门标签