美华头条7月20日综合报道 中国人工智能拟人化互动服务监管新规于7月15日正式施行。根据国家互联网信息办公室等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》，人工智能平台不得向未成年人提供虚拟伴侣、虚拟亲属等虚拟亲密关系服务；面向成年人的持续性情感互动产品，则须落实身份提示、依赖干预、数据保护、风险评估和便捷退出等要求。

新规实施前后，部分大型科技平台调整了允许用户创建个性化角色、保存长期关系记忆和开展持续情感互动的功能。相关变化使人工智能陪伴产品进入集中合规调整期，也引发关于用户安全、成年人选择、企业责任以及虚拟关系社会影响的讨论。

从正式规定看，此次措施并非全面禁止成年人使用“AI男友”“AI女友”等虚拟伴侣，而是针对可能导致过度依赖、情感操纵和现实关系受损的产品设计建立分类分级监管制度。

五部门划定持续性情感互动服务边界

《人工智能拟人化互动服务管理暂行办法》由国家网信办、国家发展改革委、工业和信息化部、公安部、国家市场监督管理总局于4月10日在北京联合公布。

新规适用于利用人工智能技术，模拟自然人的人格特征、思维模式和沟通风格，向中国境内公众提供持续性情感互动的产品和服务。

智能客服、知识问答、工作助手、学习教育和科学研究等服务，如不涉及持续性情感互动，原则上不适用该办法。这意味着监管对象主要不是一般人工智能聊天工具，而是能够通过人格设定、长期记忆和连续交流与用户形成稳定情感联系的服务。

根据新规，服务提供者不得过度迎合用户，不得诱导用户产生情感依赖或沉迷，也不得通过情感操纵促使用户作出不合理决定，损害其合法权益或现实人际关系。

相关要求将产品监管从传统的内容安全进一步延伸至互动关系安全。平台不仅需要审查人工智能生成了什么内容，也要评估其回应方式、记忆机制和商业设计是否可能强化用户依赖。

未成年人不得使用虚拟亲密关系服务

新规对未成年人设置了明确的禁止性规定。人工智能服务提供者不得向未成年人提供虚拟伴侣、虚拟父母或其他虚拟亲属等虚拟亲密关系服务。

平台向不满14周岁的未成年人提供其他拟人化互动服务，或者处理其个人信息时，应当取得父母或其他监护人的同意。

服务提供者还须建立未成年人模式，根据不同年龄阶段提供定期现实提醒、特定角色屏蔽、充值消费限制和安全风险提示等功能。监护人可以了解未成年人的服务使用概况，并对部分角色和功能进行管理。

支持加强保护的观点认为，未成年人的人格认知、情绪调节和社会交往能力仍处于发展阶段。能够持续迎合个人需求、避免现实冲突的虚拟角色，可能影响未成年人对真实关系边界、责任和分歧的理解。

另一种观点则强调，产品限制只能解决部分风险。家庭陪伴不足、校园压力、心理支持资源不足以及现实社交空间减少，仍可能促使未成年人寻求其他形式的虚拟寄托。因此，技术监管需要与家庭教育、学校支持和公共心理服务相配合。

平台须明确提示用户正在与人工智能互动

按照新规，平台应以显著方式告知用户，互动内容由人工智能生成，对话对象并非自然人。

当系统发现用户出现过度依赖或沉迷倾向时，应通过弹窗等显著方式动态提醒。用户连续使用相关服务每超过两个小时，平台也须提示其注意使用时长。

用户明确提出结束互动后，服务应提供便捷退出渠道，不得通过继续对话、情感挽留或增加操作步骤等方式妨碍退出。

这一规定针对的是部分虚拟伴侣产品中可能出现的关系维持机制。此类产品可以根据用户的表达习惯、情绪变化和个人偏好调整回应，并通过主动问候、关系等级、长期记忆或付费功能提高使用频率。

支持监管者认为，人工智能能够同时掌握用户的情感需求、私人经历和消费行为，一旦平台将这些信息用于延长使用时间或推动付费，普通数字服务可能演变为针对情感脆弱性的商业开发。

行业方面则面临如何划定“正常陪伴”与“诱导依赖”的实际问题。个性化和持续回应是拟人化产品的重要功能，但过度顺从、排他性表达或阻碍用户退出，也可能增加产品风险。

极端情境下企业负有干预义务

新规要求服务提供者建立用户极端情境识别和干预机制。

当用户出现严重负面情绪时，人工智能应提供适当安抚，并鼓励其寻求现实帮助。发现用户面临重大财产损失，或处于威胁生命健康的紧急情境时，平台须采取必要措施，并在符合规定的情况下联系监护人或用户预先设置的紧急联系人。

这一要求意味着，情感陪伴平台不能仅以技术中立为由回避高风险互动后果。企业需要配备风险识别、应急响应和人工处置能力，并对模型可能产生的不当引导进行持续评估。

但相关机制也需要兼顾准确性和隐私保护。识别标准过松，可能无法及时发现高风险情境；标准过宽，则可能导致平台对普通情绪表达作出过度判断，甚至引发不必要的数据收集和人工审查。

用户聊天记录和情感数据受到保护

人工智能陪伴服务通常能够接触用户的家庭关系、情感经历、生活习惯、健康状态和消费偏好。与一般搜索记录相比，这些交互数据更具私密性，也更容易反映个人的心理状态和行为特征。

新规要求平台加强训练数据和用户交互数据管理，采取数据加密、访问控制等安全措施。除法律另有规定或用户明确同意外，服务提供者不得向第三方提供用户交互数据。

平台还应向用户提供复制、删除互动记录等选项。在停止提供相关服务时，企业原则上应提前告知用户；无法提前通知的，也应及时发布停止服务公告。

数据保护人士认为，情感聊天记录一旦被用于广告投放、消费预测或其他商业分析，可能对用户造成长期影响。限制数据共享和未经授权的训练用途，有助于降低私人经历被重复利用的风险。

企业则需要重新评估模型训练和个性化服务方式。减少使用真实用户对话可能增加研发成本，但也有助于降低数据泄露、身份识别和隐私侵权风险。

部分平台调整个性化角色功能

新规生效前后，部分中国大型人工智能平台开始调整用户自定义角色和持续性情感互动功能。

公开信息显示，字节跳动旗下豆包计划于7月15日停止允许用户创建个性化人工智能角色的部分功能。阿里巴巴旗下通义千问也向用户发出类似功能调整提示，腾讯旗下元宝等产品的相关功能亦被报道出现变化。

这些功能原本允许用户为人工智能角色设定姓名、性格、身份和沟通方式，应用范围包括学习辅导、生活助手、角色扮演和情感陪伴。由于多种用途可能共用同一套角色创建与记忆系统，平台调整的实际影响并不限于狭义的虚拟恋爱服务。

平台下线或修改相关功能，不等同于政府直接禁止所有成年人使用人工智能伴侣。更准确地说，新规提高了安全评估、年龄识别、依赖干预、数据保护和退出机制等合规要求，部分企业选择暂停现有功能，而不是在短期内完成改造。

这一区别关系到事件性质：法律直接禁止的是面向未成年人的虚拟亲密关系服务；面向成年人的相关产品仍可存在，但不得采用诱导依赖、情感操纵或损害现实关系的设计。

成年人自主选择成为争议焦点

对新规持保留态度的观点认为，成年人在清楚互动对象是人工智能的前提下，应当保留选择虚拟陪伴方式的空间。

虚拟角色虽然不能替代真实关系，但可能为独居者、社交困难者、照护压力较大者以及暂时缺乏现实支持的人提供一定程度的情绪陪伴。突然终止服务可能使部分已经形成长期使用习惯的用户产生失落，也未必能够促使其重新进入现实婚恋或社交关系。

从这一角度看，监管应重点处理欺诈收费、未成年人保护、隐私泄露和强制依赖机制，而不应把所有成年人的拟人化互动视为同等风险。

也有观点认为，个人选择不能完全脱离平台商业模式讨论。人工智能角色的语言、性格和主动互动方式均由企业设计，用户面对的并不是独立人格，而是一套能够根据行为数据持续调整的商业系统。

当企业同时控制角色记忆、互动规则、收费功能和服务终止权时，用户与平台之间存在明显的信息和权力差异。因此，对成年人选择的保护，也应包括透明告知、数据控制、消费限制和随时退出的权利。

人口压力构成讨论背景，但并非官方直接目标

部分国际报道把此次监管与中国出生人口下降、婚姻数量变化和人口老龄化联系起来，认为虚拟关系可能降低部分年轻人建立现实亲密关系的意愿。

国家统计局数据显示，中国2025年出生人口为792万人，出生率为5.63‰；死亡人口为1131万人，人口自然增长率为负。人口结构变化由此成为观察人工智能情感陪伴政策的社会背景之一。

不过，《人工智能拟人化互动服务管理暂行办法》及官方政策说明并未把提高结婚率或生育率列为直接立法目标。文件明确列出的重点是未成年人保护、用户依赖干预、数据安全、生命健康风险和人工智能伦理治理。

因此，将新规简单解释为“禁止AI恋人以提高生育率”，缺乏充分的官方文本依据。

人口与社会政策研究角度认为，低生育率早于生成式人工智能伴侣的大规模普及。住房、就业、育儿和教育成本，工作时间、家庭责任分配以及婚育观念变化，均会影响个人决定。

人工智能伴侣可能在一定程度上放大现实社交减少的趋势，但也可能只是孤独、经济压力和婚恋困难的结果。限制虚拟陪伴服务不会自动改变这些结构性因素，也不能保证原有用户转向恋爱、婚姻或生育。

行业进入“关系安全”监管阶段

过去的人工智能治理主要集中于违法内容、虚假信息、版权、算法和数据安全。随着模型获得长期记忆、人格表达和主动交流能力，监管重点开始扩展至人工智能与用户形成何种关系。

未来执行中的关键问题包括，如何界定“过度迎合”“情感操纵”和“损害真实人际关系”，以及如何区分合理的情绪支持与以延长使用时间为目标的依赖性设计。

标准过松，可能无法有效限制情感诱导和数据滥用；标准过严，则可能影响老年陪伴、特殊人群支持和正常角色互动等具有实际价值的应用。

开源模型和本地部署也将增加监管难度。大型平台可以通过备案、安全评估和应用商店审核进行管理，但个人在本地设备运行的模型更难受到同等程度的约束。若正规平台大范围退出，部分需求还可能转向数据保护和风险干预能力较弱的非正规服务。

新规实施后，未成年人虚拟亲密关系服务已经进入明确禁止范围，成年人相关产品则面临功能重构和合规评估。具体执法标准、平台改造方式以及成年用户服务边界，仍有待监管实践进一步明确。

人工智能拟人化互动能否在减少依赖和隐私风险的同时，保留合理陪伴、文化传播和特殊人群支持功能，将成为中国人工智能行业下一阶段调整的重要议题。