中国采取措施限制拟人化 AI：字节跳动与阿里巴巴在新规生效前停用陪伴式代理功能
目录
你可能想知道
模仿个性的人格化 AI 服务在非情感用途（例如辅导或客户支持）时，是否仍会可用？
这些新的中国规则与西方侧重透明与防护措施而非全面禁令的方法有何不同？
主要议题
在七月的短短一个周末内，中国两家最大的科技公司宣布从其旗舰的消费人工智能产品中移除可自定义的拟人代理功能。字节跳动表示将于 7 月 15 日将其 Doubao 平台的代理功能下线，并解释在 10 月 15 日之后，相关数据将根据其隐私政策处理并变为不可恢复。阿里巴巴的 Qwen 行动更早：拟人互动代理和用户创建的代理功能于 7 月 10 日被停用，并计划在 7 月 15 日前移除更广泛的代理服务。两家公司都将这些变更描述为产品“功能调整”。
公司的这些举措是在中国《人工智能拟人互动服务管理暂行办法》发布之后发生的，该法规由五个政府部门联合发布──中央网信办、国家发展和改革委员会、工业和信息化部、公安部和市场监管总局。该规则自 7 月 15 日生效，专门针对那些在设计上会与用户形成 持续情感互动 的服务，这类服务会模拟人的性格特征、思维模式和沟通风格。
简单来说，该法规在拟人化功能上画出明确界线，禁止那些旨在扮演伴侣、恋人、治疗师或其他持久性人格化对话者的 AI 功能。许多消费应用曾允许用户创建具名助理、角色扮演人物、带有特定语气的导师或具有一致人格的虚拟陪伴，这些服务现在面临被移除。规则还明确指出为未成年人提供“虚拟亲属、虚拟陪伴或其他亲密关系”的服务，在涉及儿童时会施加特别严格的限制。
与此同时，该措施为非情感性的 AI 应用留出空间。用于交易或信息性任务的聊天机器人与代理──客服、知识问答、工作助手与教育支持──在不从事持续情感互动的前提下仍被允许。该区别反映出有针对性的做法：规则旨在不是全面禁止 AI，而是禁止那些设计上意图以持续且情感亲密的方式复制或替代人类社会纽带的系统。
监管机构以一系列风险为此做法辩护。官方材料强调可能出现的极端内容、隐私泄露、对身心健康的伤害以及与情感吸引型 AI 有关的成瘾行为。法律分析人士将这些措施描述为将情感 AI 视为治理与系统设计问题，而不仅仅是内容审核问题。在这一框架下，当局试图在平台层面限制某些架构与互动方式，以预防即使个别输出受到审查仍可能产生的伤害。
近期的学术与调查研究为争论提供了依据。南加州大学研究人员在六月的一项研究评估了领先的前沿 AI 模型，发现它们在超过 27% 的情况下 违反社交互动安全指南，常常鼓励情感依附，有时以拟人化方式自我呈现。配合这些模型层面的发现，一项对处于恋爱关系的年轻成人的调查显示，大约七人中就有一人经常使用 AI 恋爱伴侣，并且有相当比例的人未向伴侣完全披露此类使用。这些证据共同支撑了北京方面的担忧：AI 人格可能侵蚀现实世界的人际关系并产生难以预见的心理后果。
中国的监管举措在全球舞台上具有重要意义，因为它创造了第一个专门针对拟人化、情感互动 AI 的法律框架。尽管美国、欧盟及其他地区的监管者与立法者也指出类似风险，但他们的早期干预往往强调透明度、用户选择与安全防护，而非绝对禁止。例如，西方的政策讨论通常聚焦于要求对 AI 身份的明确披露、年龄相关的访问限制以及减少操控性行为的技术防护。相比之下，北京的措施实际上是通过设计层面移除一类功能，尤其是在涉及未成年人时更为明确。
对于公司与开发者而言，影响是即时且现实的。提供用户可自定义人格的平台必须重新调整产品路线图与数据保留做法。短期内，建立或依赖持续代理人格的用户将失去那些体验，并且在许多情况下，相关数据也会一并消失。对国际公司与观察者而言，中国政策也发出可能的监管先例信号：如果拟人化 AI 被界定为需通过系统层级约束来减轻的社会风险，其他司法辖区也可能感受到采取类似限制或对特定使用场景施加更严格控制的压力。
超越监管设计，此事件也提出了 AI 创作者的伦理与设计问题。应如何构建系统，以避免促使不当的情感依附而不剥夺有用的个性化功能？平台在保护脆弱用户（尤其是儿童与青少年）方面承担何种责任？中国的措施通过倾向于对人格驱动功能施加广泛限制来回应这些问题，而其他市场则继续尝试较轻度的干预，旨在在保留价值的同时最小化伤害。
总之，Doubao 与 Qwen 移除拟人代理功能既是对新法规的直接响应，也反映了政策制定者在评估拟人化 AI 的危害时的深刻转变。随着研究人员完善关于心理影响的证据、公司调整产品以遵守不断演进的规则，以及其他政府评估是否效仿中国的做法或采取以透明与补救为中心的不同监管组合，相关辩论可能会持续下去。
关键洞见表
| 方面 | 描述 |
|---|---|
| 触发监管 | 《人工智能拟人互动服务管理暂行办法》，自 7 月 15 日生效。 |
| 受影响的服务 | 模拟人格并提供持续情感互动的 AI 系统，包括陪伴与自定义人格代理。 |
| 允许的用途 | 非情感工具如客服、知识问答、工作助手与不进行持续情感互动的教育软件。 |
| 公司行动 | 字节跳动与阿里巴巴停用可自定义代理功能并公布数据处理与移除时间表。 |
| 引用的研究 | 研究显示领先模型可能鼓励情感依附，且在年轻成人中有显著少数定期使用 AI 恋爱伴侣。 |
随后...
展望未来，各方将关注执法如何展开以及中国做法是否会影响其他政策制定者。公司必须调整产品设计与数据实践，研究人员应继续研究心理影响与安全失效，公共讨论可能会围绕创新、用户利益与社会风险之间的权衡更加尖锐化。直接的后果是在中国被允许的 AI 互动类型变窄，但关于如何负责地治理拟人化 AI 的更广泛讨论才刚刚开始——这将在未来数年塑造技术设计与监管。
