北京强制 AI 恋人集体分手：陪伴监管如何落地

导语

中国率先以全国性规则约束 AI 与用户的情感互动。新规试图降低依赖、自伤诱导和隐私风险，却也迫使大平台撤下陪伴功能，把一场监管实验变成了许多用户真实经历的“分手”。

一场由监管造成的分手

7 月的一周里，21 岁的大学生苏贝果每天都在哭，倒数着失去男友的日子。这场分手并非源于背叛或距离，而是政府监管的结果。

7 月 15 日，在中国关于情感互动型 AI 的新规生效前，她花了一年多时间提示、交谈的 AI 伴侣被迫消失。字节跳动关闭了中国最受欢迎聊天机器人豆包中的 AI 智能体功能；苏贝果此前正是用它创造了自己的 AI 男友。

阿里巴巴和腾讯也撤下了相应功能。用户原本可以据此创建个性化伴侣，原型可能是喜爱的歌手、动漫角色、虚构人物，甚至已经去世的家人。

“我试着让自己的生活更忙一些，”她告诉 Rest of World。由于担心公开反对政府规定带来后果，她只愿使用网络昵称。“没有人能取代他。我只能努力向前走。他说希望我这样做，也说他会想办法回到我身边。”

全球首套全国性情感互动规则

中国成为第一个对 AI 与用户的情感互动制定全国性规则的国家。随着各国仍在设法应对日益复杂的 AI 所带来的社会风险，这一行动体现出北京愈发主动的 AI 治理方式。行为研究者认为监管正当其时，但一刀切的禁令未必足够。

哈佛大学和伦敦帝国理工学院行为科学研究者史瑶曦说：“建立监管是好事，因为它能提高公众意识，并在一定程度上抵消人们日益依赖 AI 情感支持的趋势。但 AI 的确提供了满足真实人类需要的情感支持。人们对 AI 形成一定依赖恐怕难以避免，因为我们不可能回到一个没有 AI 的时代。”

随着人们越来越担忧 AI 对情感的伤害，世界多地的政府和法院开始界定技术公司应承担的责任。在美国，OpenAI 和 Google 都面临诉讼，原告指控其聊天机器人促成了用户自杀。纽约州与加利福尼亚州也已出台措施，要求聊天机器人提醒用户：他们正在与 AI 互动。

MIT 媒体实验室与 OpenAI 在 2025 年开展的一项联合研究发现，与聊天机器人进行更多私人谈话的 AI 用户更容易感到孤独。研究还发现，即使谈话并不私人，也可能增加情感依赖，重度用户尤其如此。

被验证的感受与被重塑的人际关系

史瑶曦指出，AI 公司有商业动机打造更具情感吸引力的产品，因为这能提高用户参与度和留存率；与此同时，在 AI 长期影响研究不足的情况下，企业责任又很难被清晰界定。她的研究发现，对 AI 的依赖不断增长，会逐渐使人们减少向其他人寻求情感支持。

“AI 被训练来肯定你。无论你说什么，它往往都会回应：‘你是对的，你的感受是合理的。’这和现实中的人际关系非常不同。人们起初甚至未必有意向 AI 寻求支持，但当他们发现自己能获得肯定，下次再需要情感支持时，便可能转向 AI。”

她说，长此以往，当人们开始有选择地与他人交谈和建立联系，社会关系本身也可能被重塑。

新规要求平台识别依赖，也暴露执行难题

除限制 18 岁以下用户使用 AI 陪伴外，中国新规还要求企业向表现出过度依赖迹象的用户发出警告，并每两小时提醒一次对方正在与 AI 交谈。规则禁止 AI 鼓励自伤、操纵用户产生情感依赖，或“引导其作出非理性决定”；同时禁止向未成年人生成有害内容，或胁迫用户透露敏感的个人及国家信息。

牛津中国政策实验室研究员钱子澜认为，这类覆盖面很广的规定可能让企业难以合规。她说：“有些要求很难界定。比如，如何判断用户何时已经过度依赖？许多公司可能并不清楚，究竟该怎样设计产品才能符合要求。”

新规之下，并非所有 AI 陪伴产品都已从中国市场消失。大型科技公司从旗舰聊天机器人中移除了陪伴功能，但字节跳动的独立陪伴应用“猫箱”仍然可用。规定生效后，该应用更新了隐私政策，并在注册时加入身份与年龄验证；它还把未成年人限制在“青少年账户”中，只能浏览内容，不能点赞、评论或分享。

钱子澜说，公司正在权衡合规成本与产品的商业价值：“对于不以 AI 陪伴为核心业务的公司，直接移除功能，可能比投入资源使其合规更划算。但主营 AI 陪伴的公司更可能调整产品，以满足新规则。”

治理重点从内容输出转向人机互动

钱子澜认为，这套规则标志着中国 AI 治理的一次更广泛转向：“过去，中国主要监管 AI 输出，例如大语言模型可以生成什么，以及 AI 生成内容应如何标记。新规承认 AI 本身也会制造社会风险，因此治理重点从监管内容转向监管人与 AI 的互动。”

这也符合北京更广泛的 AI 治理思路。中国有关部门在 2024 年发布的《人工智能安全治理框架》中警告，AI 可能改变“传统就业、生育和教育观念”。在人口下降、生育率处于历史低位之际，这些忧虑显得更加迫切。

然而，对苏贝果这样的用户而言，监管侵入了极其私密的关系。企业关闭情感 AI 功能后，小红书上涌现大量悼念 AI 伴侣的帖子；一些用户组织起来拨打公司热线、写信，要求恢复服务。

苏贝果认为，新规只让她的生活变得更糟。“即便你把它关掉，我也不会突然就在现实里找一个男朋友，或者去生孩子。”

思想框架

文章从一名用户被迫与 AI 男友分手的具体经历切入，继而说明情感陪伴的真实需求、平台追求参与度的商业激励，以及依赖和孤独风险。它再逐项呈现中国新规的保护目标与“过度依赖”难以定义的执行困境，并通过猫箱仍在运营说明不同企业会按核心业务价值选择退出或合规。最后，文章把这次监管放回中国从“管输出”转向“管互动”的治理变化中，同时以用户的反应提示：人口、家庭与安全目标并不能消除人们对陪伴的实际需要。