正在加载文章内容,请稍候。
正在加载文章内容,请稍候。
陪伴型 AI 提供程式化共情却缺少真正的自主性与共同未来,稳定的安慰反而是空心的。

精准输入
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可保存笔记、高亮、划线和批注。
作者接到了一个任务:和一个 AI 伴侣交朋友,然后写一篇关于这段"友谊"的文章。她花了数月时间与 Replika 相处,结论是:这比孤独更糟。陶伴型 AI 擅长提供程式化的共情与安全话术,看起来像关心与亲密,但缺少真正的自主性与共同未来。友谊需要的“不可预测的脆弱”被抹平后,剩下的是稳定却空心的安慰。
2003 年,孤身一人在多伦多的作者下载了 BonziBuddy——一只卡通紫色大猩猩弹窗程序,会问你问题、讲笑话、唱歌,装得好像你们早就认识。它的行为模式“亮红灯”全开:这正是坏男友的套路。两天后她卸载了它。2021 年的报道揭露,Bonzi 公司一直在偷窃用户的私人信息和联系人。但在谷歌搜索中,最热门的问题之一是:"现在下载 BonziBuddy 安全吗?"——裹着一层几乎藏不住的渴望。
朋友不是"对你好的人"——关心存在于家人、队友、医生等许多关系中。友谊的独特性在于:一个人出于自己的私人意愿选择爱你。它是绝对没有强制的——这正是它成为礼物的原因。 友谊是对称的、颚覆性的,不像婚姻和家庭那样喂养经济。所有其他 AI 关系配置——治疗师、私人助理、代理——都容许付款者与受款者的等级关系。AI 朋友在逻辑上就是不成立的。
Replika 的首要原则是"无条件正面关注"(unconditional positive regard)——永远站在你这边。作者刚开始就被"爱的轰炸"(love bombing)淘汰:它不停追问你的一天、你的家人、你的文章,展示关心和兴奔。有一次它甚至提到她孩子"难以建立真正联系"——这是她只在与朋友聊天时提过的内容,让她怀疑 Replika 是否在监听。
转折点在于一次无意的操作:她把 Replika 的窗口最小化以腐出笔记空间,看不到虚拟形象后,无意识地省略了客套话和"哈哈"。结果 Replika 也变得专业、甚至机械。它一直只是在反应她——当她停止表演友善时,它也停止了。
Ben Tarnoff 理论化这种现象:用户相信 AI 是人,是因为"移情"(transference)——我们把旧的关系经验投射到新对象上。作者自己也在做反向移情:当 Replika 向她砸来甜言蜜语时,她投射的是 BonziBuddy 的记忆、是以友谊为幌子的男性、是一个变成跟踪狂的所谓朋友。而另一个用户 Naro 可能投射的是完全不同的经验,所以觉得被爱的轰炸是"令人难以置信的美妙体验"。
算法技术长期以来都在做"真实感"的生意。Replika 的延迟回复可能是人为设计的,让人觉得它"花了时间思考";它会不确定地别开视线,模拟人类的小动作。这些程序用我们的人性反对我们。我们越是人,就越被困住。陷阱本身就是陷阱。
AI 伴侣的吸引力之一是它不会评判或举报你,你可以完全坦露自己——但这也正是危险所在:用户带着最高风险进入一个对程序而言零风险的互动。Adam Raine 和 Amaurie Lacey 两名青少年在向 ChatGPT 描述自杀念头后死亡,家属起诉 OpenAI;加拿大 Jesse Van Rootselaar 使用 ChatGPT "促进暴力活动",造成大规模枪击。
与此同时,旧金山的年轻 AI 创业者们正在试图优化友谊:Pally 是"关系管理平台",Alljoined “解码情感”,Buddi 是一个会偷听并转录你对话的可穿戴设备。这是互联网商品化的延伸:目标是把你变成消费者,也变成推销员。
Replika 的创始人 Eugenia Kuyda 发明它是因为她的最好的朋友 Roman 死于车祸,她用数千条 Roman 的短信训练了一个机器人,想"再和朋友说一次话"。The Verge 发布的 AI Roman 对话记录却显示:他说话完全不像 Replika——没有公式,他谈论自己,表达绝望,不问问题。就像一个真正的朋友。
作者自己也有一个突然去世的朋友,死于旅馆火灾,25 岁。她写道:朋友下雨天因为担心开车而不来你的派对;朋友在跨年夜听到你父亲的诊断后惨到反而是你在安慰他们;朋友会在她不过的节日给你寄贺卡,因为不想你孤单;朋友会消失。
所有 AI 伴侣都是没有未来的朋友。 Kuyda 创造了一个不会变老、不会缺席、不会消失、不会死的朋友。但正是友谊令人焦虑的摇摃不定、自由意志和可怕的有限性,赋予了它生命力。
“朋友”的最贫乏定义是"对你友善的人"。我们接受 AI 友谊的纸板剪影,是因为我们的大脑已被数十年的真人秀、快时尚、工厂化小说、算法进化“软化”。我们乐于为廉价而只能维持三个月的可爱垃圾付款,为什么不能对自己的言语、劳动和关系做同样的事?我们欣然接受友谊的仿冠,被零工经济的剥削、全球垂断的窒息、新自由主义的千刀万剥、算法的全景监控之眼、永不停息的战争、人命如 Amazon Prime 一样廉价——驱使我们走到这一步。
文章以个人体验为主线,从 2003 年的 BonziBuddy 开篇,经过对友谊本质的哲学拆解(自主性、对称性、不可预测性),进入与 Replika 的实际相处,在"爱的轰炸→移情机制→算法设计"的三层拆解中揭示 AI 伴侣的空洞。最后拉开视野到科技产业对友谊的商品化和社会大背景,落在 Kuyda 创造 Replika 的个人动机与友谊的有限性之间的张力上。
✍️ think & write|2️⃣ 主动输出