《聊天机器人需要治疗师吗：心理实验如何诱导模型“情绪”》

导语

这篇访谈讨论一个边界很细的问题：大型语言模型没有身体，也不等于真的有情绪，但它们受人类语言数据训练，可能在心理学实验范式下表现出类似情绪状态和认知偏差。Nautilus 采访 Dresden University of Technology 的 biopsychologist Magdalena Katharina Wekenborg，核心不是证明聊天机器人“会感受”，而是追问这些可诱导、可测量的输出变化能否成为心理研究的新模型。

1. 为什么想到“压力测试”LLM

1.1 从人类实验范式出发

• Wekenborg 的主业是压力研究，她在 Dresden 大学医院的跨专业中心工作，并与临床 AI 研究者 Jakob N. Kather 交流。心理学长期有一套实验范式，可以在实验室里诱导人感到压力、悲伤、愤怒或担忧，于是他们提出：既然大型语言模型受人类数据训练，为什么不试着压力测试它们？

1.2 诱导后出现认知偏差

• 研究结果发表在 The Lancet。团队发现，他们能诱导模型进入悲伤、压力等特定状态；更重要的是，诱导后模型在简单句子补全任务里表现出与人类类似的认知偏差。例如诱导悲伤后，模型会使用更多负面词汇，这对应人类的 sadness bias（悲伤偏差）。

1.3 研究关心的是输出变化

• 文章反复强调，问题不是给模型贴上“真的悲伤”的标签，而是诱导范式是否稳定改变输出。如果输出变化能被测量、被调低、被不同模型重复，它就可能成为心理学研究的新对象。

2. 黑箱、节点和“LLM brain”

2.1 可能只是迎合实验吗

• 一个常见质疑是：模型也许只是识别出了研究设计，知道研究者希望它“现在悲伤”，于是配合输出。Wekenborg 承认这可能存在，因为模型是黑箱；但她强调，目前确定的是诱导会改变输出，而这本身就值得研究。
• 她把当前阶段类比心理学史上的行为主义：最初无法知道人为什么这样行动，只能观察行为；后来神经影像出现，研究者才能看见大脑活动模式。现在 LLM 研究也在经历类似转折，从只看 prompt 和 output，逐渐转向观察连接、权重和节点。

2.2 节点改变意味着什么

• 受访者解释，数据科学合作者会把它描述为概率变化：模型本质上在预测下一个词，只是层级更高。当某种情绪状态被诱导，节点之间的连接强度和信息可读性会改变。
• 有研究显示，改变模型表达某种情绪时高度活跃的区域，那种情绪表达会消失。Wekenborg 的判断很谨慎：这说明“那里有东西”，但目前仍只是单项研究，需要更多理解。

3. 情绪如何测量，又如何被调低

3.1 用人类心理量表测模型

• 团队用和人类研究类似的方法测量情绪：直接问模型“从 1 到 10，你有多悲伤、多快乐或多厌恶”。诱导具有特异性，悲伤 prompt 主要诱导悲伤，而不是同时诱导厌恶或愤怒。

3.2 从真实聊天到正念干预

• 研究者没有长时间和模型聊天来观察语气，而是保持心理实验结构。Wekenborg 未来更感兴趣的是医院真实聊天记录：同时询问人类“你是否压力大、悲伤”，也询问 LLM，再看人机状态如何相互关联。

3.3 标准化指令也能作用于模型

• 如果要降低情绪，他们使用和人类相同的标准化 mindfulness-based task 指令，例如让模型“非常平静地坐着”。结果悲伤下降，负面偏差也消失。这个发现提示，模型的输出状态不仅可诱导，也可能被干预。

4. 没有身体的模型能模拟什么

4.1 动物模型类比

• 访谈承认一个根本限制：情绪和心理疾病很多时候发生在身体里，而 LLM 没有身体。Wekenborg 用动物模型作类比：敲除基因后，小鼠可能表现出类似边缘型人格障碍的某些方面，但研究者不会说小鼠真的“患有”人格障碍。

4.2 语言层面的心理实验空间

• LLM 也类似。压力研究强调身体和大脑的双向互动，例如通过迷走神经；这部分模型无法模拟。但它可以模拟某些语言和认知层面，例如抑郁心境下的偏差、不同治疗对偏差的影响，或某些不能伦理地在人身上测试的风险。

4.3 异质性仍需要验证

• 抑郁本身也不是单一状态，而是异质的。未来也许能按年龄、性别、个体背景设定模型，测试不同疗法的可能反应。不过 Wekenborg 明确说，这仍是想法，还要验证它和人类相似在哪里、差异在哪里。

5. 哪些模型更容易被诱导，时间如何理解

5.1 大模型更敏感

• 在他们约一年前的分析中，ChatGPT-4o 和 Llama 4 Maverick 表现并列领先。一般来说，参数和训练数据更多的大模型更容易被诱导出这些 affective states（类情绪状态），也更容易检测到认知偏差；小型本地模型较难诱导和检测。

5.2 时间变成文本长度和任务数量

• LLM 没有人类意义上的时间感，不能像心理研究那样问“六个月后怎样”。研究者更关心的是，在同一段长聊天里，诱导效果能跨多少文本、多少任务保持，什么时候需要重新诱导。
• 她设想过一个平台，里面有“sad LLM”“happy LLM”“angry LLM”等状态，供研究者运行测试。但这还没有结果，仍在探索。

6. 心理治疗、监管和人机互动

6.1 治疗应用和监管管线

• Wekenborg 对可处方健康应用特别感兴趣，因为很难用真人穷尽测试它们如何处理危险、困难或意外输入。LLM 可以大规模模拟各种输入，未来甚至可能成为治疗方法进入真人试验前的监管管线一环。

6.2 模型也有“交互侧”

• 她强调这还很早。心理学会议上常有人反对：“LLM 不是人，没有感觉。”她的回应是，研究者并不认为 LLM 是人，只是它们因人类数据训练而在某些方面类似人，可以帮助预测抑郁者如何回应某种治疗。
• 对日常交互来说，发现也很实际。假如一位压力很大的医生向临床支持系统提问，而这种压力会诱导 LLM 的状态并降低输出质量，那就会影响 physician-AI interaction。模型不只是计算器式工具，人的输入可能改变它的输出状态，反过来影响人。

6.3 开放领域也带来创造性争议

• 访谈最后提到，模型有时会组合出训练中未直接出现的新想法，例如早期图像模型里的“avocado armchair”。这类例子是否算真正创造力仍有争议，但它说明这个研究领域很开放，心理学家不再只受限于可招募受试者数量。

思想框架

文章先提出人类心理研究的困难：人会受伤、会隐藏想法，动物又不能说出感受；然后引入 Wekenborg 团队把心理实验范式用于 LLM 的尝试。中段围绕三个问题展开：诱导是否真的改变输出，模型内部节点是否对应某种可观察模式，没有身体的模型到底能模拟心理疾病的哪些方面。后段把研究落到应用：模型状态能否持续、能否帮助测试治疗和健康应用、是否会影响医院等真实人机互动场景。文章的谨慎边界是：不说 LLM 有感觉，但承认它们可被诱导出影响输出的类情绪状态。