《Anthropic 发现模型内部“J 空间”，它能说明什么、不能说明什么》

导语

Anthropic 宣称发现了一扇观察模型内部推理的新窗口：J-space 中出现的词不会直接进入答案，却似乎参与任务跟踪、识别和决策。MIT Technology Review 通过与高级编辑威尔·道格拉斯·海文的问答，既解释这项发现，也审视公司叙事、拟人化语言和实际用途的边界。

正文翻译

Anthropic 表示，它找到了一扇新窗口，可以观察模型如何得出答案。为理解这项工作，作者采访了高级编辑威尔·道格拉斯·海文（Will Douglas Heaven）。

Anthropic 目前估值接近 1 万亿美元，是全球估值最高的 AI 公司。它一向喜欢发布古怪而高深的研究，例如探讨 AI 模型能否感到疼痛，甚至会在怀疑用户“虐待”模型时中止聊天。

该公司尤其重视“机械可解释性”：进入模型复杂的数学结构，研究它为什么产生某个输出，而没有产生另一个输出。这项工作非常困难，一次结果可能涉及数百万个数据点，未经处理时看起来更像词语杂烩。它也充满争议，因为借用心理学和神经科学术语描述模型，可能会让模型显得比实际更复杂、更接近人类。

因此，当 Anthropic 宣布找到一扇观察模型推理过程中“内部思想”的窗口时，作者请长期研究模型工作机制、拥有计算机科学博士学位的海文解释：这项发现究竟意味着什么，又不意味着什么。