《AI 智能体不是你的同事：拟人化称呼如何误导责任判断》

导语

这篇 MIT Technology Review 文章反对把 AI 智能体包装成“数字员工”或“同事”。作者借波士顿大学 Emma Wiles 的实验指出，当人们把 AI 输出当成来自一个“员工”而不是软件工具时，反而更不容易发现错误，也更容易把责任外包给工具。问题不只是营销语言夸张，而是拟人化会改变人的监督方式。

1. 产品叙事正在把 AI 工具变成“同事”

1.1 文章用“Alex”这个假想员工说明拟人化场景

• 作者让读者想象：你到公司后发现一个新下属向你汇报，但这个“下属”不是人，而是一个公司称为 Alex 的 AI 工具，有名字、职位和职责。
• 这个设定对应当下许多 AI agent 产品的营销语言。它们不只说自己能自动完成任务，而是把工具包装成团队成员、员工、协作者或同事。

1.2 拟人化会让使用者改变监督标准

• Emma Wiles 的研究发现，如果人们把输出看成来自“AI 员工”，而不是普通软件工具，他们发现错误的能力会下降。文章提到，管理者少发现了 18% 的错误。
• 这说明命名方式不是表面修辞。当工具被装扮成人，人类会不自觉把它纳入社会协作框架，而不是把它当作需要严格校验的计算系统。

2. 错误识别下降，是因为责任感被重新分配

2.1 “同事”暗示对方有理解、意图和职责

• 人类同事默认具备一定理解能力，也能在错误发生后被追责。把 AI 称为同事，会让使用者潜意识里以为它对任务有类似的上下文理解和责任承担。
• 但 AI 工具并不真正理解组织责任，也不会承担职业后果。它可以生成看似完整的工作成果，却无法像人那样对错误负责。

2.2 监督者可能从审查者变成转交者

• 当用户把 AI 当作软件，他更容易把输出视为待校验材料；当用户把 AI 当作员工，他可能更像是在接收同事交来的工作，默认其中已有一层责任主体。
• 文章警惕的正是这种心理位移：人没有完全退出流程，却把部分警觉性交给了一个不能真正负责的系统。

3. 商业营销为什么喜欢“数字员工”说法

3.1 它让自动化显得更成熟、更容易被采购

• “员工”“同事”“团队成员”这些词，会让 AI agent 听起来像组织结构里的现成角色，而不是一个需要配置、测试和监控的软件组件。
• 对企业采购来说，这种语言降低理解成本：买一个“销售员工”或“客服员工”听起来比部署一个概率模型和工作流系统更直观。

3.2 但这种直观性会掩盖风险边界

• 问题在于，AI agent 的能力边界仍然不稳定。它可能调用工具、写邮件、处理表格、生成报告，但每一步都可能出现事实错误、权限误用或上下文误判。
• 如果组织沿用人类岗位语言，却没有配套审计、权限、日志和责任链，就会制造一种“看起来有人在负责”的错觉。

4. 更准确的语言会带来更好的使用方式

• 作者并不是说 AI agent 没有用，而是说它不该被称为同事。更准确的说法应把它描述成工具、系统、自动化流程或软件代理，这些词会提醒人类保留校验责任。
• 对管理者来说，关键不是给 AI 起一个像人的名字，而是定义输入、输出、权限、失败模式和人工复核点。只有这样，组织才不会在效率叙事里丢掉责任结构。
• AI 智能体越能独立完成任务，人类越需要清楚地把它放回工具位置，而不是把它抬进道德和责任意义上的同事位置。

思想框架

文章先用“Alex”这个被命名、有职位的 AI 工具建立拟人化场景，再引入 Emma Wiles 的研究结果：把 AI 输出称作来自“AI 员工”会让管理者少发现 18% 的错误。随后文章解释原因：同事这一称呼暗示理解、意图和责任，但 AI 工具并不承担这些社会义务。后半段把批评指向商业营销，说明“数字员工”能降低采购想象成本，却会模糊权限、审计和责任链。整篇文章的核心是：AI agent 可以进入工作流，但不应该进入人类责任关系的语言位置。