《职场 AI 员工的隐性风险：效率承诺背后的偏差与误信》

导语

这篇文章讨论的不是 AI 会不会犯错这个老问题，而是企业把 AI 拟人化为“员工”之后，人类组织会怎样改变责任感、审查习惯和判断标准。作者借多组研究说明，AI 的风险正在从已知的幻觉、偏见和泄密，转向更难被提前命名的“未知未知”：管理者如何对待 AI 下属、招聘系统如何偏爱 AI 写作、模型如何把博弈论式理性带入商业决策，以及研究者如何在集体层面变得越来越相似。

1. 当 AI 被放进组织架构，责任感会被重新分配

• Emma Wiles 是波士顿大学研究 AI 如何影响劳动者的教授。她在 2025 年 10 月的一场会议上听到两位人力资源高管说，把 AI 代理当作真实员工，甚至放进组织架构图，是提高生产率、展示公司走在前沿的一种方式。
• 问题在于，一旦 AI 被叫作“员工”，人类管理者未必还把审查它的错误当作自己的责任。 Wiles 与波士顿咨询集团的三位合作者调查了几十家使用 AI 员工的公司，发现当管理者被告知文件由 AI 员工生成时，他们比被告知文件由人类生成时更少发现错误。
• Wiles 的解释是：管理者可能会把 AI 员工的错误归因给技术团队，或归因给决定引入 AI 员工的高层，而不是归因给自己。她转述这种心态时说，出事了“不是你的问题”。这与传统管理人类下属的心理不同：如果团队成员出错，管理者通常会认为“这算在我头上”。

2. 已知缺陷之外，还有企业没有意识到的细微偏差

• 企业已经知道一些 AI 缺陷：模型可能歧视非白人等群体，聊天机器人会自信地给出错误答案，也可能泄露本应保密的信息。许多公司也开始为这些问题做补救。
• 但文章强调，正在浮现的缺陷更细、更难被普通企业用户意识到。理论上，这些问题也可以修正，例如企业可以明确要求管理者为 AI 下属的错误负责；现实中，多数使用者还没有意识到这些风险，因此 AI 承诺的生产率提升和成本节省可能被抵消。
• Wiles 用“未知未知”概括这种状态：即使是 AI 研究者，也可能只看到了这项技术引入问题的一小部分。

3. 模型会偏爱 AI 产物，并把这种偏好带进招聘

• 2025 年《美国国家科学院院刊》的一篇论文发现，多种大语言模型对人类写作文本评价偏低，形成一种可能影响深远的“反人类”隐性偏见。
• 后续研究进一步把这个问题放进招聘场景：公司用于筛选简历的 AI 模型，倾向于偏爱由 AI 帮助写成的简历，而不是完全由人类写成的简历。俄亥俄州立大学运营学教授 Jane Yi Jiang 参与了这项研究；当招聘公司询问如何改进流程时，她和合作者愿意提供帮助。
• 但她也提醒，这几乎不可能是企业匆忙采用 AI 时唯一引入的问题。人们太快把大语言模型用起来，却没有足够思考其中的影响和偏差。

4. 商业决策里的“理性”可能把所有人带向坏结果

• 企业还会用 AI 辅助回答定价、选址等问题。文章指出，这类场景很容易失控，因为模型在评估情境时，常采用从基础博弈论而来的冷冰冰“理性”心态。
• 例如，在竞争中，模型可能建议公司猛烈压低价格来打击对手；从局部看这似乎理性，但它可能引发伤害双方的价格战。马里兰大学博士候选人 Jiannan Xu 说，他们测试的大多数大语言模型都认为人类比现实中更理性，而在许多情况下，“最理性的回应会导致所有人都陷入坏局面”。
• Jiang 和 Xu 也发现，某些偏差可以被简单提示缓解，例如要求模型只关注文本质量、不要考虑作者身份，可以降低反人类偏见。但更大的问题是：研究者无法修正他们尚未发现的偏差。

5. 偏差会自我强化，使用方式也会制造集体盲点

• 一种风险来自训练数据。如果未来模型在缺乏足够审查的情况下，继续使用今天模型生成的数据训练，就可能形成自我强化循环。Data Provenance Initiative 创始人 Shayne Longpre 说，这会让既有观点和行为更容易被巩固。
• 另一种风险不完全来自 AI 本身，而来自人类如何使用它。研究者如果在研究全过程都依赖 AI：让它建议研究问题、给出方法、分析数据、撰写结果，就可能在不知不觉中缩小自己的研究范围。
• 哥本哈根商学院心理学家 Cecilie Steenbuch Traberg 说，个体层面未必能察觉这种变化，因为与聊天机器人讨论时会觉得它确实有帮助；但在集体层面，大家的研究会变得越来越像，表达也越来越像。

6. 管理拟人化 AI 还没有成熟实践

• Wiles 团队调查了 1000 多名企业管理者，约三分之一的人说组织把 AI 称为“队友”或“员工”，近四分之一的人说雇主把 AI 代理放进组织架构图。一位管理者甚至说，他们把某个 AI 代理叫作 Scout，它“技术上相当于你团队里的一个平级同事”。
• 研究者给管理者五份含有错误的文件，让他们在 20 分钟内尽量审查。有些人被告知文件来自 AI 员工，有些人被告知来自 AI 工具，有些人被告知来自人类。整体看，来源标签差别不大；但在那些已经把 AI 代理放入组织架构图的公司里，管理者在审查“AI 员工”作品时显著少抓到错误。
• 作者的核心落点是：过去几百年里，企业已经发展出一套管理人类的实践，但管理被拟人化的 AI 是完全不同的心理场景，我们几乎是在摸黑前进。 Wiles 还担心问题会更进一步：她最初听到 AI 员工概念的那场会议上，有一位人力资源高管说，公司很快会让 AI 员工管理人类。她回忆，当时全场安静下来。

思想框架

文章先从“AI 员工”这个企业新做法进入，指出拟人化称呼会改变管理者的责任感；然后把问题扩展到模型自身偏差、招聘系统偏好 AI 写作、商业决策中过度理性的博弈论心态、模型训练数据的自我强化，以及研究者使用 AI 后的集体趋同。最后回到 Wiles 的管理实验，说明风险并不只在 AI 会犯错，而在组织把 AI 放进人类制度时，会制造新的心理和责任盲区。