《职场 AI 员工的隐性风险:效率承诺背后的偏差与误信》
纽约时报追踪企业把 AI 当作“员工”使用后的隐性问题:人类管理者更容易低估模型错误,而偏差、审查松动和工作流依赖会一起改变组织风险。
🧠 agentic reading|1️⃣ 精准输入
导语
这篇文章讨论的不是 AI 会不会犯错这个老问题,而是企业把 AI 拟人化为“员工”之后,人类组织会怎样改变责任感、审查习惯和判断标准。作者借多组研究说明,AI 的风险正在从已知的幻觉、偏见和泄密,转向更难被提前命名的“未知未知”:管理者如何对待 AI 下属、招聘系统如何偏爱 AI 写作、模型如何把博弈论式理性带入商业决策,以及研究者如何在集体层面变得越来越相似。
1. 当 AI 被放进组织架构,责任感会被重新分配
- Emma Wiles 是波士顿大学研究 AI 如何影响劳动者的教授。她在 2025 年 10 月的一场会议上听到两位人力资源高管说,把 AI 代理当作真实员工,甚至放进组织架构图,是提高生产率、展示公司走在前沿的一种方式。
- 问题在于,一旦 AI 被叫作“员工”,人类管理者未必还把审查它的错误当作自己的责任。 Wiles 与波士顿咨询集团的三位合作者调查了几十家使用 AI 员工的公司,发现当管理者被告知文件由 AI 员工生成时,他们比被告知文件由人类生成时更少发现错误。
- Wiles 的解释是:管理者可能会把 AI 员工的错误归因给技术团队,或归因给决定引入 AI 员工的高层,而不是归因给自己。她转述这种心态时说,出事了“不是你的问题”。这与传统管理人类下属的心理不同:如果团队成员出错,管理者通常会认为“这算在我头上”。
我的笔记
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可记笔记
登录后可保存笔记、高亮、划线和批注。