《DeepMind 的哲学家：AI 迫使我们重新定义人类与价值》

导语

这篇 Guardian 长文写的是 Iason Gabriel 如何从牛津政治哲学家进入 Google DeepMind，并在商业竞赛和地缘政治压力加速时，尝试把伦理学放进 AI 公司的研发与治理现场。文章真正追问的不是“公司里有没有哲学家”，而是当 AI 系统可能影响道德判断、政治秩序、权力分配和人类自我理解时，伦理学家到底还能不能改变技术的方向。

1. 一个不典型的 DeepMind 员工

1.1 从政治哲学到 AI 实验室

• Gabriel 2017 年加入 DeepMind 时 33 岁，原本在牛津 St John’s College 教政治理论，也做过联合国开发计划署在苏丹和黎巴嫩的危机工作。他研究过有效利他主义的伦理盲点，也关心国际发展和公共价值，这让他和当时以强化学习、游戏突破、AlphaGo 名声著称的 DeepMind 显得格格不入。

1.2 DeepMind 当时相信“先解决智能”

• DeepMind 由 Google 在 2014 年以 6.5 亿美元收购。2016 年 AlphaGo 战胜李世石后，它成了最有声望的 AI 实验室之一。公司的早期愿景带有强烈理想主义：先造出通用智能，再用它解决科学、医学和社会难题。Gabriel 的工作则是在这种理想主义里追问一个更慢的问题：谁来定义“有益”，谁承担部署后的后果？

2. 伦理学进入公司后，面对的是速度和权力

2.1 商业压力改变研究环境

• 文章把 Gabriel 的处境放在 AI 行业剧烈变化中：大模型竞赛、产品化、投资和国家竞争让“谨慎思考”变得越来越难。伦理团队不再只是给未来系统写原则，而要面对真实产品、发布节奏、模型能力扩张和公司目标之间的冲突。

2.2 价值不能被压成一个函数

• Gabriel 反对把 AI 对齐理解成寻找单一、统一、可优化的人类价值函数。不同社会、文化和个人对正义、自由、安全、尊严和福利的理解并不一致。如果 AI 系统被设计成只追随一种价值排序，它就会把政治争议伪装成技术答案。

2.3 多元价值意味着程序设计

• 因此，文章中更重要的词不是“正确价值”，而是程序、参与和约束。AI 治理需要让受影响者进入讨论，需要承认分歧，还需要设计防止权力集中和滥用的制度。Gabriel 的哲学训练在这里发挥作用：他把 AI 看成公共权力问题，而不是单纯的工程问题。

3. DeepMind 的内部伦理工作

3.1 从原则到具体产品

• Gabriel 的工作不是在公司外写批评文章，而是在公司内部参与研究、审查、讨论和规范制定。文章呈现出一种张力：内部伦理学家更接近决策，也更容易受到组织目标限制；外部批评者更自由，却可能缺少影响具体系统的入口。

3.2 能否真正影响方向

• 文章反复问：在商业和地缘政治竞赛已经启动后，伦理学家是否还能产生实际影响？这不是对 Gabriel 个人的怀疑，而是对行业结构的怀疑。当公司必须追赶竞争者、满足投资和产品期待时，伦理提醒很容易变成“发布前的检查项”，而不是改变路线的力量。

3.3 DeepMind 与 Google 的关系

• DeepMind 曾被想象为相对独立、偏研究的实验室，但被 Google 收购后，它不可避免地嵌入大型科技公司的资源、战略和产品体系。文章借 Gabriel 的位置说明：AI 伦理问题不是实验室内部能独立解决的，因为算力、资金、云服务、用户数据和产品渠道都掌握在巨型平台手里。

4. AI 会改变我们理解“人”的方式

4.1 技术问题变成哲学问题

• Gabriel 关注的不只是偏见、隐私、透明度这些常见伦理议题。更深的问题是：如果机器能写作、对话、规划、预测、陪伴甚至影响人的判断，我们会怎样重新理解理性、主体性、创造力和道德责任？

4.2 不确定性不能成为放任理由

• 文章没有给出“AI 是否有意识”之类问题的确定答案，但它强调，许多后果会在答案确定前发生。制度设计不能等哲学完全解决才开始；相反，正因为不确定，才需要更谨慎的部署、更开放的讨论和更强的问责。

5. 文章的核心困境

5.1 伦理学家的优势

• Gabriel 的价值在于，他能把 AI 问题从“系统表现如何”扩展到“系统服务谁、伤害谁、谁有权决定”。他提醒行业不要把价值冲突简化成模型指标，也不要把治理问题交给少数技术公司内部消化。

5.2 伦理学家的限制

• 但文章也让人看到限制：伦理学家进入公司，不等于伦理进入权力中心。真正决定 AI 方向的往往是市场、算力、竞争和平台战略。如果伦理只能在技术路线确定后补写说明，它就很难阻止技术把某些政治选择伪装成中立工具。

6. 关键时间线与人物索引

6.1 DeepMind 与行业坐标

• 文章把 DeepMind 放在更长的 AGI 叙事里：Demis Hassabis、Shane Legg 和 Mustafa Suleyman 创办的实验室，后来被 Google 以 $650m 收购；它用 AlphaGo 击败 South Korean Go 棋手 Lee Sedol 建立声望，又用 AlphaFold 证明 AI 可进入科学问题。与 OpenAI、ChatGPT、LLM 竞赛相比，DeepMind 早期更像研究机构，后来越来越接近平台公司的战略资产。

6.2 被审计提醒不能漏掉的年份和规模

• 文中时间线从 Gabriel 早年背景、1999 年前后互联网与 AI 想象、2008 年后硅谷思想网络，到 2010 年代 DeepMind 兴起，再到 2020、2021、2022、2023 年大模型周期加速。文章还提到 2025、2026、2028 这类行业预期年份，以及 $670bn、1 million、100 million、300 years 等规模数字，用来说明 AI 已经从实验室问题变成资本、用户和文明尺度的问题。

6.3 思想网络和组织名

• 文中出现 MIT、TED、LessWrong、PhDs、United Nations Development Programme、Algorithmic Alignment Group 等机构或社群，也出现摄影署名 Deena So'Oteh、人物 Lee Jin，以及 AP After 一类来源痕迹。它们共同构成文章背景：AI 伦理不是孤立学科，而是学术、媒体、公司、开发者社群和国际组织之间的交叉地带。

6.4 AI 伦理谱系中的名字

• 文章还把 Gabriel 放进更长的技术批判谱系：Norbert Wiener 早在 1960 年前后就提醒自动化的社会后果；Langdon Winner、John Rawls 代表政治哲学和技术政治的背景；Joy Buolamwini 在 MIT Media Lab 做 Gender Shades，Like Buolamwini 一样的研究者把偏见问题推到公共视野；Hannah Rose Kirk、Google Research、John Jumper、Both DeepMind 等名字则连接今天的 AI 研究现场。另一端是 Silicon Valley 的速度逻辑：CEO、Dario Amodei、Jack Clark、Eliezer Yudkowsky、Nick Bostrom、Sam Altman、Elon Musk 和 TED In 这样的公共叙事，共同塑造 1911 式旧技术想象之后的新一轮智能焦虑。

思想框架

文章以 Gabriel 的职业转向开场，先制造“政治哲学家进入 AI 实验室”的反差；随后把 DeepMind 的理想主义、Google 的平台力量和 AI 行业竞赛放在一起，说明伦理学不是附属议题，而是 AI 系统规模化之后必然出现的公共权力问题。它的论证链条是：AI 不只是能力工具；能力工具会嵌入社会选择；社会选择包含多元价值冲突；多元价值不能由单一公司或单一目标函数替代；因此，真正的 AI 伦理必须进入设计、部署、参与和问责机制。