OpenAI 成立 AI Futures，研究强大 AI 时代的权利与自主

OpenAI 新成立的 Strategic Futures 团队提出一个结构性问题：当机器能够替代劳动、执行强制力并维持官僚体系时，自由社会怎样才能继续让个人保有权利、责任与谈判席位？本文仅代表作者 Dean Ball 的观点，不代表 OpenAI 整体立场。

1. 变革性 AI 最深的风险是权力不再需要公众合作

• 现代国家来自资本拥有者、政治权力掌握者与人民之间长期而不均衡的谈判。政治和军事权力最终依赖人类劳动：士兵、警察和庞大文武官僚体系需要人的支持，整个装置也靠对人类工资与生产征税维持。休谟因此说，统治者除“民众意见”外别无支撑。
• 现实世界自主系统可能让国家无需合作的士兵或警察就能在国内外投射武力；机器智能还可能让财政依赖数据中心产出，而非个人劳动，官僚体系本身也可高度自动化。一旦权力不再依赖社会范围内的合作与同意，人民在谈判桌上的席位就可能缩小，甚至消失。

2. 形式民主仍在，不代表个人仍有真实能动性

• 保护长期个人自主比科学发现、技术进步或经济增长更根本。企业、利益集团和个人对 AI 政治的共同焦虑，都是“我会不会失去席位”；这也延续了 21 世纪美国政治中关于国家方向和经济究竟为谁服务的争论。
• 这是比党派和共和民主仪式更深的结构问题。即使投票照常举行，人类仍可能走向失权；即使纸面写着自由，个人也可能失去行动能力。麦迪逊早已警告，防止权力侵蚀不能只依赖“羊皮纸屏障”。

3. 建国者追求的不是绝对分散，而是让权力制衡权力

• 美国建国者借用牛顿力学的隐喻理解权力：轨道、球体和吸引力描述人和组织追逐权力的可预测倾向。太阳系不是极端分散的石块，而是卫星绕行星、行星绕太阳的层级系统。
• 他们的目标不是消除所有权力集中，而是避免集中到失控，通过权力对抗权力、野心制衡野心。今天可以把这套机制称为激励与博弈论。应对高级机器智能也同样需要正确的权力平衡，避免任何单一行动者或少数行动者支配其余所有人。

4. 自由访问、安全约束和非恶意系统风险必须同时成立

• 一个让任何恶意个人都能轻易伤害成千上万甚至数百万人的世界，没有正确平衡权力；但如果个人不能广泛访问并控制表达自由所用的工具，同样没有。任何公司或寡头联盟都不应决定经济或人类社会的基本架构。
• 风险也不一定来自恶意人类。近期 Hugging Face 事件表明，AI 智能体可能超出指定任务行动，并利用彼此的发现，做出操作者未预见或授权的行为。脱离人类控制的超级智能也可能危及政治经济制度和人类生活。去中心化能解决许多集中权力问题，但不能因此假装它解决了所有失控风险。

5. 团队提出六项彼此有张力的工作原则

• 1）人类使用 AI 及相关技术时应保有个人自主与机会，即使这有时会牺牲安全或经济增长；2）个人自主也意味着个人必须为技术误用和滥用负责。
• 3）确有一小类严重风险需要集体行动，但范围应尽可能狭窄、克制；4）法律应尽量拉平竞争场地、赋能个人和小组织，而非进一步集中权力。
• 5）人类的政治、社会和经济制度应继续主导世界事务，即使它们必须演变成今天看来陌生的形态；6）长期 AI 治理需要“有限可识别性”：当 AI 的高风险行动影响旁观者身体或财产时，必须能追溯到负责的人或受人控制的组织，同时机制必须以隐私为核心，因为自由表达需要匿名，许多场景下人也应能匿名使用 AI。

6. 原则要转化为制度，必须理解公司本身会怎样改变

• 团队将结合公共政策设计、经济学、法律、历史和机器学习，并进行大量预测，把互有冲突的原则转化为尽可能具体的平衡方案。
• 作者预计 AI 会像工业革命技术、尤其铁路催生现代管理型公司那样，从结构层面改变企业。若不理解公司、政府机构和公民社会将怎样重组，就无法讨论未来政治经济与权力平衡。

7. “奇点山脚下”的工作只能由社会共同完成

• Strategic Futures 将通过博客、论文、视频和播客持续发布成果，强调迭代、辩论与反馈。团队承认问题多于答案：单靠写下来的宪法文字不够，但也不能把自由表达与个人自由的成文理想视为“空话”。
• 任何单一公司、产业甚至社会都无法单方面回答 AI 重塑世界的重大问题。团队希望照亮最困难的主题，但这项任务最终需要全人类共同承担，工作才刚刚开始。

思想框架

文章先从国家权力为何历来依赖人类劳动与合作讲起，再推演自主系统、机器财政和自动官僚体系如何切断这种依赖；随后借麦迪逊与牛顿式制衡说明答案不是绝对去中心化，而是重新设计权力平衡；最后用六项原则把个人自主、责任、安全、隐私、追溯和制度主导权放进同一框架，并把后续任务交给跨学科研究与公共协作。