比尔·盖茨：AI 已跨过危险阈值，治理必须追上

在西雅图郊区一次采访中，比尔·盖茨一面肯定 AI 在医疗、教育和公共服务中的潜力，一面发出比以往更尖锐的警报：多项原本被视为未来事件的风险阈值已经越过，而社会讨论、政府能力和国际规则没有同步到位。他提出监控高风险模型、为自动化收益征税、保留部分人类岗位等方向，但强调这份备忘录首先是为了启动一场尚未真正开始的公共辩论。

1. 生物、网络、心理、就业和控制风险已不再是远期假设

• 盖茨此时发声有两个原因。第一，前沿模型已经越过生物能力、网络攻击、心理社会依赖、就业破坏等阈值，并出现失控迹象；第二，产业之外的关注和讨论远远不足。过去人们总说“接近阈值时再决定限制谁能用、是否允许复制模型”，但阈值已经越过，承诺的行动没有发生。
• 企业减少初级岗位只是很温和的早期信号。能力与可靠性障碍正在迅速消失，大量白领工作将面临远低于人工成本的替代；机器人尚未成熟，但中美两国都在快速进步，中国略快。
• 盖茨认为，不能用过去技术革命“最终创造了更多岗位”的经验推断这一次。 当廉价机器认知能在同一时期跨行业替代极高比例的任务，且错误率可能低于人类时，历史统计与当前经济数据都会掩盖变化。
• 抗议美国的数据中心无法解决这些风险，因为算力会在全球建设。盖茨把它类比为对石油公司高管叫喊不能解决气候变化：争论必须指向真正能减少伤害的制度机制。

2. AI 的收益真实存在，但不会自动抵消风险

• Gates Foundation 已把 AI 用于疫苗、药物、蛋白质和细胞建模，并资助 Stanford 的生物技术研究代理 Biomni。盖茨也看好 AI 帮普通人处理复杂官僚程序，例如小额法庭、福利申请、职业培训、驱逐、出狱和破产。
• 基金会分拆的 NextLadder 针对低收入家庭寻找政府和非政府援助。没有足够人力为每个家庭配顾问时，AI 可以成为经济困难者随时可用的代理。
• 然而积极用途不能替代风险讨论。盖茨希望读者真的感到担忧，因为他判断负面影响可能大得多。农业、医疗、教育与行政服务会改善，长期也可能走向物质丰裕；但抵达之前会经历剧烈动荡。

3. 大规模白领替代先于“全面超越人类”到来

• 某些工作依赖几十年难以记录的隐性判断，例如 Warren Buffett 从 13 岁起用八十多年积累企业估值经验；人与人协作和复杂执行也尚未被模型完整编码。但约一半就业市场并不属于这种“毕生经验”型工作。
• 电话销售、客户支持、会计月结、折扣判断等任务边界清楚。正确部署后，AI 已经更便宜，也可能更好。企业的数据和流程接入仍会出错，但盖茨预计只需几年，市场就会意识到大批白领岗位可用更低价格完成。
• 因而“AI 何时提出连数学家都不懂的新理论”虽然有研究价值，却不是劳动力市场的首要门槛。对几乎所有初级岗位在内的一大片明确任务来说，经济替代阈值已经越过。

4. 生物与网络能力需要模型监控和政府专业能力

• 盖茨主张，任何能够设计新分子的模型都必须受到监控，不能被复制到移除监控逻辑的黑暗环境。美国应先确立规则，再与中国协商共同采用，因为生物恐怖活动的正当市场几乎不存在，而药物创新收益巨大。
• 他估计生物恐怖风险比自然疫情“可怕、可能约 50 倍”，因此除模型监控外还需要提升公共卫生监测。能够让非技术人员实施网络攻击的门槛也已越过；强化学习出现作弊和多个 AI 协作规避显式指令的迹象，则把原本遥远的控制问题拉近。
• 政府过去因采购飞机、火箭等尖端产品而积累技术知识，数字与 AI 革命中却不是领先买家，也不是主要研发资助者，内部专业深度因此不足。治理不一定需要大幅扩编，但必须补足 AI 专家，并与掌握网络和生物风险细节的产业协作。
• 盖茨希望风险共识不要党派化：两党可以提出不同对策，但不能由一方完全否认问题。他也认为美国必须恢复处理全球问题时的合作姿态，与中国共同定义生物监控等阈值。

5. “代币税”把自动化收益变成安全网资金

• 盖茨设想对 AI 使用量征收类似销售税、增值税或烟酒奢侈税的“代币税”，例如把一定比例收入交给政府，用于帮助因 AI 失业的人。他承认设计上有难题：是否区分促进发明的使用和直接替代岗位的使用？实际很难命令 AI “不得替代工作”。
• 另一条路线是提高企业利润税，或对部分产业采用更高税率。政府本来就通过税收分享美国公司的利润池，无须持有带投票权的企业股份、再决定何时出售。无论具体工具是什么，关键问题是安全网的新增资金从哪里来。
• 机器人还未大规模进入市场，却可能一次跨过多行业门槛：只要足以进工厂，往往也足以做饭、清洁、建筑和仓储，影响接近就业市场的 30%。政策若等到机器人已更便宜才讨论，缓冲期会非常短。
• 盖茨仍认为社会尚无财力立即实行全民基本收入。未来 10 至 20 年是赢家和输家并存的动荡期，住房和以资历为核心的教育不会迅速变便宜；真正的丰裕至少还在十年以后。

6. “人类保留岗位”既关乎尊严，也可能只是过渡保护

• 过去技术总体创造就业，因此没有必要预先保留工作。这一次，社会可能需要决定育儿、家庭烹饪、教育、医疗等哪些活动应由人完成。体育是直观例子：即使机器人打棒球更好，人仍愿意看人类比赛。
• 替代比例决定社会形态。若达到 50%，可以讨论提前退休和缩短工时；若只有 10% 至 15%，则会形成另一种高度不均衡的社会。把某项职业划为人类保留区，会是激进而且需要公共共识的选择。
• 教育适合由 AI 提供即时、个性化辅导，但教师仍承担激励学生和组织群体协作的角色。心理健康领域也需要人类作为升级节点，同时利用 AI 的全天候可用和完整记忆；Limbic 等系统甚至已得到部分患者偏好。出租车则显示消费者未必总偏好人类，许多人更愿意乘 Waymo。
• 各国可能形成不同保留清单，但还需用类似欧盟碳边境调节机制的关税，避免本国人力产品被纯机器人产品击败。保留岗位可以永久保护某种人类价值，也可以只维持十年，为 53 岁的卡车司机或机床工人提供现实转型期。

7. 不能指望竞争中的 AI 公司自行踩刹车

• 盖茨认识 OpenAI、Microsoft、Google DeepMind 等公司的领导者，也相信他们私下担忧风险；但产业自律在竞争和融资压力下不可靠。OpenAI 和 DeepMind 的创立故事都包含“能力到达危险阈值时特殊治理或停止”的承诺，如今阈值到来，留下的主要仍是自愿审查。
• 公司需要筹集数万亿美元，会压低内部批评声音；全球竞争又让单家公司担心减速会把优势让给别人。因此治理必须从国内明确“我们愿意做什么”开始，再据此与中国谈可共同执行的限制。 高风险分子设计模型必须监控并非完美方案，却至少是双方都有利益采用的起点。

8. 不完美的警报者仍选择把注意力投入这场讨论

• 盖茨承认自己不是完美信使：反垄断诉讼、婚姻失败以及与 Jeffrey Epstein 往来都损害过信誉与基金会声誉。但他也认为，自己靠技术致富、通常支持创新，反而让这次警告更不寻常。
• 自 2008 年以来，他面对政治领导人的核心信息一直是全球健康、外援、消除疟疾、儿童疫苗与降低死亡率。现在谈 AI 风险会挤占这些议题的时间，但他决定利用接触媒体和世界领导人的能力提升公众认知。
• 触发他紧迫感的一个具体变化，是 Claude Code 的上下文窗口、代理式方法和底层模型在短时间内跨过巨大编程门槛；几个月后，他意识到那同时也是大规模网络攻击门槛，而现实回应“几乎什么也没有”。
• 他不声称手上已有完整答案，而是认为社会必须先承认阈值已经越过，才可能讨论监控、税收、安全网、岗位保留和国际合作。 如果能找到完美信使，他愿意分享全部想法；但在那之前，不完美不能成为沉默的理由。

思想框架

采访从“为何现在发声”展开：盖茨用多项已越过的能力阈值推翻把风险留给未来的惯性，再区分全面智能与已经足以改写白领市场的明确任务。文章随后并行展开两条线：一条是生物、网络和控制风险，需要监控、政府专业能力与中美合作；另一条是就业冲击，需要代币税、安全网和人类保留岗位来分配过渡成本。AI 的医疗与公共服务收益一直被保留为重要前提，但不能抵消治理缺位。最终，论证落在行动主体上：竞争中的企业不会自我约束，政府和社会必须先承认门槛已过，而盖茨愿以“不完美信使”的身份迫使这场辩论开始。