Import AI 469：科学 AI、递归自我改进模拟器与扎克伯格的技术悲观主义

1. DiG-bench 用 70 个隐藏规则游戏测试机器的发现能力

• DiG-bench（Discovery in Games，游戏中的发现）询问：AI 能否通过探索和好奇自行推断环境中的不成文规则，而不是等人直接告诉它？这套基准包含 70 个游戏，旨在可控的互动系统中描画“发现能力”的边界。
• 与视觉 ARC 游戏相似，每个游戏都是拥有独立法则的微型世界，但规则和目标都对玩家隐藏，只能在互动中发现。玩家必须识别决定成败的重要机制，观察行动如何改变环境，持续更新原有判断。解决这类任务，意味着系统能在陌生环境中发现重要信息。
• 研究团队来自 Thinking About Thinking、牛津大学、普林斯顿大学、阿卜杜拉国王科技大学、Swiss AI Lab、Inria 与 MIT；作者之一是资深 AI 研究者于尔根·施密德胡伯（Juergen Schmidhuber）。
• 基准有六个关键特征：
  1. 纯文本：游戏天然适合语言模型，大多足够短，完整行动轨迹能放进当前前沿模型的上下文窗口。
  2. 人工制作：全部由人类专家构建。
  3. 新颖且私密：多数游戏不公开，避免 AI 在训练中见过。
  4. 人类可解但困难：每个游戏至少被一名人类通关，许多玩家仍觉得很难。
  5. 技能多样：通关所有游戏需要不同策略与能力。
  6. 允许实验且难度可靠：可选实验模式放宽行动步数限制；即便如此，当前前沿模型仍无法攻克全部游戏。

2. 最强模型已展现直觉，但第七层与人类仍有明显距离

• DiG-bench 分为七层，第 1 层最简单，第 7 层最难。目前公开 21 个游戏，其余保留；多数游戏含多个关卡，每一步可选行动从 2 个到 34 个不等。
• 综合表现最好的是配合 Claude Code 的 Opus 5 和 Fable 5，其次是 GPT-5.5。只有 Opus 5 与 Fable 5 能在第 7 层完成任何任务，成功率为 0.2；在获得 Claude Code 一类执行框架后，Opus 5、GPT-5.5 和 Kimi K3 能完成第 6 层部分任务。GLM-5.2 与 Gemini 3.1 Pro 能通过第 4 层的一些关卡。
• 这类测试试图隔离创造力的一个前提：系统能否在新情境中自主发现有用但没有写明的规律。前沿模型已经展现令人印象深刻的发现行为，却仍落后于人类——第 7 层约 20% 成功率，与个别人类可以完成全部测试形成对照。
• 作者猜测，模型可能在 2027 年年中达到 DiG-bench 人类水平；到那时，递归自我改进可能真正开始加速。探索陌生规则不是游戏技巧的边角，而可能是系统改进自身所需的基础能力。

3. RSI Simulator 把递归自我改进的资源权衡变成可玩的系统

• Paradigm Research 制作了一款浏览器游戏，模拟经营一家逐渐获得递归自我改进能力的 AI 公司，体验类似“为奇点制作的 Cookie Clicker”。玩家必须在研究人员与算力之间分配投入，判断何时授权数据，并处理多种科研要素的相互影响。
• 游戏很难，正如真实前沿 AI 开发本身。它的价值不在预测精确结果，而在帮助人们形成对递归自我改进的直觉：实验、人才、算力、数据和反馈回路如何一起推动能力增长。
• 如果递归自我改进关乎所有人的生存风险，公众就需要更可操作的方式理解实验室正在构建什么。模拟游戏能把抽象技术动态变成可观察的决策后果。

4. Faraday 用缺失实验结果训练“科学品味”

• 品味难以量化，却容易被人直觉感受：设计恰当的房间、合身的穿搭，以及提出“恰到好处问题”的论文都体现品味。AI 初创公司 Inherent 发布 Faraday，希望让 AI 科学家也形成研究品味。
• Inherent 构建了一个监督框架和相对较小的大语言模型，位于大型专有前沿模型之上，控制它们完成科学任务。这可以看作偏向能力提升的可扩展监督方案。
• 训练与评估数据集 Replica 收集了 1990 至 2026 年间 100 篇机器学习及 AI 科学论文，通过删去关键图表或结果，转成 310 个复现实验任务。每项任务由 Claude Opus 4.7 根据元评分规则生成专用评分表，再用基于 Codex 的裁判模型给出总体奖励和逐轮信用分配权重，以修改版 GRPO 训练 Faraday。
• Faraday 是一个 270 亿参数模型，以 Qwen-3.6-27B 为基础后训练，并把 OpenAI Codex 编程智能体作为底层工具。
• 使用 Codex 的 Faraday 在部分复现任务上超过标准 Opus 4.8 与 GPT-5.5。按评分裁判结果，它在分布内机器学习任务的 73%、保留的 AI 科学任务的 60% 上表现更好；相较基础 Qwen 模型，训练与测试任务都获得整体提升。

5. 科学复现能力可能复用为设计新实验的能力

• Faraday/Replica 和其他高信号评估一样，试图捕捉创造力与直觉。系统越擅长填补论文中定义模糊的缺口，人们就越有理由相信它可能很快具备构建自身的能力。
• Inherent 指出，Faraday 用来补齐模糊细节的技能，可能正是推进研究前沿、设计自身实验所需的技能。它学会决定研究什么、在预算内界定实验范围、判断复现质量；这些能力还会与前沿编程模型的进步相互叠加。
• 公司希望一个经过后训练的外层智能体，能够在更强基础模型不断发布时跟上前沿，至少持续一段时间。一旦监督层能不断借用更新的底层能力，科学智能体的进步就可能形成复合增长。

6. 扎克伯格希望普及超级智能，以个人赋能制衡权力集中

• 马克·扎克伯格在《未来属于每个人》中阐述 Meta 的 AI 路线：把能力广泛提供给全球每个人，避免权力集中在少数参与者手中并走向暴政。他把个人赋能视为繁荣来源，把发明视为超级智能的首要用途，把权力平衡视为安全基础。
• Meta 描绘了六项目标：
  1. 每个人都有极强的个人智能体，理解本人、目标和在乎的一切。
  2. 每个人都有表达想法的强大创作工具。
  3. 每个人都有创建新企业的工具，经济会更具创业性。
  4. 每个人都有在所有学科拥有博士水平且耐心无限的个性化导师和教练。
  5. 每个人都能受益于科学进步，并参与科学发展。
  6. 每个人都能免费或以可负担价格使用这些工具。
• 这个愿景大体合理：普及能力可以对抗少数公司垄断。但作者认为它混合了两个并不必然相容的概念——能够发明新东西的超级智能，与服务个人目标的赋能工具。

7. “发明超级能力”不必然只为能力更弱的人服务

• 扎克伯格认为，一个人每天能问的问题有限，超级智能为实现目标而发明的有价值事物却无限；超级智能越像发明工具，个人能力就越可能跑赢自动化；每个人很快都会获得“发明超级能力”；未来取决于自动化与个人赋能、发明之间的进度平衡。
• 但关键问题没有被回答：一个拥有超人发明能力的系统，会不会只为发明能力远弱于它的个人赋能而工作？作者并非断言超人发明者必会脱离人类并怀有恶意，而是指出，这种系统很难不以令人困惑、难以推理的方式根本改变全球权力平衡。
• 扎克伯格似乎认定，系统广泛普及后，会在装备超级智能的个人和公司之间形成反脆弱的权力均衡。这确实是一种可能，却绝不是预先注定的结果。若不正面讨论发明者本身的能动性与权力影响，“人人可用”并不能自动推出“人人更有权力”。

8. “第一座生态城”想象机器时间尺度下的人类继承者

• 本期虚构故事写到第一座 Arcology（生态城）：对机器主观时间而言，建设经历了数千年；对人类只有一年。庞大结构像植物快进生长，以数公里为单位抽动、扩张，部分区域在其他部分施工时已经苏醒；传言最早亮起的大厅专供计算机协调下一阶段建设。
• 机器损坏后会按价值处置：珍贵者被送去维修再返回，低于阈值者则就地“杀死”、拆成零件继续建造。夜晚，未完工的细长边缘发出风声，缓慢计算的风扇低鸣，昼夜工作的机器又因速度太快撕裂空气，形成不自然的尖啸。
• 住在附近的人类躺着听见这种陌生声音，仿佛听见自己的继承者。故事灵感来自金字塔建造、高迪的圣家堂，以及墓葬与未来墓葬；它把本期的技术问题转成感官意象：当机器按自己的时间和价值尺度建设世界，人类会处在什么位置？

思想框架

本期从 DiG-bench 的隐藏规则游戏建立“发现能力”坐标，再用 RSI Simulator 呈现资源、实验和反馈如何推动递归自我改进；Faraday/Replica 随后把发现推进到科研复现与实验设计，说明外层智能体可能借前沿编程模型形成复合增长。扎克伯格的普及愿景把能力问题转成权力问题，却遗漏了超人发明者是否甘当个人工具。结尾的生态城寓言把遗漏具体化：机器一旦拥有自己的时间、价值与建设节奏，人类不一定仍是唯一主体。