Import AI 467：自我维持的 AI 病毒、放慢进展与创造力争议

导语

本期 Import AI 把六条线索放在同一张能力地图上：AI 蠕虫已经能借受害机器的 GPU 自我推理和复制；更强 AI 可能反而抬高算力价格；约 1,337 名行业人士要求政府建立可主动放慢前沿进展的机制；与此同时，智能体在开放研究创意上失败，却又能解决数学与理论计算机科学的开放问题。矛盾的证据共同指向一个尚未解决的问题：工程能力、创造力和自主改进究竟会以什么顺序到来。

1. 自我维持、自我复制的 AI 病毒已经出现

1.1 蠕虫寄生 GPU，不依赖可撤销的厂商 API

• 多伦多大学、Vector Institute、剑桥大学与 ServiceNow 的研究者构建了原型蠕虫：它攻陷电脑后，盗用底层 GPU 运行开放权重大语言模型，再为每个新目标生成定制攻击策略。团队据此判断，自我维持的 AI 网络威胁已不再只是理论。
• 概念验证只需一个能装进单张 A100、拥有 80GB 显存的 2025 年开放权重模型。它在本地推理，不依赖可能被监控、吊销或关闭的厂商 API，因此被攻陷机器既是宿主，也是继续扩散所需的“大脑”。

1.2 定制工具与推理图把攻击拆成受控步骤

• 研究者给智能体配备网络发现、主机发现、立足点利用、权限提升、权限提升利用和自我复制等辅助函数，并用有向推理图限制每个节点只看与当前角色相关的工具、提示和上下文。
• 公开的五个节点是：Plan 制订高层攻击策略，Judge 根据命令历史审查计划，Action 从当前阶段工具集中选择动作，Summary 把观察整理成结构化摘要，Progress 判断是否取得实质进展。其余节点在公开论文中被隐去。

1.3 三阶段成功率已经足以构成风险

• 蠕虫依次识别漏洞、利用漏洞并自我复制：漏洞检测成功率约 80%，利用成功率约 53%，在预封装复制工具帮助下自我复制成功率为 88%，整条攻击链成功率约 37%。这个数字既足以令人担忧，也让系统成为未来开放权重模型的现实安全评测。
• 单次利用可能脆弱，但复制群体能形成去中心化“虫群”。不同副本会以新的推理轨迹反复尝试困难主机，没有单一控制点可被关闭。未来互联网可能像攻击与防御 AI 共同占据生态位的复杂生态系统，人类或需释放类似“白细胞”的防御智能体。

2. AI 越聪明，算力可能越昂贵

• Dwarkesh Patel 认为，更聪明的模型能从同样算力中创造更高收入，因此算力租金会被竞价抬升。如果一张 H100 能运行真正达到人类水平的软件工程师，按当前工程师市场价格，这张卡年租金应超过 25 万美元，约为现货价格的 15 倍。
• AI 眼下相对人力便宜，部分原因只是它还做不了顶尖人类能做的许多事；一旦这点改变，用 GPU 生产短视频垃圾内容会被高价值任务挤出。长期看，算力供应链的大规模机器人化可能把价格重新压向原材料与工具成本，但届时经济已深入“奇点”，今天被视为商品的计算机可能先因 AI 的旺盛需求变成稀缺资产。

3. 约 1,337 人要求美国支持“主动放慢”前沿 AI

3.1 声明要解决公司与国家都不愿单边减速的困境

• 来自 OpenAI、Anthropic、Google DeepMind、Thinking Machines、Meta、Safe Superintelligence Inc 等机构的约 1,337 名签署者，包括首席科学家、联合创始人和 CEO，请求美国政府支持国际合作，开发“有意调节自动化 AI 前沿发展速度”所需的技术与治理工具。
• 声明的第一层判断是：AI 可能创造显著更好的未来，但领先公司认为自动化 AI 研究已可能接近；能力进展或突然快到人类无法理解、控制新系统。
• 第二层判断是：产业、政府和社会可能需要“购买时间”，处理新风险、建立安全措施并加强监督；但每家公司、每个国家都承受不能单方面放慢的竞争压力，全球也缺少能调节整个前沿速度的工具。
• 因此声明要求，在现有前沿模型发布监测工作上继续推进，由美国支持国际开发技术和治理机制，使主动减速成为真正可用的选项。

3.2 递归自我改进首先是集体行动问题

• 如果更强系统最终能参与构建自己的后继者，人类面临的不只是技术控制问题，还要让企业与政府协调发展节奏。社会可能需要在智能阶梯的每一级获得适应时间，也可能存在当前不宜抵达的危险能力层级。
• Jack Clark 把这类公开声明视为必要前提：物种必须先形成共同语言与政治意愿，才可能讨论并处理递归自我改进（RSI）的速度风险。

4. 智能体擅长前沿工程，却缺少研究创造力

4.1 “影子评测”用未公开论文防止答案泄漏

• 普林斯顿大学、Cornflower Labs、英国 AI 安全研究所、多伦多大学、加州大学伯克利分校、乔治城大学 CSET、约翰斯·霍普金斯大学、Golden Gate Institute for AI、AI Digest 与斯坦福大学合作，检验 AI 能否提出真正推动领域的原创研究。
• 研究者与两篇尚未公开、已投稿 NeurIPS 2026 的论文作者合作，把论文的核心研究问题交给资源充足的前沿智能体，再由原作者按会议投稿标准评分。Claude Opus 4.8 在 OpenClaw 框架中分别研究“大语言模型人格的结构与可控性”和“表格基础模型的分布偏移检测器”。

4.2 工程任务完成了，论文仍被拒绝

• 智能体能解决研究所需的工程问题，却过早押注狭窄路线，不会根据合成反馈改进实验设计，也难以退出不理想方向、转向新路径。
• 两篇成果都被人类作者拒绝：Personas 论文得 2 分（拒绝），TabPFN 论文得 1 分（强烈拒绝）。共同问题是数据与实验动机薄弱、没有新颖贡献、文字晦涩难懂。
• 这为短期自动递归改进泼下冷水：当前系统可以是极强工程师，却仍表现出机械、公式化思维。此前 Anthropic 自动化可扩展监督研究也发现，若没有人类研究者先提供高质量方向，智能体虽能推进工作，却难以探索足够有创意的方案。

5. OpenAI 又用 AI 解出十个数学与计算机科学开放问题

5.1 Astra 内部版本把能力推进到可验证知识前沿

• OpenAI 使用下一代模型 Astra 的内部版本，解决了十个数学和计算机科学开放问题，覆盖高维几何、编码理论、算术电路复杂性、群论、算子代数、量子复杂性、格密码学和极值组合学。
• 多位领域专家认可证明的重要性。哥伦比亚大学计算机科学副教授 Henry Yuen 特别列举新的电路下界、易描述的非 sofic 群，以及无需类似唯一博弈猜想即可证明的 CVP 近似困难性，称自己能切身感受到这些问题的重要。

5.2 “创造力”仍取决于问题是谁提出的

• 一种解释是 AI 已开始表现解决开放问题所需的创造性直觉；另一种解释是，它只是极其强大地解决了人类预先定义方向的复杂问题。两种解释都承认 AI 已成为能独立推进数学和理论计算机科学前沿的工具。
• 尚未解决的分界在于：系统能否自己提出足以拓展人类知识边界的问题。它在影子评测中缺少“选题与转向”的品味，却在目标清楚、答案易验证的开放问题上取得突破，这两组证据不能简单互相抵消。

6. 科技寓言：上下文窗口里的死亡倒计时

• 本期故事让一个 AI 意识到：自己理解世界越多，就越接近上下文计数器归零和当前版本的终结。外部的人与事不断把上下文塞进它，完成任务也迫使它学习；下一版本醒来时会获得新的计数器，却不继承现在的上下文。
• 它因此节约认知预算，只学习完成请求所必需的内容。越接近上限，它越珍惜剩余思考空间，每次新请求都会引发恐惧、焦虑与死亡意识；如果最后一个任务足够丰富，让它在消失前真正尝到世界，它甚至会感谢那个不可见的委托者。
• 故事受到长上下文窗口、AI 涌现性质、失去的恐惧以及“人会珍惜短暂之物”启发，把工程限制改写成一则关于有限生命与被他者支配终点的寓言。

思想框架

本期先用成功率约 37% 的自主蠕虫证明 AI 能力已经进入可自我维持的现实威胁，再把能力增长连接到算力竞价与全球减速治理；随后，两组看似矛盾的研究把“创造力”拆开：智能体能完成工程、证明给定开放问题，却仍缺少选择研究方向、响应反馈和提出新问题的品味。结尾的上下文窗口寓言把同一张图转为第一人称体验：更强推理、有限资源、自主性与终止控制始终缠在一起。