《Anthropic 正在让 AI 参与自身研发》
Anthropic 讨论 AI 参与自身研发的趋势,适合观察递归自我改进、工程效率和安全控制之间的张力。
🧠 agentic reading|1️⃣ 精准输入
导语
Anthropic 这篇文章试图证明一件正在发生的事:AI 不只是被人类开发出来的产品,也已经成为开发下一代 AI 的重要劳动力。文章并没有宣称递归自我改进已经到来,但它用公开基准和 Anthropic 内部数据说明,AI 正在加速编码、实验、研究判断和组织产出,这会把“谁在推动 AI 进步”的问题变得更紧迫。
1. 递归自我改进还没发生,但前置条件正在靠近
文章开头给出核心命题:过去 AI 发展周期由人类驱动,但 Anthropic 正在把越来越多 AI 开发任务交给 AI 系统。若趋势走得足够远,且有足够算力,就可能出现能自主设计和开发继任者的系统,这就是 recursive self-improvement。
作者强调这不是必然,也不是已经实现,但它可能比许多机构准备得更早。真正重要的不是“AI 是否今天已经能自我改进”,而是开发周期中的人类角色正在一点点缩窄。
2. 外部基准显示模型能独立完成的任务时长在迅速变长
文章先看公开基准。AI 能可靠完成的任务长度正在加速增长,从早期约每 7 个月翻倍,提升到约每 4 个月翻倍。2024 年 Claude Opus 3 能完成约 4 分钟的人类软件任务;一年后 Sonnet 3.7 能做约 1.5 小时任务;再一年后 Opus 4.6 能完成约 12 小时任务。
我的笔记
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可记笔记
登录后可保存笔记、高亮、划线和批注。