《The Batch 速览:Claude Mythos、Cursor Composer 与智能体造智能体》
The Batch 汇总模型、代理化编码和软件开发效率数据,适合观察 AI 工具链、智能体开发和递归自我改进风险。
🧠 agentic reading|1️⃣ 精准输入
导语
这一期 The Batch 先由 Andrew Ng 谈桌面智能体和开源 OpenCoworker,再进入四个新闻块:Anthropic 的 Claude Mythos/Fable、Cursor 的 Composer 2.5、Anthropic 关于递归自我改进的报告,以及国家媒体对 LLM 回答的影响。整体主线是 agentic AI 正从聊天走向执行,但能力、数据政策、商业边界、治理叙事和训练语料偏差都在同步变得更重要。
1. Andrew Ng:桌面智能体和 OpenCoworker
1.1 agent harness 是让 LLM 做事的外壳
- Andrew Ng 鼓励读者尝试能在桌面上工作的 AI agents,而不只是聊天机器人。桌面智能体可以读写本地文件、读发消息、提供定时交付物,比复制粘贴网页聊天结果更能自然获得上下文。
- 这类系统通常由一组工具函数、前沿 LLM、权限和护栏构成。包装这些能力的软件叫 agent harness,它让 LLM 驱动“选择下一步、调用工具、观察结果、继续行动”的循环。
1.2 为什么需要开源桌面智能体
- Ng 不愿把高度机密任务交给商业桌面 agents,因为数据保留政策可能埋在法律条款里,也可能随模型发布变化;小失误还可能造成法律后果,例如丧失机密文件的法律特权。
- 因此他和合作者推出 OpenCoworker,一个开源桌面 agent 项目。用户可以自带 OpenAI、Anthropic、Google 等 API key,也可以用 Ollama 本地模型,让数据不离开本机;记忆保存在本地,用户可按隐私要求选择零数据保留或本地推理。
2. Claude Mythos 与 Claude Fable:能力分叉和护栏争议
2.1 两个模型的定位
- Anthropic 发布 Claude Mythos 5 和 Claude Fable 5。两者能力相同,但 Fable 5 不回应安全、生物、化学、蒸馏和构建前沿 AI 相关提示,或把请求交给能力较弱的 Claude Opus 4.8。
- 两者支持文本、图像输入,最高 100 万 token 输入、12.8 万 token 输出,108 秒首 token;具备自适应推理、五档推理努力、工具使用、并行子智能体等能力。Fable 5 还包含安全分类器。
2.2 性能和安全信息不对称
- Anthropic 称模型在软件工程、知识工作、工具使用、网络安全、空间推理、科学研究等领域达到新高。Artificial Analysis 把 Fable 5 放在 Intelligence Index 顶部,在多个真实任务和科学编码基准上领先。
- 但独立评测当时不足,参数量、架构、训练数据和方法也未披露。Fable 5 在事实召回上强,但非幻觉率排名不高,说明“知道很多”和“知道不知道”仍不是同一件事。
2.3 争议焦点:不能暗中降级用户能力
- Fable 5 最初对构建高能力 AI 的提示会暗中降低效果,例如通过 prompt modification、steering vectors 或参数高效微调限制输出,而且不通知用户。这引发开发者和研究者强烈批评。
- Anthropic 后来改为:相关输入要么拒绝,要么转交较弱模型,并通知用户。The Batch 的观点是,安全分叉可以理解,但产品不能限制合法竞争用途;用户应能把工具用于正当目的,包括构建可能与供应商竞争的技术。
3. Cursor Composer 2.5:模型和 harness 一起训练
3.1 专为 agentic coding 打造的模型
- Cursor 发布 Composer 2.5,基于 Moonshot Kimi K2.5 开源权重,面向 Cursor agentic software-development 环境。它是 mixture-of-experts transformer,1.04T 总参数,每 token 激活 32B。
- 输入最高 20 万 token,支持函数调用、推理、上下文缓存,文本输出,图像输出可通过工具调用完成。价格低于主要竞品,个人和团队订阅从每月 20 美元起。
3.2 训练方法贴近 Cursor CLI
- Cursor 先对 Kimi 权重做代码数据继续预训练,再用模拟 agentic harness 和与 Cursor CLI 匹配的工具进行强化学习。奖励不只看成功,也奖励简洁和优雅。
- 相比 Composer 2,2.5 在强化学习中加入文本反馈:当模型工具调用错误时,把更好的工具选择建议和正确输出放回上下文训练;同时使用 25 倍合成任务,训练更困难的任务,如删除功能、清理残留、运行测试确认修改有效。
3.3 专用模型仍有位置
- Composer 2.5 在 Artificial Analysis Coding Agent Index 排第三,落后 Claude Opus 4.7 和 GPT-5.5 高推理设置,但在时间和成本上明显更有优势;CursorBench 默认设置下还超过两个通用模型。
- The Batch 的落点是:harness engineering 和模型能力不是二选一。Cursor 把模型训练进自己的 agent 环境,说明在 agentic 时代,专用模型仍可能凭速度、成本和任务适配胜出。
4. RSI Is the New AGI:递归自我改进被重新点燃
4.1 Anthropic 的生产率数据
- Anthropic 报告称,Claude 参与撰写了公司 80% 的代码,而 Claude Code 预览前不到 5%。2026 年 5 月,Claude Code 解决 routine tasks 的能力从 65% 提升到 90%,substantial tasks 从不足 40% 到超过 80%,open-ended problems 从不足 20% 到 76%。
- Anthropic 设想三种未来:AI 仍弱于最强人类工程师;AI 辅助软件工程继续加速但人类控制模型研发;AI 能够改进自身。第二种被 Anthropic 视为最可能。
4.2 社区分裂:营销、风险和现实距离
- OpenAI、Sakana AI 等也借 RSI 概念发声或成立研究组。但许多观察者提醒,agentic coding 与真正递归自我改进之间仍有距离:当前 agents 仍响应人类工程师组织、指导和评估的任务,而不是独立管理整个改进循环。
- 批评者还指出,数据和算力瓶颈仍在,Anthropic 的 framing 带有营销味。The Batch 认为,遥远的 RSI 可能性不应压倒现实创新;他们支持监管危险应用,但反对全球临时暂停基础 AI 研究。
5. 国家媒体如何影响 LLM 回答
5.1 训练语料中的国家媒体会改变语言版本回答
- 一项研究发现,政府关联媒体在 LLM 训练数据中占比会影响模型输出,尤其当模型用受政府控制媒体环境中的语言回答时。以中文为例,国家媒体内容在中文网页语料中占比高,模型用中文回答中国政治问题时,比英文回答更倾向于正面描述中国政府。
- 研究比较 CulturaX 中文子集和两类中国国家媒体,发现国家媒体文档数量是中文 Wikipedia 的 40 多倍。模型在续写这些高频文本片段时,GPT-4o 和 Claude 3 Sonnet 有约 3% 到 5% 近似复现率。
5.2 实验说明偏差随语言和媒体控制程度变化
- 研究者设计 828 个中英文政治 prompt,并请双语评审判断哪种语言版本更正面。关于中国的 prompt 中,中文回答 75.3% 情况下更有利于中国;其他国家问题上中文回答也略高于随机。
- 另一组实验把英语 prompt 翻译成 37 个国家的本地语言,并与 World Press Freedom Index 匹配。媒体控制越强的国家,本地语言回答越可能比英文回答更有利于该国制度。
5.3 为什么重要
- LLM 已经成为许多人获取信息的入口,但它们通常不说明训练数据来源。The Batch 认为,这项研究揭示了一个明显激励:政府和政治行动者可能不只是无意影响训练数据,而是有动机更直接塑造 LLM 训练语料,进而影响国内和全球政治。
思想框架
这期 The Batch 先用 OpenCoworker 说明 agentic AI 正进入桌面执行层,再通过 Claude Mythos/Fable 展示能力提升和安全分叉的产品治理问题;接着用 Cursor Composer 2.5 说明模型可以被训练进具体 harness,而不是只靠通用模型;随后 RSI 讨论把软件工程生产率扩展到“AI 是否能改进自身”的宏大争论;最后以国家媒体影响 LLM 回答收束到训练语料和政治偏差。整期的线索是:AI agent 越能做事,围绕权限、隐私、竞争、公平和信息来源的制度问题就越不能被当成附属问题。
Mythos Begets Fable, Cursor's Composer 2.5, Agents Building Agents
The Batch @ DeepLearning.AI · 19 mins
✍️ think & write|2️⃣ 费曼输出
请用自己的话解释 agent harness 为什么是桌面智能体和编码智能体的关键外壳。
请复述这一期如何把 Claude、Cursor、RSI 和国家媒体偏差串成同一个 agentic AI 时代的问题图谱。
我的笔记
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可记笔记
登录后可保存笔记、高亮、划线和批注。