《Import AI 462：超级说服、自我维持 AI 与通向超智能的路径》

导语

本期 Import AI 由几组信号组成：AI 已经在文字说服任务中超过专家人类；自我维持型 AI 的关键可能不只是模型能力，还包括人形机器人和物理基础设施；DeepMind 开始系统讨论从通用智能到超智能的路径；一家名为 Recursive 的初创公司展示了自动化 AI 研究循环的早期结果。整期的共同问题是：AI 能力正在从“会回答”转向“能影响、能制造、能自我改进、能组织多个智能体”。

1. AI 已经能稳定超过专家人类进行文字说服

牛津大学、英国 AI 安全研究所、斯坦福大学和伦敦政治经济学院的研究者测试了 AI 在政策议题和慈善捐赠上的说服能力。结果很明确：在 4 个实验、18,978 场对话和 6,923 名参与者中，今天的 AI 系统在有真实后果的文字说服上已经优于人类。

1.1 AI 的优势来自信息部署速度和数量

• 研究者写道，即便专家人类可以自己选择议题、提前研究、接受数小时结构化现场练习，并以 1,000 英镑现金奖金激励，AI 系统仍然可靠地更有说服力。
• AI 的优势主要来自迅速部署大量信息。经过训练后，专家人类可以追平被限制到人类写作速度和人类消息长度的 AI；这说明 AI 的说服优势并不只是“更聪明”，也来自它能更快写出更多相关内容。

1.2 四项研究逐层测试了政策态度、训练、人为限制和真实捐赠

• 研究 1 让被说服者先在 0 到 100 分量表上评价自己对 10 个英国政策立场之一的同意程度，再随机与 AI 或人类说服者进行文字对话。AI 平均超过了所有人类类别，包括普通人、竞赛筛选出的普通人和精英辩手。
• 研究 2 让 43 名回归的精英辩手使用围绕战胜他们的 AI 建成的训练工具：他们可以与 AI 对话、查看提示、看自己研究 1 中的对话记录及态度变化标注，也能看到任意时刻 AI 会如何替他们回应。训练改善了人类表现，但没有人超过 AI。
• 研究 3 强行把 AI 限制在人类消息长度和人类写作速度。AI 相对研究 2 中最强人类对照组，也就是受训精英辩手的优势，从 +4.1 个百分点降到不显著的 0.0 个百分点。
• 研究 4 招募了 19 名来自英国公司的资深募捐游说员，让他们执行类似任务。AI 仍比专业游说员高 5.9 个百分点；在 Save the Children 真实捐赠任务中，AppcoUK 的团队曾在 2016 到 2023 年为该慈善机构从 22,583 名捐赠者那里筹得 824,297 英镑，但这次 AI 仍让参与者从 1 英镑研究奖金中捐出更多，超过游说员 +10.8 个百分点。

1.3 最强模型和真实捐赠结果让问题进入权力分配层面

• 最强说服者是 Opus 4.1 和 Opus 4.6，其后是 OpenAI 的 GPT-4o 和 GPT-5.4、Google 的 Gemini 2.5 Pro，以及 xAI 的 Grok 4.20 等模型。
• 研究者认为，当 AI 能超过专家人类说服他人时，可能巩固已经强大的行动者的影响力；但如果高能力说服变得便宜且广泛可用，也可能帮助资源不足者，例如自我辩护者、公设辩护人、小型慈善机构和基层活动者。

1.4 真正的问题不再是 AI 能否说服，而是谁代表谁使用它

• Jack Clark 把这归结为一个社会选择：是否让市场分配这种能力。如果交给市场，广告和营销会变得更有效，可能制造负外部性；如果只交给政府，又可能把说服力集中到国家手中，尤其在威权政权中非常危险。
• 研究者的结论是，问题已经不再是 AI 能否超过人类说服者，而是这种能力将如何、在哪里、代表谁被行使。“不投票也是投票”：如果社会不主动制定规则，默认分配机制也会塑造权力格局。

2. 自我维持型 AI 取决于物理基础设施和人形机器人

Jack Clark 说，他今年大量写递归自我改进：AI 是否会聪明到能自主设计自己的后继者。但递归自我改进仍需要数据中心，而数据中心需要设备、电力和其他现实资源。Asterisk 对 Ajeya Cotra 和 Timothy B. Lee 的访谈把问题推进到“自我维持型 AI”。