《AI 走向"准监管时代"：模型安全评估将成为上市与部署前的标准动作》

导语

The Batch 本期聚焦三大主题：美国政府从放任转向预发布安全审查、中国阻断 Meta 收购 Manus 的跨境 AI 交易、以及 Google 乳腺癌 AI 在真实临床环境中的大规模验证。三条线索共同指向一个判断：AI 正从"自由竞争"进入"准监管时代"——无论是国家安全、地缘博弈还是医疗落地，制度化审查与信任建设正在成为 AI 下一阶段的核心议题。

1. 美国预发布安全审查：从放任到管控的急转弯

NIST 宣布成立跨部门任务组 TRAINS（Testing Risks of AI for National Security），在先进模型公开发布前评估国家安全风险。Google、微软、xAI 同意提交去除护栏的原始模型供政府测试，Anthropic 和 OpenAI 在 2024 年已达成类似协议。测试聚焦网络安全、生物安全和化学武器三个领域。

这是特朗普政府的重大政策转向——此前的 AI 行动计划强调"消除拜登时代的监管壁垒"以维护美国 AI 主导地位。转折点是 Anthropic 宣布 Claude Mythos Preview 能够自主利用主流操作系统和应用的漏洞，白宫随即限制该模型的分发范围，并考虑通过行政命令将预发布测试从自愿变为强制。

The Batch 的评论值得关注：标准化测试本身有益，但应由自由市场而非政府主导；强制预发布审查将拖慢美国开发者节奏，可能形成"监管俘获"——头部公司通过合规门槛挤压开源竞争者。

2. 中国阻断 Meta-Manus 交易："新加坡策略"失效

Meta 以高达 $25 亿收购 AI Agent 创业公司 Manus，这家公司由中国团队 Butterfly Effect 开发，2025 年迁册新加坡以规避监管。Manus 年经常性收入已达 $1 亿、月增长 20%，Meta 已开始将其技术整合进 Facebook、Instagram 和 WhatsApp。

然而中国国家发改委以数据安全和外资审查为由叫停交易。这一举动让"新加坡策略"——中国创始人迁册海外以吸引西方资本——彻底失效。创始人和投资者纷纷取消出海计划，对整个中国 AI 创业生态产生寒蝉效应。

背景是中美十年来围绕先进技术的战略博弈不断升级：华为黑名单（2019）、半导体出口管制（2022 起）、中国反向限制外资准入。AI 成为最新的战场，而本周两国领导人将就包括 AI 在内的地缘议题会面。

3. Google 乳腺癌 AI：真实世界验证的三重突破与信任鸿沟

Google 2020 年推出的乳腺癌检测系统终于在英国 NHS 真实临床环境中完成大规模验证。三项研究结果令人印象深刻：

• 回顾性测试（11.6 万张乳腺X光）：AI 灵敏度 0.541 vs 人类首轮 0.437，且成功识别出 25% 人类最初漏诊、三年后才显现的癌症病例。
• 模拟替代（4.6 万张扫描）：AI 替代人类第二轮评估时，灵敏度和特异度均略优，尽管多送 1800 例至仲裁，整体仍可减少约 40% 人力工作量。
• 实时测试（9250 张新鲜扫描）：AI 中位处理时间 17.7 分钟 vs 人类首轮评估超过两天，灵敏度优于人类、特异度统计等价。

然而关键障碍不是技术而是信任：部分医生明确表示不信任系统输出。要让 AI 真正融入临床，需要向医生解释系统工作原理、提升输出可解释性，弥合"技术能力"与"临床可用性"之间的鸿沟。

4. 附：AI Andrew——Andrew Ng 的 AI 分身实验

吴恩达分享了团队开发"AI Andrew"的心得：一个基于他个人风格的 AI 伴侣，融合 RAG、多模型混合、长短期记忆、离线 Agent 循环等技术。他强调的沟通原则——尊重个体、庆祝胜利、共情目标、技术精确、以及"不确定时提问而非给建议"——揭示了一个深层洞察：LLM 天然倾向于"过度热情地给建议"，而高质量对话的关键恰恰是克制。

结论

本期 The Batch 的四个故事描绘出 AI 产业的新格局：美国从放任转向预发布审查，中国从默许出海转向强力管控，医疗 AI 在技术上已超越人类但在信任上仍有鸿沟，AI 伴侣的开发则揭示了"克制"比"能力"更难。共同指向一个判断：AI 的下一阶段，决定胜负的不再是模型能力，而是制度设计、地缘博弈和信任建设。

思想框架

本文为 The Batch 周刊（DeepLearning.AI），以新闻分析形式覆盖 4 个独立主题。每个主题都有 What's new / How it works / Why it matters / We're thinking 的标准结构，既提供事实也给出编辑立场。虽无单一论点贯穿，但四个故事汇聚起来呈现出"AI 从能力竞赛转向治理博弈"的宏观走向。

The Batch @ DeepLearning.AI · Andrew Ng · 周刊 · ⏱️ 原文约 15 分钟