《AI 监管的关键不是"定规则",而是提前投资可选性》
政府应对 AI 风险的关键不是急于制定规则,而是提前投资"激进可选性"——先建好信息收集与评估基础设施,让未来拥有更多可行的政策选择。
🧠 agentic reading|1️⃣ 精准输入
导语
Import AI 第 456 期覆盖四个主题:AI 监管的「激进可选性」策略、Schmidhuber 团队提出的「神经计算机」概念、递归自我改进(RSI)如何引爆经济增长,以及 Google 的分布式训练新框架 Decoupled DiLoCo。每个方向都在用不同路径回答同一个问题——当 AI 能力快速跃迁时,制度、硬件和经济结构该怎么跟上。
1. 激进可选性:AI 监管的第三条路
法律与 AI 研究所的研究者提出了一种不同于「管」或「不管」的策略:激进可选性(radical optionality)。核心思路是——政府现在就投资建设未来可能需要的治理工具,而不是急着制定可能很快过时的规则。在巨大的不确定性下,花大钱保留行动能力是值得的。
具体建议涵盖七个方向:1)透明度与报告要求,让企业公开 AI 系统信息,并建立第三方审计;2)吹哨人保护,确保前沿实验室员工能安全举报风险;3)政府间信息共享,特别是围绕敏感的 AI 进展和关键供应链;4)灵活规则与弹性定义,采用「if-then」条件式监管承诺,避免过早锁死;5)能力评估与安全评估,发展政府和第三方的 AI 评测能力;6)模型权重与算法秘密的安全保护,通过自愿标准提升物理和网络安全;7)人才招聘,加大对 AISI(英国)和 CAISI(美国)等机构的资金投入。
作者也回应了几个反对意见:这些工具是否会鼓励政府过度干预?答案是它们本身不是「重型权力」,滥用空间有限。是否牺牲民主合法性?确实可能需要在灵活性和公众参与之间取舍。是否导致权力集中?作者承认风险存在,因此特意不建议大幅扩展《国防生产法》等紧急权力。
我的笔记
✍️ 写下你的想法,自由记录即可。如果没有灵感,试着回答上方的费曼输出问题。
登录后可记笔记
登录后可保存笔记、高亮、划线和批注。