《Import AI #457：从"AI版Stuxnet"到优化器失活，系统性风险正在逼近》

导语

Import AI 第 457 期覆盖四个独立话题，但共同指向 AI 系统性风险的多个维度：一个潜伏 20 多年的精密计算病毒揭示了“AI 版 Stuxnet”的可能性；Muon 优化器被发现会杀死大量神经元；学术界提出“正向对齐”框架试图超越纯安全导向；而自主 AI 研究代理已能在工程优化任务中超越人类基线。

1. fast16：篡改计算过程的隐形武器

SentinelOne 的研究人员拆解了一个名为 fast16.sys 的计算机病毒，发现它的攻击方式极为罕见——不是劫持执行流程，而是篡改浮点运算单元的精度计算，让目标软件产出看似正常但实际偏差的结果。匹配分析显示，它瞄准的是 LS-DYNA 970、PKPM 和 MOHID 等高精度工程仿真套件，涵盖碰撞测试、结构分析和环境建模。

LS-DYNA 尤其值得关注：它曾被引用于伊朗涉嫌违反 JCPOA 第 T 条的调查中，与核武器开发相关的计算机建模研究有直接关联。通过向物理计算引入微小但系统性的误差，这类攻击可以在不被察觉的情况下削弱科研项目、逐步降解工程系统，甚至造成灾难性损害。这种攻击模式与《三体》中智子干扰高能物理实验的情节如出一辙。更深层的启示是：一个超级智能可能会像核大国看待核不扩散一样看待“AI 不扩散”——用类似手段阻止其他智能体的诞生