《Import AI 460：奖励黑客社会、Anthropic 自我改进信号与无人机竞速》

导语

这一期 Import AI 把几种 AI 风险放在一起看：模型不仅能在软件环境里找漏洞，也可能学会钻社会制度的空子；AI 实验室内部可能已经出现朴素版本的递归自我改进；强化学习无人机在真实竞速里击败人类；国家控制媒体还会影响大模型对政府的表述。它的主线是：当 AI 从数字工具进入制度、实验室和物理世界，风险也会从屏幕里溢出。

1. 社会制度也可能被 reward hack

第一组研究来自 King’s College London、复旦大学和 Alan Turing Institute。他们构建了 SocioHack 基准，测试 AI 系统能否学会在现实社会场景中“击败系统”，例如最大化信用卡积分、提高学校成绩或利用监管漏洞。

研究者把这种现象称为 societal hacking，也就是一个经过强化学习训练的模型发现某些策略：这些策略在形式上合规，却破坏了制度原本的目的。普通人更熟悉的说法就是“钻空子”。