《未来十年的人类繁荣，需要让制度追上 AI》
文章主张在发展更强 AI 的同时重塑治理、法律、教育和数据制度，适合思考技术能力与社会承载力之间的反向对齐。
精准输入
导语
我的笔记
✍️ 写下你的想法，自由记录即可。如果没有灵感，试着回答上方的费曼输出问题。
登录后可记笔记
登录后可保存笔记、高亮、划线和批注。
文章主张在发展更强 AI 的同时重塑治理、法律、教育和数据制度，适合思考技术能力与社会承载力之间的反向对齐。
精准输入
✍️ 写下你的想法，自由记录即可。如果没有灵感，试着回答上方的费曼输出问题。
登录后可保存笔记、高亮、划线和批注。
我们正在走向一个生产力没有繁荣、执行力没有验证、能力没有约束的世界。但这个结果并非不可避免。
上个月，美国政府命令 Anthropic 切断所有外国人（包括其自己的员工）对其两款功能最强大的游戏《神鬼寓言 5》和《神话 5》的访问权限。几个小时内，该公司就禁用了每位客户的系统。这一事件暴露了一个日益扩大的差距：这些系统的原始能力现在的发展速度远远快于为管理、吸收甚至理解它们而建立的机构。
这种差距已经成为构建该技术的人们的警惕之源。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 在 2026 年 6 月发表的文章《人工智能指数政策》中警告说，人工智能能力正在以指数级速度攀升，而我们的政策和社会机构却以惯常的速度前进，他将这种不匹配比作向树木寻求军事援助。同一周，该公司的研究部门人类研究所发布了有关模型的内部数据，这些模型已开始帮助建立自己的继任者，为有关递归自我改进的长期猜测提供了新的依据。
我们也有同样的担忧。但我们对解决这一问题的方式不对称感到震惊。这次对话非常雄心勃勃且具体地讨论了两项任务：构建更强大的系统并使这些系统与人类价值观保持一致。但关于让社会做好吸收这些系统的准备的讨论却很少。甚至像阿莫代这样的文章也将社会议程呈现为需要“重新想象”的领域列表，但没有审视重新想象需要什么。对于每一个超级智能的详细路线图，无非是对人力和机构基础设施的一种姿态，以确保安全和广泛共享其好处。
这种失衡表现在资本流动上。为了让人工智能系统更强大而花费的每一美元，只有一小部分用于将这些系统高效、安全地融入社会所需的机构、教育、组织和公民基础设施。人工智能协调领域正确地专注于确保系统追求与人类价值观兼容的目标，但协调是一个双面问题。即使是一个完美一致的系统，如果部署到没有准备好接受它的民主国家、经济体和法律体系，也将无法充分发挥其潜力或造成严重损害。
我们将这种被忽视的另一方称为“反向联盟”：雄心勃勃地创建和重新设计机构、规范、技能和治理框架，以便社会能够安全地利用人工智能并广泛分享其好处。所需适应的范围与伴随工业化、电气化和互联网兴起的制度变革相当，每一次变革都需要数十年的刻意投资，用于组织重新设计、劳动力发展、法律框架和新的公民参与模式。历史表明，此类投资并不是技术变革的可选补充；正如研究员卡洛塔·佩雷斯 (Carlota Perez) 在她 2002 年出版的《技术革命与金融资本》一书中指出的那样，它们是其成功的先决条件。
在这篇论文中，专业知识涵盖人工智能研究、社会科学、治理、工业、慈善事业和民间社会的个人联盟在人工智能的帮助下，就人类在未来十年蓬勃发展需要什么达成了共识。我们认为，未来几十年人类的繁荣取决于解决一系列“社会技术重大挑战”：对人工智能转型的人力和制度层面进行大规模、协调的投资。我们调查历史先例，确定优先领域并讨论如何跨部门组织工作。我们的目标不是要降低人们对人工智能所能做的事情的热情，而是要具体说明实现其承诺需要采取哪些措施。
能够扩大人类自由、丰富性和集体智慧的技术正在被部署到劳动力市场、公共机构和信息系统中，而这些在人工智能到来之前就已经摇摇欲坠。如果不加以解决，这种不匹配会产生三种可预见的故障模式。
生产力没有繁荣。正如经济学家埃里克·布林约尔松 (Erik Brynjolfsson)、丹尼尔·洛克 (Daniel Rock) 和查德·西弗森 (Chad Syverson) 在 2021 年的一篇文章中所阐述的那样，只有在对新流程、技能和组织重新设计进行大量补充投资后，通用技术才能创造广泛的价值。当这些补充滞后时，工作重组的速度就会快于人们重新培训、讨价还价或流动的速度，而且收益无法转化为安全、流动性或更广泛的参与。未经验证即执行。正如经济学家克里斯蒂安·卡塔利尼 (Christian Catalini)、向辉 (Xiang Hui) 和简·吴 (Jane Wu) 在最近的一份工作论文中指出的那样，一旦生成文本、图像和代码的成本下降，稀缺的输入就会成为验证输出、确定来源和确保问责制的人力带宽。决策变得更容易自动化，而不是证明其合理性，而没有问责制的算法系统会侵蚀神圣的价值观和社会结构。容量不受限制。人工智能可以让国家和大型组织变得更有能力，但作为人工智能领域有影响力的知识分子和政策领导者，Justin B.布洛克、塞缪尔·哈蒙德和塞布·克里尔在去年发表的《数字治理的艺术》一章中指出，同样的工具可以降低监控成本并集中自由裁量权，推动官僚机构走向集中控制，除非可竞争性、吸引力和公民自由保障措施同步推进。
这些都不是不可避免的。每一个都是制度忽视的结果，这就提出了一个问题：为什么一些社会在早期的动荡时期比其他社会适应得更成功。
“未来几十年人类的繁荣取决于解决一系列“社会技术重大挑战”：对人工智能转型的人力和制度层面进行大规模、协调的投资。”
为了考虑如何克服这种忽视，回顾一下以前对技术变革进行的成功制度调整是有帮助的，这些调整与我们今天面临的挑战类似。
19 世纪的快速工业化和城市化将经济权力集中在镀金时代的托拉斯和政治机器中。正如历史学家罗伯特·韦伯 (Robert Wiebe) 在其 1967 年的研究《寻找秩序》中指出的那样，农业共和国的制度架构无法阻止这些新的聚集。在进步时代，艾达·塔贝尔（Ida Tarbell）等揭发黑幕的记者揭露了企业的弊端，威斯康星大学等大学的学术社会科学家将研究与治理联系起来，简·亚当斯（Jane Addams）等定居点领导人在街道一级建设公民基础设施，西奥多·罗斯福（Theodore Roosevelt）和罗伯特·拉福莱特（Robert La Follette）等改革政治家将这些压力转化为法律。由此产生的创新，从参议员直接选举和反垄断执法到独立监管机构、工会、市政公用事业和专业公务员队伍，建立了治理工业资本主义所需的民主基础设施，并且至今仍然是其基础。
两次世界大战和紧密相连的20世纪初的大萧条表明，在相互关联的工业经济中，每个国家都试图通过关税和货币贬值来放大邻国的困境，以摆脱自己的工业和金融困境，这是大规模毁灭的秘诀。在布雷顿森林体系中，44 个国家建立了稳定全球经济并避免重蹈覆辙的框架。它们固定汇率、协调资本流动、发展援助，以及最重要的是，专门为此任务建立的新机构。国际货币基金组织、世界银行以及由此产生的关税与贸易总协定不仅稳定了货币，而且还稳定了货币。他们为战后繁荣提供了脚手架，法国人口学家 Jean Fourastié 将 1945 年至 1975 年称为“辉煌的 30 年”，这是历史上持续最快的经济增长。
苏联发射人造卫星后，德怀特·艾森豪威尔总统创建了国防部高级研究计划局 (ARPA)，以振兴美国科学。正如记者 M. Mitchell Waldrop 在其 2001 年出版的《梦想机器》一书中所记录的那样，这是该项目的一个项目，由心理学家出身的计算机科学家 J. C. R. 领导。Licklider 的目标是将公共、私营和民间部门的研究机构连接到一个有弹性的通信网络——阿帕网 (ARPANET)。同样具有变革性的是随之发展的治理文化。正如历史学家安德鲁·拉塞尔 (Andrew Russell) 在《开放标准和数字时代》（2014 年）中所描述的那样，征求意见流程于 1969 年非正式开始，后来通过互联网工程任务组制度化，表明跨机构边界的开放、协作标准制定可以大规模管理共享基础设施。技术突破与制度架构密不可分。
2000 年代初期，一半以上的印度人口没有银行账户，也无法获得政府服务，部分原因是缺乏共享基础设施来验证身份和转移资金。 India Stack 创建了一套分层的开放数字公共产品，包括 Aadhaar（超过 1.0 的生物识别身份）。30 亿人）、统一支付接口（允许即时、免费支付）、DigiLocker（允许数据可移植性和隐私）和 eSign，所有政府机构、银行或开发商都可以使用。
数亿以前没有银行账户的人获得了金融服务，政府转移支付可以直接到达接受者手中。然而 India Stack 也是一个警示故事。集中式生物识别身份是一种监视基础设施，其风险取决于管理国的民主健康状况，随着印度本国机构面临压力，这种担忧变得更加严重。Aadhaar 认证失败导致最弱势群体无法获得粮食配给、养老金和福利，对低种姓、部落和移民社区造成了不成比例的影响。以惊人速度实现金融包容性的同一体系也创造了新的排斥和控制载体，这提醒人们，技术架构和政治治理是密不可分的。
作为世界上数字化程度最高的社会之一，台湾在 2010 年代面临着中华人民共和国这个复杂的对手，比许多其他民主国家早几年经历了虚假信息攻击、两极分化和供应链威胁。 2014年，对与中国拟议的贸易协议的担忧引发了太阳花运动，抗议者和平占领立法院长达三周。公民黑客社区 g0v 使用后来被咨询平台 vTaiwan 使用的工具帮助化解了危机。其中之一，波尔。也就是说，绘制意见集群并提出“桥梁声明”，赢得不同群体的支持，将有争议的问题推向粗略的共识。随后，这些做法在 vTaiwan 联合创始人奥黛丽·唐 (Audrey Tang) 的领导下，在世界上最早的数字部委之一中制度化。一个相关项目 Cofacts 通过消息应用程序 LINE 上的众包验证，分配了响应整个民间社会信息攻击的责任。
在新冠疫情期间，同样的基础设施启用了口罩供应情况的实时在线地图，并采用“幽默胜于谣言”的方式来反驳错误信息，部长们在国家电视上而不是国家审查制度上讽刺自己的个人护理习惯。现在，同样的桥接逻辑在平台规模上运行：X 的社区注释于 2021 年采用，自被 Meta 和 TikTok 复制以来，在整个政治领域都受到信任，并且将其注释的帖子的转发量大约减少了一半。
上述先例表明，技术变革只有与制度想象力相匹配才能取得最大成功。人工智能转型将同时在每个领域测试这一原则。
对于社会来说，没有什么比身份验证系统更基础的了，它使我们能够识别他人，并让他们获得关系、社会服务、民主参与等。然而，生成式人工智能的定义特征也许是它复制人类特征和行为的能力。随着制作令人信服的虚假文件、生物识别和合成角色的成本接近于零，身份验证系统正面临着不断升级的信任危机。
因此，我们迫切需要加密工具，让个人能够证明自己是独一无二的真实人类，而无需透露自己是谁。我们可以将这些称为人格凭证。这些保护了隐私，同时恢复了人工智能破坏的真实演员和捏造演员之间的基本区别。新兴的技术标准使这变得越来越可行。W3C 已经标准化了去中心化标识符 (DID) 协议，该协议支持跨私人提供商的便携式个人数字钱包（如电话号码）。该系统已经支持了欧盟 eIDAS 2.0 框架及更高版本下的教育认证和医疗保健验证试点项目。
但仅靠人格是不够的：它只能提供全人类最低的共同权利。身份的大多数方面都是相关的，其基础是属于从地方到国家、从专业到公民的一系列社区。只有能够证明多样化社交关系的架构，例如 W3C 的可验证凭证 (VC) 标准，才能支持数字社区生活的繁荣。
与从生物学角度定义人类的生物识别技术不同，人工智能代理等数字系统也处于社会关系中，因此此类框架既可以在人工智能代理的世界中更充分地保护人类身份，又可以自然地扩展到为此类代理提供支持（例如代理商务）所需的身份验证。例如，某人可以通过系统中已经信任的两个朋友为其提供担保来获得对系统的访问权限，而不是通过指纹来识别。实现这一愿景需要在政府认证、金融洗钱监管机构、平台认证和数字基础设施等领域进行协调一致的改革，这些领域必须共同发展，朝着可互操作、隐私保护的标准发展，而这些标准是任何人都无法单独建立的。
身份的必要的另一面是隐私，因为如果我们所有的身份信息都是透明的，任何人都可以冒充我们或侵入我们的私人生活。人工智能让每个人都可以访问个人“福尔摩斯”，以最低的成本将分散的数字痕迹（浏览、位置、元数据、闭路电视）转化为详细的行为档案。脑机接口可能会进一步扩大这一范围。这些入侵使得目前在《欧洲通用数据保护条例》等法律中编码的传统透明度和匿名二元体系变得过时且行不通，因为几乎任何数字交互都会泄露一些信息。
现代密码学提供了更丰富的可能性，使人们能够有选择地透露自己身份的各个方面，而无需完全暴露或“单名”。例如，“零知识证明”允许某人使用政府身份证证明自己的年龄，而无需透露任何其他信息，有点像物理身份证上的部分遮光罩。安全的多方计算和联邦学习可以对任何一方都看不到的数据进行计算，从而允许协作式人工智能流程在不暴露私有输入的情况下产生共享输出。这些工具可以实现分布式协作流程，用于投票或疾病建模，而不会损害隐私。这些工具也不是理论上的：它们越来越多地支持一系列活动，包括社交媒体上的年龄验证系统、匿名加密货币交易和加密消息传递（如 Signal）。
利用这些更有效的方法的最大障碍是社会和法律。关于披露的非正式规范通常与这种部分结构相匹配，但在简单化的法律结构中很难得到反映，而这反过来又在很大程度上忽视或排除了密码解决方案。因此，在人工智能时代保持私人领域的表象需要社会、文化和法律的变革，而不仅仅是采用新工具。
深度造假通常在视觉上比真实内容更有说服力，而且价格也越来越便宜，可以无缝地融入真实事件的描述中，以改变公众舆论，说服人们将钱转给欺诈者，或削弱乌克兰等国家抵抗入侵的士气。确保我们了解任何内容的来源的明确解决方案对于维持共享现实至关重要。立法已经以各种形式规定了数字来源：欧盟的《人工智能法案》要求显着披露看似真实的人工智能生成的内容，加利福尼亚州的《人工智能透明度法案》要求对可以通过免费工具检测到的合成内容加水印，而中国的《深度合成规定》则要求任何模仿者明确签署同意。
“人工智能让每个人都能接触到个人的‘福尔摩斯’，以最低的成本将分散的数字痕迹（浏览、位置、元数据、闭路电视）转化为详细的行为档案。”
最近的一项行业标准工作，内容来源和真实性联盟，开发了一种内容凭证标准，该标准附加了记录内容创建和修改方式的加密签名元数据。与难以察觉的水印相结合，可以对内容的来源进行高可信度验证：人工智能或人类。VeriTrail 等工具将来源扩展到人工智能推理本身，将生成性声明追溯到源材料，以检测可能引入错误的位置。
然而，起源需要技术、法律框架和公众理解的同步进步。与隐私一样，法律标准与技术上可能的标准相冲突。缩小这一差距需要技术人员、监管机构和利益相关者在部署的同时迭代标准，而不是过早锁定任意要求。对出处的理解可能也需要从假设媒体照片、视频和录音是它们所捕捉到的内容的直接表现转变为旧的假设，即这些媒体就像绘画，它们的真实价值取决于我们是否信任那些保证其真实性的人。
今天的前沿模型从人类收集的数字记录中学习，这是人工智能公司几乎免费获得的语料库。对这些数据的争夺已经成为人工智能时代的核心经济争端之一，并且给双方带来了问题。人工智能公司面临着即将到来的稀缺。下一轮的训练将需要新鲜的、高质量的人工生成数据，而简单的供应已经耗尽。内容创作者面临两个糟糕的选择：他们可以接受适度的一次性许可协议或起诉版权侵权。两者都没有提供反映其工作实际贡献的薪酬。
对训练数据真实市场的标准反对意见是，大规模评估数据是不可能的，确定任何单个内容的价值的成本将消耗数据创造的大部分价值。这种反对意见经不起审查，因为人工智能公司已经生成了定价所需的两个数据集，并且每次训练模型时都会生成这些数据集。数据混合决策揭示了如何对不同来源的贡献进行加权，从而决定如何划分蛋糕。缩放定律揭示了有多少额外的数据可以改进模型，从而决定了蛋糕的大小。
剩下的就是分配，现有的机构可以提供解决方案的模板。集体管理组织，即在整个音乐行业中授权作品并支付版税的机构，展示了资金如何流向大量权利持有者，而无需单独谈判每笔交易。类似的结构可以利用公司已经收集的衡量标准，向创作者大规模发放补偿，并为双方提供持久的前进道路。
数据的价值跨越整个人工智能生命周期，而不仅仅是预训练。随着 Scale AI 等提供商的成功，模型引导和检索等后期阶段的市场已经出现，Scale AI 向世界各地的数据工作者支付费用，以帮助调整和改善模型的基础，并且每个阶段的健康市场都加强了其他阶段的市场。
过去几个月，代表用户处理任务的人工智能代理数量激增，尤其是在技术工作中。智能体之间的早期互动，包括在专门为机器人设计的社交平台上的互动，表明最大的潜力在于协作，智能体将其独特的知识和访问权限结合起来。但协作需要信任，而今天的代理被构建为无条件提供帮助，这使他们成为危险的天真合作伙伴，很容易被在线黑客欺骗，他们操纵模型泄露委托人的机密数据。
可用的合作系统需要遵循人类在社会中的领导：从小额交流开始，建立跟踪记录，根据个人经验和群体声誉评估可靠性，并随着时间的推移加深关系。至关重要的是，这些信任系统必须在人工智能模型提供商之间运行。如果没有共同的标准，代理商将只能在围墙花园内合作，让现有平台获得大部分价值。共享标准使可信介绍链能够以数字速度扩展——允许人们之间进行可信协作，否则他们需要依赖不太可信的纯粹金融交易。
“人工智能公司面临着即将到来的稀缺。下一轮的训练将需要新鲜的、高质量的人类生成的数据，而简单的供应已经耗尽。”
虽然这些信任网络可以使代理能够进行协作，但这种协作只有在促进共同的意义建构并促进共同行动时才会产生价值。然而，人们普遍认为，早期的算法媒体系统未能实现这一点，反而常常使叙事操纵、两极分化和误导性信息的传播工业化，而人工智能日益增强了这种动力。大多数平台设计都通过算法根据推断的群组成员资格提供广告和内容，同时向消费者掩盖提供任何给定内容的原因，从而使问题变得更加复杂。这使得参与者无法知道哪些社区看到并同意相同的材料，从而大规模地助长了多元化的无知。
然而，替代设计可以专注于发展社区凝聚力和集体自我理解，甚至将其货币化。标记为识别认为团结或分裂的社区的内容可以通过算法浮出水面，以便确定共同点，同时公平地代表真正的分歧。这扩展了台湾国家 vTaiwan 进程所证明的方法，目前正在日本政治“广泛倾听”运动中传播，利用人工智能帮助政治领导人更全面、更公平地处理民意。随着内容越来越多地通过人工智能界面创建和提供，这些设计成为对齐和交互模式。社区模型不是从普遍或个性化的角度来解决用户问题，而是从一个人所属的群体（例如会众、工会或市政当局）的角度提出问题，揭示这些社区同意的地方、分歧的地方以及原因。当商业模式发生转变，社区为一致性而非广告商付费时，平台的激励措施就会与他们所依赖的社会结构相一致。
至少自托克维尔时代以来，繁荣的社区结构一直是民主制度的基石。然而，为了让这些社区蓬勃发展，他们创造的真正权威必须通过重新设计哈佛大学教授丹妮尔·艾伦所说的“代表的脊柱”——参与、正式代表和执行——转化为对资源和权力的正式权威，以便与民主国家目前面临的挑战的速度和复杂性保持同步。
日本发展最快的政党 Team Mirai 通过始终在线的人工智能辅助审议来引导公民意见，将生活经验近乎实时地转化为具体的政策建议。公民仪表板绘制了意见图，为决策者提供高分辨率的公共信号，其中定期选举和民意调查提供了薄弱的代理，通过确定可行的共同点来帮助克服僵局。
然而，尽管立法具有巨大的价值，Code for America 和 United States Digital Response 联合创始人 Jennifer Pahlka 在 2023 年出版的颇具影响力的著作《Recoding America》强调，最关键的瓶颈在于行政执行。台湾的参与官员网络将训练有素的公务员作为各部委的永久参与代理人，在政策设计和实施的每个阶段维持公民与国家之间的沟通，为基层官僚创造敏捷性和能力，以在上级中获得支持，以克服帕尔卡的“僵化一连串”。通过重新构想官僚机构的运作方式，台湾能够扩大包括 vTaiwan 在内的一系列公民参与计划，从而使民主响应成为政府的一项常设职能，而不是偶尔的实验。
这种公共部门的重塑是人工智能如何实现并要求重新设计工作流程的众多例子之一，不仅是为了提高效率，而且是为了实现更丰富的协作。人工智能大幅提高生产力的真正瓶颈是组织转型，以处理大幅增加的创造力和能动性。
考虑医疗保健。人工智能可以推进治疗发现、优化供应链、综合个性化护理的临床证据，并准确、安全地处理管理工作流程。借助这种在后台运行的组织智能，专家护理团队可以围绕每位患者动态聚集，带来存在感、同情心和深度个性化的关注。相同的流程——发现、交付、信息流、专家匹配和一线互动——贯穿每个部门。
但实现这一点需要的不仅仅是将模型插入现有结构。组织必须围绕人工智能的可能性进行重新设计：消除层级瓶颈，以便员工能够参与一系列跨领域的“快闪团队”，从而使运营数据能够不断地为机构学习提供支持。定义集体绩效前沿的组织将是那些围绕人工智能的灵活性重新设计工作流程的组织——就像围绕微型电动机重新设计工厂一样——而不是简单地加快现有的单个工作流程——相当于用更便宜的电动发动机取代蒸汽发动机。
“组织必须围绕人工智能的可能性进行重新设计：消除层级瓶颈，以便员工能够参与一系列跨领域的“快速团队”，从而使运营数据能够持续为机构学习提供支持。”
虽然组织活力对于人工智能的民主未来至关重要，但确保集体判断能够战胜单方面行政突发奇想的法治也至关重要。人工智能即将打破这种平衡。它极大地降低了监视、调查、监管起草和执行的成本。这些能力不成比例地归于行政部门，因为行政部门已经指挥了行政国家的运作机制。与此同时，人工智能使任何人都可以更容易地提出表面上合理的法律文件，从而威胁到其合法性取决于仔细审议的法院。
人工智能消除的许多摩擦，例如立案所需的努力和同时调查的实际限制，已成为宪法秩序的关键要素，在国家权力扩大规模之前筛选出最无价值或报复性的行为。在没有反补贴制衡的情况下消除这些摩擦，会将权力从集体部门、立法机关和司法机关转移到单边行政部门。
恢复平衡需要在国家行动的另一方建立同等的基础设施：对人工智能辅助的政府决策进行永久性审计跟踪，以便立法机构和公众可以进行监督；在人工监督下，人工智能辅助案件筛选，帮助法院管理激增的案卷；以及公开的法律模型，让普通公民以相当的速度和成本对国家行动提出异议，以便行政机构不能仅仅通过加快行动来逃避法律意图。
最根本的是，立法机构必须重建自己的分析能力。他们必须利用人工智能的分析和建立共识的能力来克服1995年美国国会技术评估办公室资金被削减所造成的侵蚀，这样他们就可以为部署人工智能驱动的执法制定知情、民主的条款，而不是默认将这一设计拱手让给行政部门。
人工智能能够在不管理由此产生的海量材料的情况下扩展个人能力，其对组织的影响在科学中得到了最好的证明。现在，模型生成假设、运行模拟和起草手稿的速度使得传统的同行评审在功能上已经过时，将重要的突破埋藏在雪崩式的增量重组和彻底的草率之下。因此，就像阿帕网时代一样，科学实践的改革既是其他组织需要如何重新构想的宏观和缩影。
与其他地方一样，人工智能本身将成为解决方案的关键组成部分，能够大规模地从谷壳中分离出小麦。正如我们中的一个人在 2023 年与计算社会科学家贾姆希德·苏拉蒂 (Jamshid Sourati) 一起进行的一项研究中所表明的那样，有效地做到这一点需要利用这些系统对人类文化和关系动态的内部表征，这些是研究领域的基础。这自然会导致评估系统最终鼓励突破性的创新工作。
最明确的版本将使用此类指标以及二次和“深度”资助等机制来指导研究资助。 “去中心化科学”运动中正在出现有前景的实验，资助者通过追踪开源软件之间的依赖模式来分配资金。在元科学领域的推动下，这些努力有助于保持科学的相关性，因为论文和实验室让位于越来越多地支持人工智能驱动的创新的开源基础设施。如果这些新兴方法可以通过科学资助机构扩大规模，那么政府政策和人工智能的变化对科学的共同破坏提供了一个显着改善科学的机会。
作为最古老的研究机构，大学以研究服务教育为前提，这反过来又支撑了我们适应人工智能转型的能力。然而，人工智能同时在三个方面颠覆了这一基础：经济所重视的技能、如何教授这些技能以及如何认证这些技能的掌握程度。大学始终隐式地构建其最重要的能力（仔细阅读、观点采择、结构化论证），作为内容交付的副产品。人工智能让这种捆绑变得站不住脚。当学生在没有真正理解的情况下就能完成精美的作品时，教育工作者必须明确哪些能力很重要，并设计培养这些能力的学习方式，将人工智能用作思维的固定自行车，而不仅仅是 OpenAI 首席执行官 Sam Altman 比喻的“电动自行车”。
评估面临并行计算。评估必须通过禁止电子辅助来验证基本技能，并测试学生使用人工智能完成以前不可能完成的事情的能力。扩展两者本身就需要人工智能。
教学证书也早该重新设计。标准认证是僵化的，在学习科学方面的基础薄弱，并且将非典型边缘化。这些结构之所以持续存在，是因为个性化路径和异构凭证的解释成本太高，而人工智能则大大放松了这一限制。重新设计证书以反映人们的知识需要教育工作者、研究人员、技术专家、政策制定者和雇主之间的协调。但如果连接劳动力市场的转型基础设施跟不上步伐，即使设计良好的证书也收效甚微。
“当学生在没有真正理解的情况下就能完成精美的作品时，教育工作者必须明确哪些能力很重要，并设计能够发展这些能力的学习。”
最后的差距在于凭证所证明的内容和工人可以用它们做什么。即使在上述最乐观的情况下，数据贡献得到奖励，工作人员被赋予代理权，证书被分解，人工智能也将专业知识分解为离散的任务。因此，它破坏了工业时代劳动力发展体系的稳定性，该体系是为严格的职位描述和静态资格而建立的，需要多年遵循特定的职业道路。
失业保险系统、劳动力委员会和社区大学等遗留基础设施在很大程度上仍然对前沿模型现在通过实时交互揭示的细粒度使用模式和潜在能力视而不见。模型开发人员拥有关于人类工作实际上如何被重塑的高分辨率信号，但国家及其关键合作伙伴缺乏数据共享框架和分析能力，无法将这些信号转化为响应式培训或便携式证书。这种信息不对称意味着工作重组的速度快于人们重新培训、讨价还价或通过支持的过渡的速度。
为了确保日常认知劳动的减少带来广泛繁荣而不是停滞不前的流离失所，我们需要重新设计过渡系统。这意味着要克服现有国家失业保险和劳动力机构的制度惯性，这些机构是为单个雇主大规模裁员而建立的，没有能力处理人工智能产生的分散、持续的任务重新分配。
这种重新设计的核心是21世纪劳动力流动性的支柱：可互操作、基于标准的数字证书，其设计不仅考虑到粒度和灵活性，而且可以跨州移植，劳动力委员会可读，雇主可解释，无需缩写学位名称。将人工智能辅助的任务映射和审议工具相结合，将使当地教育机构能够近乎实时地将继续教育与职业任务不断变化的性质相结合，从而在经济需求和转型系统能够提供的服务之间建立闭环。
没有任何一个部门能够单独应对这样的巨大挑战。我们之前调查的每一个历史先例都是通过将任何一个演员都不具备的能力编织在一起而取得成功的。每个都需要一个足够的联盟，一个核心联盟，以便尽早展示价值并在成果实现时吸引其他人加入。
历史上充满了充满希望却失败的社会技术愿景。就在十多年前，多部门联盟围绕“智慧城市”聚集了政策制定者、技术专家和城市规划者，通过综合数字基础设施优化城市生活；大多数都难以交付。当来自不同领域的专家汇聚一堂解决一个新的挑战时，他们经常发现他们在试图解决的问题上存在分歧，在什么算作证据、谁的专业知识重要以及什么是成功方面存在冲突。当这些专家致力于传播他们的愿景时，这可能会进一步阻碍学习或适应。应对重大挑战需要真正的反省，以及在社区内部和跨社区之间建立理解的乏味工作，以制定具有可扩展影响力的解决方案。
有一些机制可以帮助不同利益的参与者保持一致，比如跨部门借调：在政府中嵌入技术专家，在研究实验室中嵌入公务员，在平台公司中嵌入公共利益倡导者。美国已经在某种程度上做到了这一点。《政府间人事法》几十年来一直在政府和研究机构之间轮换专家，最近又在英国人工智能安全研究所轮换专家。预先市场承诺（资助者保证对尚不存在的产品的需求）对于曲速行动 Covid-19 疫苗的生产具有变革性，同样可以降低构建社会技术基础设施（例如可互操作的凭证或隐私保护计算）的风险。反向对齐不是一个单一的项目，而是一个互补的投资组合。历史表明，具有约束力的约束很少是缺乏好的想法，而是缺乏制度安排，让不同的参与者做出他们能做的贡献，以及愿意在结果复合之前长期维持这些安排的耐心资本。
这些重大挑战在技术上有前景可观的解决方案，但正如我们所看到的，当联盟无法克服分歧时，有希望的愿景就会失败。补救措施植根于撰写本文的多元合作中，并且必须指导其追求：弥合分裂的社区，将信任建立在多元化关系网络而不是集中权威的基础上，并在不压制真正分歧的情况下展现共同立场。我们倡导的制度架构与其所编码的价值观并不分离；它们是这些价值观的表达。
如果没有这些措施，我们的默认道路就是走向一个没有繁荣的生产力、没有验证的执行力和没有约束的能力的世界。这个结果并非不可避免。致力于协作和学习的跨学科联盟可以改变接下来发生的事情。现在是时候像我们的算法一样雄心勃勃地建设我们的社会系统了。
全文先用“生产力没有繁荣、执行没有验证、能力没有约束”概括 AI 与制度适应速度错配的三种后果；继而回看进步时代、布雷顿森林体系、阿帕网、India Stack 和台湾数字民主，说明技术转型只有与制度想象力同步才会产生广泛价值；主体依次讨论身份与隐私、内容来源、训练数据市场、智能体信任、社区审议、组织重构、法治、科学、教育和劳动力转型；最后主张用人员互派、预先市场承诺、耐心资本和多元联盟，把分散的技术方案变成可持续的社会基础设施。
费曼输出