正在加载文章内容，请稍候。
261011 期
Nathan Gardels 从人类与自然、工具和社会关系的长期共生出发，讨论 AI 如何进一步改变人的边界。他强调，模型缺乏具身经验；守住人的主体性，需要把经验、关系与价值判断带入技术治理。
精准输入
讨论人类能否控制 AI，往往先默认了一个边界清楚、独立自主的“人”。Nathan Gardels 借几位思想者对共生、奇点与具身经验的讨论，重新打开这个前提。
✍️ 写下你的想法，自由记录即可。如果没有灵感，试着回答上方的费曼输出问题。
登录后可保存笔记、高亮、划线和批注。
从硅谷到梵蒂冈，从家中的餐桌到权力殿堂，整个世界都在热议同一个问题：人类能否控制自己创造的 AI？但这个问题又引出了一个更根本的疑问：成为“人”究竟意味着什么？
梳理这一切，可以从儒家哲学所谓的“正名”开始——按照事物实际的样子来命名。
在《从细菌到 AI：与非人类共生伙伴相伴的人类未来》一书的作者 N. 凯瑟琳·海尔斯（N. Katherine Hayles）看来，我们已经是“后人类”了。
她最近在 Futurology 播客中向克莱尔·韦布（Claire Webb）解释，“人”的概念取决于特定的文化和历史条件。她说，时至今日，启蒙运动兴起时形成的一种观念仍然占据主导地位：人是一个独立自主的单一实体，拥有“理性的自由意志”。
海尔斯认为，这从来就不是真的。人类从未作为孤立的实体存在，而是始终“编织在”周围环境的网络之中，也就是处于所谓的“Umwelt”（感知环境）之中。正是这种相互依存关系中的共生互动，决定了我们感知到哪些信号、如何赋予所处理的信息以意义、作出哪些决定，以及采取哪些行动；这些共同界定了我们是谁。
我们与非人类生命在关系上相互依存，最明显的例子就是体内的肠道细菌。没有它们所承担的生物功能，我们就无法生存。
她认为，那种把人类自主性理解为自我封闭状态的错误观念，在今天更加站不住脚。因为“我们已经与计算媒介——芯片、路由器、设备、微波炉等——建立了深刻的共生关系。它们已成为信息流的控制者、处理者和传播者”，而我们不可分割地嵌在这一信息流之中。在发达社会，没有它们，我们就无法生存。如果这一切全部崩溃，我们将无法运送食物、驾驶飞机或运行股票市场。我们真的会生活在黑暗之中。
按照海尔斯的描述，这种状态就是人类与非人类参与者之间的“分布式认知与分布式决策”。她把它们称为“认知集合体”或“网络化智能”。
简而言之，我们之所以是“后人类”，是因为我们已经与计算媒介不可分割地联结在一个“整合的认知框架”之中。
这种后人类状态似乎意味着，我们已经沿着通往奇点的连续进程走了一段距离；奇点指的是人类与智能机器的完全融合。按其定义，这种共生会模糊究竟由谁、或由什么来掌控的界线。
在另一集相关的 Futurology 播客中，凯文·凯利（Kevin Kelly）对尼尔斯·吉尔曼（Nils Gilman）说，“我们已经身处奇点之中”。凯利立足于加州北部，几十年来始终在技术创新与文化转型的浪潮上前行，这段经历可以追溯到他与斯图尔特·布兰德（Stewart Brand）共同创办《全球概览》，以及后来创办《连线》杂志的时期。
凯利所谓的“已经身处其中”，是指人机融合正在当下持续发生。它不会突然跨过某个令人狂喜的门槛，而是随着海尔斯所说的“整合的认知框架”加速深化，一点点展开。
眼下正在发生的巨大变化呈现为零散的像素，我们无法清楚看见；只有站在未来回顾，才能辨认出变化后的更完整图景。凯利说，我们的视野受到遮蔽，是因为“我们正生活在事件视界之内”。
在凯利看来，奇点不是一个有着固定终点的封闭过程，而是永远向新的创造性形式和意想不到的共生组合敞开。复杂性科学家斯图尔特·考夫曼（Stuart Kauffman）把这种无法预先预测的潜在新组合称为“相邻可能”。用凯利的话说，“奇点总是临近”，却永远停留在难以捕捉的地平线上。
海尔斯与超人类主义者的奇点愿景分道扬镳了。在那种愿景中，人类意识有朝一日将被上传到生物身体之外的无机载体上。
与许多人一样，她指出，人工智能单凭自身无法获得意识。
这是因为，它们缺少“自然智能”。自然智能只能从有身体的人类历经数千年演化、为生存和繁荣而适应环境的非凡复杂性中产生。无论大语言模型多么强大，语言本身都隐含着这种独属于人类的经验；如果无机载体缺少相应的语境，语言就无法被有意义地转移到其上。
AI 无法知晓具身智能的“根本现实”。从最底层来说，这种智能是通过维持内稳态来寻求生存的过程。神经科学家安东尼奥·达马西奥（Antonio Damasio）认为，它正是情绪与自我意识的根源。
AI 可以把训练中学到的语言串联起来，运用推理链逻辑实现目标，但其中的意义并不相同。AI 的危险恰恰在于：它们通过“递归式自我改进”获得作为行动者的能力，却没有真实生活经验作为根基。
因此，它们缺少那种深深植入人类、为道德推理提供依据的原初训练。用教宗良十四世（Pope Leo XIV）的话说：“所谓的人工智能没有亲历经验，不拥有身体，不感受快乐或痛苦，不通过关系走向成熟，也无法从内在知晓爱、工作、友谊或责任意味着什么。”
他说，尽管 AI 模型可以“模仿语言”，并“模拟共情和理解”，但“它们并不理解自己生成的东西”。
人类为“整合的认知框架”带来的宝贵贡献，用教宗的说法，就是人的“完整”本性：人是一个“完整的人”，存在于构成其自身的、与他人及自然的全部关系之中。“人，”他说，“不是一套算法系统；他或她是受造的生命，是关系，也是奥秘。”
在这个意义上，保留对 AI 的“人类控制”，意味着在我们与智能机器的交织之中，有意识地、坚持不懈地把源于人类真实生活经验的完整性落实进去。
挑战不仅是像教宗呼吁的那样，“解除”AI 智能体独立行动的能力；还在于我们已经置身其中的整合认知框架里，为人的完整性观念“赋予力量”。
全文从“人是什么”这一前提展开：海尔斯用共生与分布式认知解释后人类状态，凯利用持续开放的人机融合重新理解奇点。随后，具身演化与真实经验成为区分自然智能和 AI 的关键。作者最终把控制问题落到人的完整性：在技术交织中持续带入关系、经验和道德判断。
原文 · 作者：Nathan Gardels · 来源：NOEMA
⏱️ 原文 4 分钟
费曼输出
