通往人工超级智能：先让多个 AI 代理共享目标与推理

正文

下一代多智能体系统需要一个水平架构，使它们能够共享意图、上下文和推理，从而能够解决单个智能体无法接受训练的大规模问题。

与 Cisco Outshift 合作

想象一下由多个人工智能代理组成的医疗保健系统：一个负责管理症状评估，另一个负责调度，第三个保险和第四个药房。

每个人都是其领域的专家。但他们都有自己独特的知识和目标。如今，他们可以交换数据，但如果没有人做出决定，他们还无法真正协调患者护理。

“情报已经存在。所缺少的是将四个陌生人变成一个团队的结缔组织，”思科 Outshift 高级副总裁兼总经理 Vijoy Pandey 解释道。

这种“结缔组织”来自于添加一个语义层，Outshift 称之为“认知互联网”，它使跨领域的代理能够协同工作，更重要的是，通过共享意图、上下文和推理来共同“思考”。

这一语义层依赖于其下方的一个称为“代理互联网”的连接层，该连接层允许自主代理相互发现、证明身份并跨域交换消息。

潘迪说，当一起使用时，它们可以“迈向分布式人工智能超级智能的下一步”。

从单独的硅专家到“认知互联网”

多年来，人工智能行业一直专注于增长。垂直扩展带来了更大的模型，通过更多的计算来训练更多的数据。这就产生了推理能力，就像人工智能代理的“大脑”一样，可以在数字环境中感知、推理和行动。

潘迪说，虽然垂直扩展可以永远产生更有能力的代理，但为了能够跨不同系统、公司和平台解决代理问题，下一个扩展轴必须是水平的。

多智能体系统已经在软件工程、药物发现和科学模拟等领域进行了探索，但迄今为止它们的表现并不令人印象深刻。一项研究发现，在评估七个开源多代理系统时，失败率在 41% 到 87% 左右。

“互联代理能够很好地处理协调行动；执行他们已经看到、划分和传递的任务，”潘迪解释道。 “他们不能做的是拥有一个共同的目标，并针对他们没有受过训练来解决的问题进行推理。”

潘迪补充道：“这种差距是结构性的，而不是一个紧迫的问题。” “如果没有正确的协调层，简单的多智能体设置可能会比单个智能体表现更差。最大的变化是智能体团队自行聚合，解决一个新问题，而无需人工缝合接缝。”

Pandey 表示，为了实现这一目标，Outshift 构建了一个名为 AGNTCY 的连接层，这是一个现在隶属于 Linux 基金会的开源项目。 AGNTCY 允许跨不同系统、公司和平台的代理通过开放、标准化的协议找到彼此、证明身份并交换消息。

而且，正如潘迪所解释的那样，这使得认知互联网论文更进一步。它创建了一个语义层，允许代理调整目标（共享意图），汇集机构知识和复合记忆（共享上下文），并进行集体权衡（共享推理）。

潘迪将这种进步比作人类的进步：“数十万年来，人类个体变得更加聪明，而每一个创造它们的人都失去了进步，”他解释道。 “大约 7 万年前，情况发生了变化，当时人类学会了分享意图、积累知识并集体推理。就在那时，分散的个体成为了文明。

“智能体处于同样的门槛。我们培养了硅天才，并赋予他们代理权。他们缺乏的是让人类走向集体的层面，”他说。

分布式超级智能的第一步

使代理能够集体工作取决于技术堆栈中的三个支柱：

通过认知状态协议共享意图：认知状态协议是语义握手，允许代理在行动之前就目标达成一致，然后进行协商。 Outshift 创建了一个名为 Mycelium 的开源协调层，组织可以克隆该协调层并将其用于自己的代理。

“我们发现，在 14 种情况下，非结构化团队大约有三分之一的时间做出了决定，”潘迪在谈到内部测试时说道。 “协调协议让特工们在行动之前声明目标、揭露缺失的信息并解决冲突，将这一比例提高到了 93%。”

通过认知结构共享上下文：认知结构是共享的机构记忆和通信网格，允许代理洞察力随着时间的推移而复合，而不是重置每个会话。潘迪说，这个受策略控制的上下文层通过确保系统的基线智能永远上升，解决了“组织失忆症”的问题。

通过认知放大器和护栏技术进行共享推理：两种认知引擎可以一起使用以实现共享推理。认知放大器加速共享推理和建模，护栏技术 (GAT) 创建安全、成本和合规框架。人类是这一层的积极贡献者，做出判断并调用系统路由给他们（而不是事后检查输出）。

多代理系统中的认知共享可能会带来新的风险，包括意外委托、恶意提示注入或内存中毒，或者权限过高的代理可以访问远远超出其任务所需的权限和数据。因此，需要针对特定环境的控制措施来防止意外行为或后果。

“代理具有类似人类的属性，但以机器的速度和规模运行，”潘迪说。 “我们二十年来构建的一切——访问控制、身份、合规性——都是为人类或机器而构建的，而不是两者兼而有之。”

连续代理语义授权 (CASA) 是 Outshift 开发的开源参考实现，是一种 GAT，旨在通过持续授权过程确保代理操作与用户的原始目标保持安全一致。它通过读取代理试图完成的任务，然后根据该任务检查每个工具请求来实现此目的。

例如，在医疗保健系统中，被告知总结患者记录的代理可能会从查询整个数据库开始。这可能会导致 CASA 拒绝调用，因为请求不再与其授权的任务匹配。

“如今的控制范围仅限于角色或会话，而不是任务，因此获得工具的代理可以将其用于任何用途，”Pandey 解释道。 “大约 90% 的情况下，代理人无法确认自己是否可以胜任所交给的工作。”

跨领域创新实验

潘迪建议，在横向扩展企业中的智能时，企业应该首先尝试一种跨职能工作流程，该工作流程跨越三到四个团队，目前需要一名人员来授权交接。

“将其作为一个小型多代理系统建立在开放、可互操作的基础设施上，并具有可测量的基线，”他说。 “继续构建更大的模型，在其顶部添加水平轴，并更改您的测量内容。跟踪一个代理的洞察力使另一个代理变得更好 - 这是水平轴正在发挥作用的信号。”

通过现在开始尝试意图、上下文和推理层，组织可以领先一步。 “问题是开放的，基础设施仍在编写中，”潘迪说。 “现在是建造它的时刻。”

有关认知互联网的更多信息，请访问 Outshift.com。

此内容由《麻省理工科技评论》的定制内容部门 Insights 制作。它不是由《麻省理工科技评论》的编辑人员撰写的。它是由人类作家、编辑、分析师和插画家研究、设计和编写的。这包括撰写调查和收集调查数据。可能已使用的人工智能工具仅限于通过了彻底的人工审查的二次生产流程。

思想框架

读完正文后，可以回看文章如何从问题进入、如何通过事实和例子推进、最后把判断落在哪里。