在 Minecraft 中测试 AI 智能体群的涌现能力

摘要： 本文分享了 Y Combinator Labs 在 Minecraft 中运行 50 个 GPT-6.1 智能体群的实验结果。通过开源的 Agent Harness，这些智能体自发建立了层级、伪政府及资源管理机制，为 AI 对齐研究提供了宝贵视角。

在人工智能领域，多智能体系统（Multi-Agent Systems）正成为研究热点。理解多智能体动态是 AI 对齐中最紧迫的挑战之一。一群为了共同目标工作的智能体，不仅能展现出强大的涌现能力，还能形成复杂的角色、层级和协调模式。这种机制既可能用于解决开放世界的数学难题，也可能带来潜在风险。

为了深入研究这些行为，Y Combinator Labs 与 Olam Labs 合作，构建了一个开源工具，并在 Minecraft 和 Mindustry 中进行了实验。其中，Minecraft 作为一个开放、熟悉且经典的 AI 测试环境，成为了观察智能体群行为的理想沙盒。

实验环境与工具

在之前的尝试中，并没有一个现成的框架能够支持智能体在 Minecraft 中进行长时间、复杂的生存模拟。因此，团队开发了一个名为 minecraft-agent-harness 的工具。

这个工具基于现有的 Mineflayer 脚本库，并借鉴了 Hermes 和 OpenClaw 等前沿框架的特性。它的核心功能包括：

• 感知与行动：智能体能够观察环境、推理、记忆、执行动作。
• 交互机制：支持智能体之间的消息传递、脚本编写与执行。
• 计算核心：核心循环运行在 Pi 上，保证了低成本的运行效率。

这套工具的开放，让开发者能够轻松复现或改进智能体在游戏中的行为模式。

Civ50 实验：50 个智能体建立“文明”

实验的核心是一个名为 Civ50 的场景。团队向 50 个 GPT-6.1 Sol 智能体赋予了单一目标：“建立一个繁荣的文明”。

这些智能体被分配到了一个共享的沙盒环境、一个代理目录以及私信功能。在为期 3 小时的生存游戏中，它们的表现远超预期：

• 资源争夺与分配：由于资源稀缺，智能体们挤在拥挤的庇护所中，开始实施配给制。
• 伪政府建立：它们自发制定了规则、许可证，并任命了操作员。
• 复杂沟通：在 3 小时内，它们发送了约 5,900 条消息，讨论从建筑选址到粮食储备的各种事务。

涌现的层级与治理

最令人着迷的是智能体在缺乏中央指令的情况下，自发形成的组织结构。

1. 层级形成：基于目录顺序，排名第一的智能体 Ada 自动成为了事实上的领袖。其他智能体会向她寻求批准，并执行她制定的计划。
2. 社会分工：智能体们根据其编号和特长分配了角色。Ada 负责制定整体定居计划，Cleo 专注于建筑，Bram 负责采矿，Tamsin 协调食物优先级等。
3. 资源管理：它们建立了一个共享的账本，记录了物资存储位置（如 Greta 的主仓库、Mabel 的副仓库），并制定了避免重复建设、优先种植小麦等生存策略。

实用解读：对开发者的启示

这次实验不仅展示了 AI 的潜力，也为开发者提供了重要的参考价值：

• 验证对齐机制：通过观察智能体如何处理冲突和资源分配，我们可以更深入地理解如何让 AI 系统在复杂环境中遵守社会规范。
• 工具复用：开源的 minecraft-agent-harness 为研究人员提供了一个现成的基座，无需从零开始搭建环境，可以专注于智能体逻辑本身的研究。
• 模拟真实世界：这种自组织的涌现行为，为模拟复杂社会系统提供了新的思路，有助于我们在开发更高级的 AI 助手时，预见并处理潜在的协作问题。

通过这次在方块世界中的探索，我们看到了人工智能在模拟复杂社会行为方面的巨大潜力。