为什么我仍未相信真正的递归自我改进
1来源：Interconnects
数千个 Agent 正在改变前哨实验室的工作方式
2026 年的 AI 行业有一个显著现象：OpenAI 和 Anthropic 等前哨实验室已经在使用数千个并发 Agent 来改进自身流程和产出。这些组织内部的大量员工正在快速更新对 AI 发展节奏和风险认知的预期。
这种变化带来的直接感受是：当数千个 Agent 持续在你的业务中高效运转时，关于 AI 风险的焦虑会被显著放大。从日常使用到对灭绝风险的担忧，这个心理跳跃在某些语境下显得近乎宗教化。
安全社区的"智能爆炸"叙事
Richard Ngo 对此给出了一个精准总结：现在 AI 安全社区中相当大比例的人正在（无论明示还是暗示）转向"未来几年内将发生智能爆炸"的预期。
他的判断是：这些预测在方向上可能是对的，但在事实上会是错的。具体来说，未来 8 年内不太可能出现超级智能，但发展速度会快到让人觉得那些主张短期时间线的人是正确的。
"有损自我改进"：一个更现实的框架
Nathan Lambert 提出了一个替代真正 RSI 的概念——有损自我改进（Lossy Self-Improvement）。其核心逻辑包括三个要点：
- 可自动化的研究范围太窄，无法在扩展定律的指数级成本面前实现巨大的净加速。
- 并行 AI Agent 的边际收益递减是真实存在的，并非线性叠加。
- 资源瓶颈和政治因素是构建强大 LLM 的关键制约，而 AI 在这些方面能做的加速有限。
这意味着，即便 Agent 能力持续增强，AI 的角色更像是在指数成本面前维持研究进度的工具，而非真正失控的递归引擎。
开发者与 AI 使用者的实用启示
对开发者的意义
- 不必过度恐慌：当前安全社区对 RSI 的焦虑，更多反映的是文化温度升高，而非确凿的技术突破。
- 关注实际瓶颈：在部署多 Agent 系统时，真正限制你的是资源调度、政治协调和边际收益递减，而非 AI 自身的递归能力。
- 理性规划：如果 AI 是"有损自我改进"工具，那么投资方向应放在工程化落地而非等待 AGI。
对 AI 使用者的意义
- 理解节奏差异：安全社区的时间线预期可能比实际发展快，但发展速度本身确实会让人感觉"他们是对的"。
- 关注具体突破：真正需要警惕的不是当前 Agent 的规模化使用，而是基于想象力的基础性突破——那才是会让 RSI 时间线从"维持进度"转向"不可预测"的信号。
值得关注的参考资料
近期关于 RSI 的高质量讨论包括：
- Dwarkesh 与 Noam Brown 的播客：帮助理解大规模推理能力带来的短期加速效应。
- Dwarkesh 与 John Schulman、Beren Millidge、Charlie O'Neill 的三方对谈：从不同视角探讨 RSI 的可能性与边界。
这些讨论的共同结论是：当前前哨实验室的 Agent 规模化部署确实令人印象深刻，但将其等同于真正 RSI 的开端，可能是一种过度解读。