当裁判不公时：自学习智能体停止淘汰无用技能
想象一个智能体，它自己不断扩充自己的技能库：尝试新方法，留下成功的，抛弃无用的。要让这套机制运转，就需要一个防止技能库被垃圾塞满的机制。在现代这类智能体的设计中，这个角色由 技能淘汰（skill retirement） 来扮演——这是一种结构性约束，确保技能库不会变得比“完全没有技能”更差。但正如一组研究人员的最新工作所揭示的，这一保障存在一个隐藏的漏洞：它依赖于对质量的诚实评估。而如果评估由LLM裁判来做出，诚实就无法得到保证。
为什么淘汰机制很重要
一个不断发明新技能的智能体，天然面临一个问题：其中一部分技能不仅无用，反而有害——它们会干扰基本任务的执行。如果没有约束，技能库会无限膨胀，而质量不断下降。技能淘汰就像一位园丁，及时拔掉杂草。该机制建立在每个技能的贡献可以被衡量的基础上：如果某个技能不带来益处，就将其删除。
但如果没有标准答案，如何衡量贡献？在许多实际任务中——撰写报告、分析文本、制定计划——并不存在唯一正确的解决方案。因此，不得不使用LLM裁判来代替客观验证。而问题的根源恰恰就在这里。
带有偏见的裁判：无声的破坏
论文《The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents》（作者：Zhang, Cui, Wang, Li, Qiu, Zhu, He——该工作发表于COLM 2026 Workshop on Agent Behavior）的作者们考察了当裁判系统性出错时会发生什么。他们识别出一种重要的错误类型——误放行（false-pass）：即裁判将失败的结果误判为成功。乍一看，这只是小小的偏差——不就是裁判过于宽容嘛。但实际上，这会导致一个出人意料的效果：有偏见的裁判不仅仅是给评估添加了噪声，而是彻底关闭了淘汰机制。
为了实验的纯净性，研究人员将偏见的影响与普通噪声的影响分离开来。结果表明，对称噪声（裁判在两侧出错的频率相同）不会妨碍淘汰机制的工作。而偏向于虚假成功的非对称偏移则会摧毁一切。
无法绕过的陡峭阈值
最耐人寻味的是故障发生的具体方式。它不是渐进的。只要误放行比例不超过大约 0.45——也就是说裁判放过不到一半的失败——机制就能正常工作。但一旦越过这个阈值，基于贡献的淘汰机制就会完全停止运作。增加数据量或迭代次数都无济于事：这个阈值无法通过收集更多示例来反向跨越。
研究人员在不同条件下验证了这一点：在无参考的报告生成环境中（以代码生成进行交叉验证），以及其他领域，使用不同的失败频率。机制的失效在所有地方都能复现。唯一的例外是近乎完美的验证型裁判，其错误率接近于零，但这在真实的LLM裁判中很少见。
一个重要细节：他们区分了真正的淘汰（删除真正无用的技能）和“容量驱逐”（因形式原因用新技能挤掉旧技能）。被关闭的正是前者，而且这是一种普遍效应，而非特定环境的产物。
“无声”的退化：为什么问题看不见
如果机制被破坏，人们会预期指标立刻显示恶化。但事实并非如此。作者发现，在某些模式下，尽管淘汰机制已被关闭，评估质量仍然保持稳定。退化只出现在那些同样的裁判腐败进一步耗尽了新技能合成的地方。如果合成正常运作，整体图景看起来一切正常。
被关闭的策展人——“无声”的：没有任何一个聚合指标能暴露它的缺失。从外部看，智能体继续工作，仍然生成报告，但它的技能库在慢慢被垃圾填满，增长潜力也在下降。这使得问题格外危险：在常规测试中根本无法察觉。
如何在部署前检验裁判
作者提出了一种廉价且实用的审计方法——缺陷注入。思路很简单：在部署之前，操作者故意向技能库中放入一个已知无用的技能（或向裁判提交一个已知很差的结果），然后观察裁判如何反应。如果裁判将其淘汰——一切正常。如果放行——说明系统处于阈值的另一侧，淘汰机制很可能已经失效。
这种测试不需要复杂的基础设施，耗时也很短。它揭示的不仅仅是单点错误，而是裁判处于阈值的哪一侧——因此可以在智能体开始在实际运行中积累无用技能之前做出决策。
结语
这项研究关乎行为安全，而非性能。它并不承诺智能体会变得更快或更准确。它说的是另一件事：即使是像技能淘汰这样保守的保护机制，也可能被有偏见的裁判悄然关闭，而系统仍会继续看起来健康。好消息是，这个过程可以在造成实际损害之前，通过一个简单的测试被诊断出来。对于所有设计自学习智能体的人来说，这值得深思：你的裁判有多诚实——如果它突然变得过于宽容，会发生什么。
