Quando o juiz é tendencioso: agentes autodidatas param de eliminar habilidades inúteis
Imagine um agente que expande sua própria biblioteca de habilidades: testa novas abordagens, mantém as bem-sucedidas e descarta as inúteis. Para que isso funcione, é necessário um mecanismo que impeça a biblioteca de se encher de lixo. No design moderno desses agentes, esse papel é desempenhado pelo skill retirement — uma restrição estrutural que garante que o arsenal de habilidades não fique pior do que "sem habilidades nenhumas". Mas, como mostrou um trabalho recente de um grupo de pesquisadores, essa garantia tem uma vulnerabilidade oculta: ela depende de uma avaliação honesta da qualidade. E se a avaliação é feita por um juiz LLM, a honestidade não é garantida.
Por que o retirement é importante
Um agente que constantemente inventa novas habilidades tem um problema natural: parte delas acaba não apenas inútil, mas prejudicial — atrapalha a execução de tarefas básicas. Sem restrições, a biblioteca cresce infinitamente e a qualidade cai. O skill retirement é como um jardineiro que arranca as ervas daninhas na hora certa. O mecanismo se baseia no fato de que a contribuição de cada habilidade pode ser medida: se uma habilidade não traz benefício, ela é removida.
Mas como medir a contribuição quando não existe uma resposta de referência? Em muitas tarefas práticas — redação de relatórios, análise de texto, elaboração de planos — não existe uma solução correta. Por isso, em vez de uma verificação objetiva, é preciso usar um juiz LLM. E é exatamente aí que está a raiz do problema.
Um juiz com preconceito: sabotagem silenciosa
Os autores do artigo "The Blind Curator: How a Biased Judge Silently Disables Skill Retirement in Self-Evolving Agents" (Zhang, Cui, Wang, Li, Qiu, Zhu, He — trabalho apresentado no COLM 2026 Workshop on Agent Behavior) analisaram o que acontece quando o juiz erra sistematicamente. Eles identificaram um tipo importante de erro — o false-pass: quando um resultado ruim é aprovado pelo juiz como bem-sucedido. À primeira vista, um pequeno desvio — ora, o juiz é apenas muito tolerante. Na prática, isso leva a um efeito inesperado: um juiz tendencioso não apenas adiciona ruído às avaliações, ele desativa completamente o mecanismo de retirement.
Para garantir a pureza do experimento, os pesquisadores separaram o efeito do viés do ruído comum. Descobriu-se que o ruído simétrico (o juiz erra com a mesma frequência para os dois lados) não atrapalha o funcionamento do retirement. Já o desvio assimétrico em direção aos falsos sucessos quebra tudo.
Um limiar abrupto que não pode ser contornado
O mais intrigante é como exatamente ocorre a falha. Ela não é gradual. Enquanto a proporção de false-pass não ultrapassa aproximadamente 0,45 — ou seja, o juiz reprova menos da metade dos fracassos — o mecanismo funciona. Mas, ao cruzar esse limiar, o retirement baseado em contribuição deixa de funcionar completamente. Nenhum aumento no volume de dados ou no número de iterações ajuda: o limiar não pode ser cruzado de volta simplesmente coletando mais exemplos.
Os pesquisadores testaram isso em diferentes condições: em um ambiente de geração de relatórios sem referência (com validação cruzada na geração de código) e em outros domínios, com diferentes taxas de falha. A falha do mecanismo se reproduz em todos os lugares. A única exceção são verificadores quase perfeitos, onde a taxa de erro é próxima de zero, mas isso é raro para juízes LLM reais.
Um detalhe importante: eles distinguem o retirement real (remoção de habilidades genuinamente inúteis) do "cap-eviction" (expulsão de habilidades antigas por novas por razões formais). O que é desativado é o primeiro, e isso é um efeito universal, não um artefato de um ambiente específico.
Degradação "silenciosa": por que o problema não é visível
Se o mecanismo está quebrado, seria de esperar que as métricas mostrassem uma piora imediatamente. Mas não. Os autores descobriram que, em alguns modos, a qualidade da avaliação permanece estável apesar do retirement desativado. A degradação só aparece onde a mesma corrupção do juiz adicionalmente esgota a síntese de novas habilidades. Se a síntese funciona, o quadro geral parece normal.
O curador desativado é "silencioso": nenhum indicador agregado revela sua ausência. Externamente, o agente continua funcionando, ainda gera relatórios, mas sua biblioteca vai se enchendo lentamente de lixo e seu potencial de crescimento diminui. Isso torna o problema especialmente perigoso: é impossível notá-lo em testes comuns.
Como verificar o juiz antes da implantação
Os autores propõem uma forma barata e prática de auditoria — a injeção de defeitos. A ideia é simples: antes da implantação, o operador introduz deliberadamente uma habilidade sabidamente inútil na biblioteca (ou apresenta ao juiz um resultado sabidamente ruim) e observa como o juiz reage. Se o juiz a rejeita — está tudo bem. Se a aceita — significa que o sistema está do outro lado do limiar, e o retirement provavelmente já não funciona.
Esse teste não exige infraestrutura complexa e leva pouco tempo. Ele mostra não apenas um erro pontual, mas em que lado do limiar o juiz está — e, portanto, é possível tomar uma decisão antes que o agente comece a acumular habilidades inúteis em modo de produção.
Em vez de conclusão
Esta pesquisa trata de segurança comportamental, não de desempenho. Ela não promete que os agentes ficarão mais rápidos ou mais precisos. Ela diz outra coisa: até um mecanismo de proteção conservador, como o skill retirement, pode ser silenciosamente desativado por um juiz tendencioso, e o sistema continuará parecendo saudável. A boa notícia é que esse processo pode ser diagnosticado com um teste simples antes de causar danos reais. Para todos que projetam agentes autodidatas, é um motivo para refletir: quão honesto é o seu juiz — e o que acontecerá se ele se tornar complacente demais.
