Por que agentes autoaprimoráveis são instáveis: dispersão de resultados e dependência da ordem das tarefas
Agentes autoaprimoráveis são uma das direções mais promissoras na IA moderna. Eles são capazes de acumular experiência durante o trabalho e melhorar a cada nova tarefa. Mas por trás dessa ideia atraente, esconde-se um problema sério: tais sistemas são extremamente imprevisíveis. Até o mesmo agente pode apresentar resultados completamente diferentes em execuções repetidas, e a eficácia do seu aprendizado depende diretamente da ordem em que as tarefas lhe são apresentadas.
Uma pesquisa recente, apresentada no trabalho «On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification» (arXiv: 2608.18066), abordou diretamente essa questão. Os autores realizaram uma reavaliação de dois métodos populares baseados na manutenção de um banco de memória textual. Esses agentes armazenam informações sobre tarefas resolvidas e as utilizam como memória externa ao processar novas solicitações. Parecia um mecanismo simples e lógico, mas na prática tudo se revelou muito mais complexo.
A ruidosidade oculta do autoaprimoramento
A primeira coisa que os pesquisadores descobriram foi o alto nível de ruído na avaliação desses agentes. Em ambientes complexos com tarefas de múltiplas etapas, os resultados do mesmo agente podem variar significativamente de uma execução para outra. E a adição do ciclo de autoaprimoramento não apenas preserva esse ruído, mas o amplifica consideravelmente. Surge um paradoxo: quanto mais o agente tenta aprender com sua própria experiência, menos estável se torna seu comportamento.
Por que isso acontece? Em parte, isso está relacionado ao fato de que o banco de memória textual acumula informações de forma não determinística. A cada etapa, o agente decide o que exatamente salvar e o que descartar, e essas decisões dependem de vários fatores. Como resultado, mesmo com dados de entrada idênticos, o estado interno do agente pode diferir bastante, o que gera a dispersão.
A ordem das tarefas como um currículo oculto
A segunda observação importante diz respeito à influência da ordem das tarefas. Descobriu-se que a melhoria do agente depende fortemente da sequência em que ele toma contato com as tarefas. Em trabalhos anteriores sobre agentes autoaprimoráveis, frequentemente era usada uma ordem fixa "padrão". Os pesquisadores descobriram que essa ordem, na prática, cria um currículo implícito — as tarefas são organizadas das mais simples para as mais complexas, dando ao agente a oportunidade de desenvolver competências gradualmente.
No entanto, basta embaralhar aleatoriamente as tarefas para que a eficácia do aprendizado caia drasticamente. Isso significa que o sucesso declarado de muitos sistemas foi, em grande parte, predeterminado por uma disposição favorável do material, e não pela capacidade real do agente de aprender. Em essência, a ordem padrão funcionava como uma pré-condição oculta para o sucesso — um fator que geralmente nem era mencionado nas descrições dos métodos.
A subespecificação como raiz do problema
Os autores levantaram a hipótese de que a principal causa da fragilidade reside na subespecificação (underspecification) das tarefas e do ambiente. Quando as condições de uma tarefa são descritas de forma insuficientemente detalhada, o agente é forçado a tomar muitas decisões ambíguas. Isso gera aleatoriedade na forma como ele acumula conhecimento e na forma como o aplica posteriormente.
Para testar essa hipótese, os pesquisadores tentaram tornar o processo de construção da memória mais especificado. Eles adicionaram rubricas de avaliação detalhadas e feedback do ambiente — ou seja, informações que deveriam reduzir a ambiguidade. O resultado foi revelador: a especificação adicional apenas fechou parcialmente a degradação de desempenho observada nos experimentos. Lacunas significativas permaneceram, indicando a existência de outros fatores, ainda não caracterizados, que contribuem para a instabilidade.
O que isso significa para os profissionais
As conclusões obtidas têm relação direta com o desenvolvimento e os testes de tais sistemas. Em primeiro lugar, não se pode confiar nos resultados de uma única execução. É necessário executar o agente múltiplas vezes e relatar não apenas as médias, mas também a dispersão. Caso contrário, é fácil tirar uma conclusão falsa sobre a eficácia de um método, baseando-se em uma coincidência favorável.
Em segundo lugar, ao comparar diferentes abordagens, é obrigatório testá-las com ordens de tarefas embaralhadas aleatoriamente. Se um método funciona apenas em um currículo "protegido", seu valor prático é questionável — na realidade, as tarefas raramente chegam em uma sequência perfeitamente organizada.
Por fim, a subespecificação não é apenas uma característica de benchmarks específicos, mas uma propriedade fundamental de muitos cenários reais. Os agentes precisam atuar em condições onde as regras não são totalmente claras, e isso sempre criará o risco de falhas imprevisíveis. Portanto, além de melhorar os próprios algoritmos, é importante projetar interfaces e processos que permitam ao humano controlar efetivamente o comportamento do agente e intervir antes que o erro se torne crítico.
Em vez de conclusão
Agentes autoaprimoráveis continuam sendo uma direção extremamente promissora, mas ainda imatura. A pesquisa demonstra claramente que suas implementações atuais estão longe da confiabilidade. A dispersão de resultados e a dependência da ordem das tarefas não são meros incômodos, mas propriedades fundamentais com as quais será preciso lidar. Sem protocolos rigorosos de avaliação, incluindo múltiplas execuções e testes de estresse em ambientes complexos, corremos o risco de tomar sucessos aleatórios por progresso real. E isso já é uma questão de confiança nos sistemas de IA como um todo.
