Por qué los agentes auto-mejorables son inestables: dispersión de resultados y dependencia del orden de las tareas
Los agentes auto-mejorables son una de las direcciones más prometedoras en la IA moderna. Son capaces de acumular experiencia durante el trabajo y mejorar cada vez más con cada nueva tarea. Pero detrás de esta atractiva idea se esconde un problema serio: estos sistemas son extremadamente impredecibles. Incluso un mismo agente puede mostrar resultados completamente diferentes en ejecuciones repetidas, y la eficacia de su aprendizaje depende directamente del orden en que recibe las tareas.
Una investigación reciente, presentada en el trabajo «On the Fragility of Self-Improving Agents: Variance, Task Order, and Underspecification» (arXiv: 2608.18066), ha abordado esta cuestión de cerca. Los autores realizaron una reevaluación de dos métodos populares basados en el mantenimiento de un banco de memoria textual. Estos agentes guardan información sobre las tareas resueltas y la utilizan como memoria externa al procesar nuevas solicitudes. Parecería un mecanismo simple y lógico, pero en la práctica todo resultó mucho más complejo.
La ruidosidad oculta del autoaprendizaje
Lo primero que descubrieron los investigadores fue el alto nivel de ruido en la evaluación de estos agentes. En entornos complejos con tareas de múltiples pasos, los resultados de un mismo agente pueden fluctuar significativamente de una ejecución a otra. Y añadir un bucle de auto-mejora no solo conserva ese ruido, sino que lo amplifica notablemente. Se produce una paradoja: cuanto más intenta el agente aprender de su experiencia, menos estable se vuelve su comportamiento.
¿Por qué ocurre esto? En parte se debe a que el banco de memoria textual acumula información de forma no determinista. En cada paso, el agente decide qué conservar y qué descartar, y estas decisiones dependen de múltiples factores. Como resultado, incluso con datos de entrada idénticos, el estado interno del agente puede diferir enormemente, lo que genera la dispersión.
El orden de las tareas como plan de estudios oculto
La segunda observación importante se refiere a la influencia del orden de las tareas. Resultó que la mejora del agente depende en gran medida de la secuencia en que se familiariza con las tareas. En trabajos anteriores dedicados a agentes auto-mejorables, a menudo se utilizaba un orden fijo «por defecto». Los investigadores descubrieron que este orden crea en realidad un plan de estudios implícito: las tareas están dispuestas de simples a complejas, lo que permite al agente ir incrementando sus competencias gradualmente.
Sin embargo, basta con barajar las tareas aleatoriamente para que la eficacia del aprendizaje caiga drásticamente. Esto significa que el éxito declarado de muchos sistemas estaba en gran medida predeterminado por una disposición favorable del material, y no por la capacidad real del agente para aprender. En esencia, el orden por defecto actuaba como una condición previa oculta para el éxito, un factor que normalmente ni siquiera se mencionaba en las descripciones de los métodos.
La subespecificación como raíz del problema
Los autores plantearon la hipótesis de que la causa principal de la fragilidad reside en la subespecificación (underspecification) de las tareas y el entorno. Cuando las condiciones de una tarea están descritas con insuficiente detalle, el agente se ve obligado a tomar muchas decisiones ambiguas. Esto genera aleatoriedad tanto en cómo acumula conocimiento como en cómo lo aplica después.
Para comprobar esta hipótesis, los investigadores intentaron hacer más especificado el proceso de construcción de la memoria. Añadieron rúbricas de evaluación detalladas y retroalimentación del entorno, es decir, información que debería reducir la ambigüedad. El resultado fue revelador: la especificación adicional solo cubrió parcialmente la degradación del rendimiento observada en los experimentos. Persistieron brechas significativas, lo que indica la existencia de otros factores aún no caracterizados que contribuyen a la inestabilidad.
Qué significa esto para los profesionales
Las conclusiones obtenidas tienen una relación directa con el desarrollo y las pruebas de estos sistemas. En primer lugar, no se puede confiar en los resultados de una sola ejecución. Es necesario ejecutar el agente múltiples veces e informar no solo de los valores medios, sino también de la dispersión. De lo contrario, se puede llegar fácilmente a una conclusión errónea sobre la eficacia de un método basándose en una casualidad afortunada.
En segundo lugar, al comparar diferentes enfoques, es imprescindible probarlos con órdenes de tareas barajados aleatoriamente. Si un método solo funciona con un plan de estudios «de invernadero», su valor práctico es cuestionable: en la realidad, las tareas rara vez llegan en una secuencia perfectamente organizada.
Por último, la subespecificación no es solo una peculiaridad de determinados benchmarks, sino una propiedad fundamental de muchos escenarios reales. Los agentes tienen que operar en condiciones donde las reglas no están del todo claras, y esto siempre generará el riesgo de fallos impredecibles. Por ello, junto con la mejora de los propios algoritmos, es importante diseñar interfaces y procesos que permitan a los humanos controlar eficazmente el comportamiento del agente e intervenir antes de que un error se vuelva crítico.
En lugar de conclusión
Los agentes auto-mejorables siguen siendo un campo extremadamente prometedor, pero aún inmaduro. La investigación demuestra claramente que sus implementaciones actuales están lejos de ser fiables. La dispersión de resultados y la dependencia del orden de las tareas no son molestias menores, sino propiedades fundamentales con las que habrá que contar. Sin protocolos de evaluación rigurosos que incluyan múltiples ejecuciones y pruebas de estrés en entornos complejos, corremos el riesgo de confundir éxitos casuales con progreso real. Y eso ya es una cuestión de confianza en los sistemas de IA en general.
