La imagen de la cámara se convierte directamente en una trayectoria: esa es la principal promesa de los planificadores de conducción de extremo a extremo. Sin embargo, detrás de la aparente simplicidad a menudo se esconde una sorpresa desagradable: un modelo que ha aprendido el comportamiento del conductor a partir de grabaciones puede encontrar una forma más fácil de «adivinar» la acción correcta que analizar honestamente la situación de la carretera. En lugar de relaciones causales, a menudo utiliza coincidencias estadísticas que aparecen en los datos de entrenamiento.
Por qué el planificador de extremo a extremo se aferra a detalles aleatorios
Los planificadores de extremo a extremo se entrenan mediante imitación: se les muestran ejemplos de las acciones de un experto y se espera que reproduzcan las mismas decisiones en condiciones similares. Este enfoque funciona mientras los datos tengan suficiente diversidad. El problema es que, junto a la trayectoria del experto, casi siempre hay objetos que solo están indirectamente relacionados con la maniobra. Puede ser una señal junto a la carretera, la fachada de un edificio, una barrera característica o incluso un poste común.
Si en el conjunto de entrenamiento ese objeto aparece regularmente en momentos en que el conductor, por ejemplo, frena o cambia de carril, el planificador memoriza esa relación. Desde un punto de vista formal, el modelo encuentra una regularidad estadística donde se esperaba una causal: comienza a considerar el objeto como la causa de la acción, cuando en realidad solo la acompaña. En escenarios comunes esto no se nota, porque la correlación coincide con el comportamiento real. Pero tan pronto como la situación de la carretera se vuelve rara —de «cola larga»—, la dependencia falsa se hace evidente: el modelo puede frenar donde debería avanzar, o viceversa.
Esta confusión causal es silenciosa y traicionera. No se manifiesta como un error evidente en las pruebas estándar, sino que reduce la robustez precisamente en situaciones no estándar, para las que están diseñados los sistemas modernos de asistencia al conductor. Por eso, simplemente añadir más ejemplos al conjunto de datos no suele funcionar: el modelo seguirá buscando cualquier correlación si le ayuda a reducir el error en el conjunto de entrenamiento.
Por qué las métricas open-loop no muestran la causa real
¿Cómo saber a qué mira exactamente el planificador al tomar una decisión? La forma más sencilla es ejecutarlo en escenarios grabados y medir las métricas open-loop clásicas: la desviación cuadrática media de la trayectoria (L2) y la tasa de colisiones. Estos son los parámetros que se utilizan con más frecuencia al evaluar la conducción autónoma. Pero, como muestran las investigaciones, estas métricas están determinadas casi por completo por el estado actual del propio vehículo: su posición, velocidad y aceleración. No responden a la pregunta de qué elementos de la escena influyeron en la maniobra.
Imaginemos dos planificadores: uno rodea cuidadosamente a un peatón, el otro frena debido a una mancha brillante en el asfalto que, casualmente, aparece a menudo cerca de peatones en los datos. En las métricas open-loop, ambos mostrarán un error L2 bajo y cero accidentes, porque las trayectorias de salida son similares. Pero en el segundo caso, el sistema es inútil en el mundo real: en cuanto aparece una escena sin la señal «espuria», el planificador pierde la orientación. Las métricas comunes no ven esto, por lo que no pueden advertir sobre la fragilidad del comportamiento.
Auditoría causal sin reentrenamiento
Para detectar una dependencia falsa, se necesitan intervenciones causales: hay que intervenir en la escena, cambiar elementos individuales y observar cómo cambia la decisión. La lógica es simple: si tras reemplazar un objeto de fondo irrelevante el planificador cambia drásticamente su trayectoria, significa que se apoyaba precisamente en ese objeto. Pero los métodos clásicos de análisis causal requieren reentrenar el modelo: para cada intervención hay que volver a actualizar los pesos de una gran red neuronal. Para un planificador ya desplegado, esto es imposible: nadie en la operación real tiene recursos extra para reentrenar después de cada prueba.
Los autores de la propuesta que se esconde tras el acrónimo CADET decidieron seguir otro camino. Su marco de trabajo funciona sin entrenamiento (training-free) y puede examinar planificadores de extremo a extremo preentrenados sin la más mínima actualización de parámetros. En lugar de modificar los pesos, CADET utiliza intervenciones cuidadosamente diseñadas en la propia escena y rastrea cómo reacciona la salida del planificador.
Este enfoque abre tres posibilidades a la vez:
- auditoría: identificación de los objetos concretos en los que el planificador se apoya de forma incorrecta;
- benchmarking: comparación de diferentes planificadores según el grado de «ruido» en sus decisiones;
- corrección: atenuación de la influencia de las señales falsas en la salida, también sin reentrenamiento.
El resultado es una herramienta de diagnóstico universal que puede aplicarse a cualquier modelo ya terminado. En lugar de probar el sistema solo con estadísticas de accidentes, el desarrollador obtiene un mecanismo que revela la causa de un posible accidente antes de que ocurra. Esto es especialmente valioso para los escenarios de cola larga, donde es prácticamente imposible reunir un conjunto completo de ejemplos reales.
Qué hace que este enfoque sea útil en la práctica
Para los ingenieros que integran un planificador de extremo a extremo en un automóvil, no solo importa la precisión en las pistas de prueba, sino también la previsibilidad del comportamiento. CADET permite responder a la pregunta «por qué el sistema eligió esta trayectoria», y hacerlo antes del despliegue en el transporte real. No es necesario esperar a que una situación rara se manifieste en la carretera; basta con realizar una serie de intervenciones dirigidas en el entorno virtual y ver los puntos débiles.
Esta auditoría también cambia el enfoque del desarrollo. Si se tienen dos modelos candidatos con métricas open-loop aproximadamente iguales, antes la elección era casi aleatoria. Ahora se puede observar cuál de los modelos presta menos atención a las señales aleatorias y preferir ese. Incluso si el segundo modelo es formalmente más preciso en las pruebas estándar, un sistema causalmente más «limpio» tiene más probabilidades de resistir el contacto con el mundo real y su infinita diversidad.
Es revelador que un trabajo aparecido en 2026 ya ofrezca un conjunto de herramientas completo, y no se limite a describir el problema. Los planificadores de extremo a extremo son una de las direcciones más prometedoras en la conducción autónoma, pero su aplicabilidad en la industria depende directamente de si podemos comprender la lógica interna de sus decisiones. Sin una auditoría causal, la alta precisión en escenarios estándar sigue siendo solo una afortunada coincidencia, y no una garantía de seguridad.
