L'image de la caméra se transforme directement en trajectoire — c'est la principale promesse des planificateurs de conduite de bout en bout. Cependant, derrière cette apparente simplicité se cache souvent une surprise désagréable : un modèle ayant appris le comportement du conducteur à partir d'enregistrements peut trouver un moyen plus facile de « deviner » la bonne action qu'une analyse honnête de la situation routière. Au lieu de relations de cause à effet, il utilise fréquemment des coïncidences statistiques présentes dans les données d'entraînement.
Pourquoi le planificateur de bout en bout s'accroche à des détails aléatoires
Les planificateurs de bout en bout sont entraînés par imitation : on leur montre des exemples d'actions d'experts et on s'attend à ce qu'ils reproduisent les mêmes décisions dans des conditions similaires. Cette approche fonctionne tant que les données sont suffisamment diversifiées. Le problème est que, à côté de la trajectoire de l'expert, se trouvent presque toujours des objets qui ne sont que indirectement liés à la manœuvre. Cela peut être un panneau de signalisation, la façade d'un bâtiment, une barrière caractéristique ou même un simple poteau.
Si, dans l'ensemble d'entraînement, un tel objet apparaît régulièrement aux moments où le conducteur, par exemple, freine ou change de voie, le planificateur mémorise cette association. D'un point de vue formel, le modèle trouve une régularité statistique là où une régularité causale était attendue : il commence à considérer l'objet comme la cause de l'action, alors qu'en réalité il ne fait que l'accompagner. Dans les scénarios courants, cela n'est pas perceptible, car la corrélation coïncide avec le comportement réel. Mais dès que la situation routière devient rare — « à longue traîne » —, la fausse dépendance se fait sentir : le modèle peut freiner là où il faut avancer, ou vice-versa.
Cette confusion causale est silencieuse et insidieuse. Elle ne se manifeste pas comme une erreur explicite lors des tests standard, mais réduit la robustesse précisément dans les situations non standard pour lesquelles les systèmes modernes d'aide à la conduite sont conçus. C'est pourquoi il ne suffit généralement pas d'ajouter simplement plus d'exemples à l'ensemble de données : le modèle cherchera toujours des corrélations si elles aident à réduire l'erreur sur l'ensemble d'entraînement.
Pourquoi les métriques open-loop ne montrent pas la véritable cause
Comment savoir sur quoi le planificateur se concentre exactement lorsqu'il prend une décision ? Le moyen le plus simple est de l'exécuter sur des scénarios enregistrés et de mesurer les métriques open-loop classiques : l'écart quadratique moyen de la trajectoire (L2) et le taux de collision. Ce sont ces paramètres qui sont le plus souvent utilisés pour évaluer la conduite autonome. Mais, comme le montrent les recherches, ces métriques sont presque entièrement déterminées par l'état actuel du véhicule lui-même : sa position, sa vitesse et son accélération. Elles ne répondent pas à la question de savoir quels éléments de la scène ont influencé la manœuvre.
Imaginez deux planificateurs : l'un contourne prudemment un piéton, l'autre freine à cause d'une tache lumineuse sur l'asphalte qui, par hasard, apparaît souvent près des piétons dans les données. Sur les métriques open-loop, les deux afficheront une faible erreur L2 et zéro accident — car les trajectoires de sortie sont similaires. Mais dans le second cas, le système est inutile dans le monde réel : dès qu'une scène sans signal « fallacieux » se présente, le planificateur perd ses repères. Les métriques habituelles ne voient pas cela et ne peuvent donc pas alerter sur la fragilité du comportement.
Audit causal sans réentraînement
Pour identifier une fausse dépendance, des interventions causales sont nécessaires : il faut intervenir sur la scène, modifier certains de ses éléments et observer comment la décision change. La logique est simple : si, après avoir remplacé un objet d'arrière-plan insignifiant, le planificateur change radicalement de trajectoire, cela signifie qu'il s'appuyait sur cet objet. Mais les méthodes classiques d'analyse causale exigent un réentraînement du modèle : pour chaque intervention, il faut mettre à jour les poids d'un grand réseau de neurones. Pour un planificateur déjà déployé, c'est impossible — personne en exploitation réelle n'a de ressources supplémentaires pour un réentraînement après chaque test.
Les auteurs de la proposition cachée derrière l'acronyme CADET ont choisi une autre voie. Leur framework fonctionne sans entraînement (training-free) et peut examiner des planificateurs de bout en bout pré-entraînés sans la moindre mise à jour des paramètres. Au lieu de modifier les poids, CADET utilise des interventions soigneusement conçues dans la scène elle-même et suit la réaction de la sortie du planificateur.
Cette approche ouvre trois possibilités à la fois :
- audit — identification des objets spécifiques sur lesquels le planificateur s'appuie de manière incorrecte ;
- benchmarking — comparaison de différents planificateurs selon le degré de « bruit » de leurs décisions ;
- correction — atténuation de l'influence des indices fallacieux sur la sortie, toujours sans réentraînement.
On obtient ainsi un outil de diagnostic universel applicable à n'importe quel modèle déjà prêt. Au lieu de tester le système uniquement sur les statistiques d'accidents, le développeur dispose d'un mécanisme qui révèle la cause d'un accident potentiel avant même qu'il ne se produise. C'est particulièrement précieux pour les scénarios à longue traîne, où il est pratiquement impossible de collecter un ensemble complet d'exemples réels.
Ce qui rend une telle approche utile en pratique
Pour les ingénieurs qui intègrent un planificateur de bout en bout dans un véhicule, ce n'est pas seulement la précision sur les pistes de test qui compte, mais aussi la prévisibilité du comportement. CADET permet de répondre à la question « pourquoi le système a-t-il choisi cette trajectoire » — et ce, avant le déploiement dans des transports réels. Pas besoin d'attendre qu'une situation rare se manifeste sur la route ; il suffit de mener une série d'interventions ciblées dans un environnement virtuel pour voir les points faibles.
Un tel audit change aussi l'approche du développement. Si vous avez deux modèles candidats avec des métriques open-loop à peu près identiques, le choix était auparavant presque aléatoire. Désormais, on peut voir lequel des modèles prête moins attention aux indices aléatoires et lui donner la préférence. Même si le second modèle est formellement plus précis sur les tests standard, un système causalement plus « propre » a plus de chances de survivre au contact avec le monde réel et son infinie diversité.
Il est révélateur que ce travail, apparu en 2026, propose déjà une boîte à outils complète, et ne se contente pas de décrire le problème. Les planificateurs de bout en bout sont l'une des directions les plus prometteuses de la conduite autonome, mais leur applicabilité dans l'industrie dépend directement de notre capacité à comprendre la logique interne de leurs décisions. Sans audit causal, une haute précision sur les scénarios standard ne reste qu'une heureuse coïncidence, et non une garantie de sécurité.
