A imagem da câmera se transforma diretamente em trajetória — essa é a principal promessa dos planejadores de direção de ponta a ponta. No entanto, por trás da aparente simplicidade, muitas vezes se esconde uma surpresa desagradável: um modelo que aprendeu o comportamento do motorista a partir de gravações pode encontrar uma maneira mais fácil de "adivinhar" a ação correta do que analisar honestamente a situação da estrada. Em vez de relações de causa e efeito, ele frequentemente usa coincidências estatísticas encontradas nos dados de treinamento.
Por que o planejador de ponta a ponta se apega a detalhes aleatórios
Planejadores de ponta a ponta são treinados com base no princípio da imitação: eles recebem exemplos de ações de especialistas e espera-se que reproduzam as mesmas decisões em condições semelhantes. Essa abordagem funciona enquanto os dados tiverem diversidade suficiente. O problema é que, ao lado da trajetória do especialista, quase sempre há objetos que estão apenas indiretamente relacionados à manobra. Pode ser uma placa de trânsito, a fachada de um edifício, uma grade característica ou até mesmo um poste comum.
Se, no conjunto de treinamento, esse objeto aparecer regularmente nos momentos em que o motorista, por exemplo, freia ou muda de faixa, o planejador memoriza essa associação. Do ponto de vista formal, o modelo encontra um padrão estatístico onde se esperava um causal: ele passa a considerar o objeto como causa da ação, quando na verdade ele apenas a acompanha. Em cenários comuns, isso não é perceptível, porque a correlação coincide com o comportamento real. Mas assim que a situação na estrada se torna rara — de "cauda longa" —, a dependência falsa se manifesta: o modelo pode frear onde deveria acelerar, ou vice-versa.
Essa confusão causal é silenciosa e traiçoeira. Ela não se manifesta como um erro explícito em testes padrão, mas reduz a robustez justamente em situações incomuns, para as quais os sistemas modernos de assistência ao motorista são projetados. Portanto, simplesmente adicionar mais exemplos ao conjunto de dados geralmente não funciona: o modelo ainda procurará quaisquer correlações se elas ajudarem a reduzir o erro no conjunto de treinamento.
Por que as métricas open-loop não mostram a causa real
Como saber para o que exatamente o planejador olha ao tomar uma decisão? A maneira mais simples é executá-lo em cenários gravados e medir as métricas open-loop clássicas: o desvio quadrático médio da trajetória (L2) e a taxa de colisões. Esses são os parâmetros mais usados na avaliação da direção autônoma. Mas, como mostram as pesquisas, tais métricas são quase totalmente determinadas pelo estado atual do próprio veículo: sua posição, velocidade e aceleração. Elas não respondem à pergunta sobre quais elementos da cena influenciaram a manobra.
Imagine dois planejadores: um desvia cuidadosamente de um pedestre, o outro freia por causa de uma mancha brilhante no asfalto que, por acaso, aparece com frequência perto de pedestres nos dados. Nas métricas open-loop, ambos mostrarão baixo erro L2 e zero acidentes — porque as trajetórias de saída são semelhantes. Mas, no segundo caso, o sistema é inútil no mundo real: assim que aparece uma cena sem o sinal "espúrio", o planejador perde a orientação. As métricas comuns não veem isso e, portanto, não podem alertar sobre a fragilidade do comportamento.
Auditoria causal sem retreinamento
Para identificar a dependência falsa, são necessárias intervenções causais: é preciso intervir na cena, alterar elementos individuais e observar como a decisão muda. A lógica é simples: se, após substituir um objeto de fundo irrelevante, o planejador muda drasticamente a trajetória, então ele estava se apoiando nesse objeto. Mas os métodos clássicos de análise causal exigem o retreinamento do modelo: para cada intervenção, é necessário atualizar novamente os pesos de uma grande rede neural. Para um planejador já implantado, isso é impossível — ninguém em operação real tem recursos extras para retreinar após cada teste.
Os autores da proposta por trás da sigla CADET decidiram seguir um caminho diferente. Sua estrutura funciona sem treinamento (training-free) e pode investigar planejadores de ponta a ponta pré-treinados sem a menor atualização de parâmetros. Em vez de alterar os pesos, o CADET usa intervenções bem elaboradas na própria cena e rastreia como a saída do planejador reage.
Essa abordagem abre três possibilidades de uma só vez:
- auditoria — identificação de objetos específicos nos quais o planejador se apoia incorretamente;
- benchmarking — comparação de diferentes planejadores quanto ao grau de "ruído" em suas decisões;
- correção — redução da influência de sinais falsos na saída, novamente sem ajuste fino.
O resultado é uma ferramenta de diagnóstico universal que pode ser aplicada a qualquer modelo já pronto. Em vez de testar o sistema apenas com estatísticas de acidentes, o desenvolvedor obtém um mecanismo que revela a causa de um potencial acidente antes mesmo que ele aconteça. Isso é especialmente valioso para cenários de cauda longa, onde é praticamente impossível coletar um conjunto completo de exemplos reais.
O que torna essa abordagem útil na prática
Para engenheiros que implementam um planejador de ponta a ponta em um veículo, não é importante apenas a precisão nas pistas de teste, mas também a previsibilidade do comportamento. O CADET permite responder à pergunta "por que o sistema escolheu essa trajetória" — e fazer isso antes da implantação em transporte real. Não é preciso esperar que uma situação rara ocorra na estrada; basta realizar uma série de intervenções direcionadas no ambiente virtual e identificar os pontos fracos.
Essa auditoria também muda a abordagem de desenvolvimento. Se você tem dois modelos candidatos com métricas open-loop aproximadamente iguais, antes a escolha era quase aleatória. Agora, é possível ver qual dos modelos presta menos atenção a sinais aleatórios e preferir exatamente esse. Mesmo que o segundo modelo seja formalmente mais preciso nos testes padrão, um sistema causalmente mais "limpo" tem maior probabilidade de resistir ao contato com o mundo real e sua diversidade infinita.
É revelador que o trabalho, surgido em 2026, já ofereça um kit de ferramentas completo, em vez de apenas descrever o problema. Os planejadores de ponta a ponta são uma das áreas mais promissoras na direção autônoma, mas sua aplicabilidade na indústria depende diretamente de nossa capacidade de entender a lógica interna de suas decisões. Sem a auditoria causal, a alta precisão em cenários padrão permanece apenas uma coincidência feliz, e não uma garantia de segurança.
