Um novo preprint no arXiv:2608.17542, submetido em 18 de agosto de 2026, Jack Boylan e Chris Hokamp propõem uma forma não óbvia de combater o colapso em modelos de mundo JEPA. Em vez de impor uma forma pré-definida ao espaço latente, eles extraem um sinal contra a degeneração dos próprios dados de transição. O método recebeu o nome de AC-MTM — Action-Contrastive Masked Transition Modeling — e, pelos experimentos, funciona de forma especialmente convincente em ambientes visuais complexos.
Por que os modelos JEPA colapsam
A abordagem JEPA (Joint Embedding Predictive Architecture) baseia-se na previsão de embeddings futuros, em vez de pixels. Isso é conveniente, mas essa função objetivo tem uma solução trivial: o encoder pode se fixar em uma constante e produzir a mesma representação para qualquer entrada. Assim, o erro de previsão se anula e nenhum aprendizado das relações mundiais ocorre. É por isso que todas as implementações práticas de JEPA adicionam mecanismos extras contra o colapso — de regularizadores a restrições arquiteturais.
Uma das técnicas comuns é a regularização da distribuição latente. Por exemplo, o modelo LeWorldModel (LeWM) usa SIGReg — um regularizador que faz as representações parecerem ruído gaussiano isotrópico. Isso estabiliza o treinamento, mas ao custo de uma suposição rígida: o espaço latente deve corresponder a uma distribuição específica, não relacionada à dinâmica do ambiente. Os autores do novo trabalho argumentam que a pressão contra o colapso pode vir não de fora, mas das próprias transições entre estados.
Dinâmica inversa contrastiva em vez de amarras gaussianas
O AC-MTM mantém o objetivo direto de previsão latente, como no LeWM, mas adiciona uma cabeça auxiliar de dinâmica inversa. Essa cabeça existe apenas durante o treinamento e resolve uma tarefa discriminativa: dado um par de estados latentes, ela deve determinar qual ação específica levou o modelo do primeiro ao segundo. A função de perda Action-NCE força cada transição latente a identificar a ação que a gerou entre todas as ações do batch.
Essa formulação não exige rede alvo, nem stop-gradient, nem encoder pré-treinado, nem reconstrução. O principal: um encoder colapsado, que produz representações idênticas para todos os estados, é fisicamente incapaz de distinguir uma ação de outra. Portanto, a tarefa de dinâmica inversa torna-se insolúvel, e isso fornece um sinal demonstrável contra a degeneração. A pressão surge da estrutura dos dados, não de uma prescrição artificial.
Após a conclusão do treinamento, o ramo de dinâmica inversa é simplesmente descartado. No momento do teste, codificação, previsão direta, planejamento e custos computacionais permanecem idênticos ao LeWM — sem carga adicional na inferência.
O que os experimentos mostraram
O método foi testado em quatro tarefas padrão de pixel-control com um protocolo de planejamento consistente. O AC-MTM treina de forma estável do zero e, em média, apresenta resultados comparáveis ao SIGReg. Ou seja, abandonar o regularizador gaussiano não leva à perda de qualidade em ambientes simples.
O quadro mais interessante está no benchmark complexo OGBench Visual Scene. Lá, o AC-MTM atinge 80,0±2,0% de sucesso, enquanto o SIGReg alcança apenas 58,0±2,0%. A melhoria é de 20 a 24 pontos percentuais em cada semente de treinamento. Para entender a escala: uma execução de política aleatória com 50 episódios dá um nível base de 52%, então a diferença entre os métodos é realmente significativa.
Além disso, a dinâmica inversa contrastiva não depende de suposições distribucionais. Os autores caracterizam as suposições sobre o espaço de ações e a observabilidade sob as quais o método funciona, mas essas condições são visivelmente mais brandas do que o requisito de gaussianidade.
Implicações práticas
A principal conclusão do trabalho: para evitar o colapso, não é necessário decidir antecipadamente como as representações devem ser. Basta definir uma tarefa que um encoder degenerado certamente falhará. Essa abordagem não é apenas mais fundamentada, mas também produz melhores resultados em tarefas visuais complexas, onde as restrições gaussianas do SIGReg atrapalham o aprendizado.
O código foi publicado, então os resultados são fáceis de reproduzir e adaptar aos seus próprios projetos. Para todos que constroem modelos de mundo baseados nas ideias de JEPA, o AC-MTM é uma opção prática: sem custos extras na inferência, sem redes alvo e stop-gradient, e com uma fonte mais natural de sinal de treinamento.
