Modèles de diffusion discrets : un cadre général où la structure de l'espace d'états détermine la génération

20 septembre 202639 vues

Les auteurs proposent d'examiner ces modèles à travers le prisme de la construction d'un espace d'états discret — schémas de découpage en tokens, topologie du vocabulaire et alphabets spécialisés. Les transitions matricielles, les états masquants et les approches fondées sur le scoring apparaissent comme des cas particuliers d'un même espace de conception, ce qui met à nu des compromis communs en matière d'objectifs d'entraînement, d'algorithmes d'inférence, de mise à l'échelle, d'optimisation système et de protocoles d'évaluation.

Modèles de diffusion discrets : un cadre général où la structure de l'espace d'états détermine la génération

La place des modèles de diffusion discrète

Les modèles de diffusion par débruitage discret (DDM) opèrent sur des données discrètes. Ils constituent une alternative à la modélisation autorégressive (AR). Au lieu de prolonger la séquence pas à pas, le modèle génère en parallèle et affine le résultat de manière itérative et globale.

La principale différence avec la diffusion continue réside dans la structure de l'espace d'états. Dans le cas continu, l'espace est fixé. Dans le cas discret, il est construit, et c'est de cette construction que dépend la génération.

ApprocheMode de génération
Modélisation autorégressiveGénération séquentielle
Diffusion continueAffinage itératif à espace d'états fixé
Diffusion discrèteGénération parallèle et affinage global itératif

Le critère de choix est simple. On recourt aux DDM là où l'on a besoin d'une génération parallèle et d'une amélioration globale du résultat. Mais la qualité d'une telle génération n'est pas déterminée par le seul modèle.

Espace d'états : trois composantes

Le cadre unifié envisage la diffusion discrète à travers la construction de l'espace d'états discret sous-jacent. Cette construction comprend trois éléments.

  • Le schéma de tokenisation détermine en quelles unités les données sont découpées.
  • La topologie du vocabulaire détermine comment ces unités sont mises en relation entre elles.
  • Les alphabets structurels de domaine définissent les unités et les liens spécifiques au domaine.

Ces trois décisions ne se réduisent pas à des réglages appliqués à un modèle prêt à l'emploi. Elles définissent l'espace même dans lequel s'effectue la diffusion. C'est pourquoi la tokenisation et la génération sont envisagées dans un même cadre, et non séparément.

Critère pratique : on décrit d'abord l'espace d'états, puis on choisit la formulation du modèle.

Un cadre unifié et trois formulations

Les formulations existantes de la diffusion discrète apparaissent comme différentes instanciations d'un même espace de solutions. Le cadre en distingue trois.

  • Transition-matrix — formulation par matrice de transitions.
  • Masking / absorbing-state — formulation par masquage et état absorbant.
  • Score / ratio-based — formulation par score et rapports.

Le cadre montre qu'il ne s'agit pas de théories concurrentes, mais de variantes d'une même construction. La différence entre elles réside dans le mode d'écriture, et le point commun dans l'espace de solutions auquel elles se rattachent.

Critère : comparer les formulations n'a de sens qu'au sein d'un même cadre. Le choix entre elles est secondaire par rapport à la manière dont l'espace d'états est structuré.

Compromis transversaux

Axes selon lesquels les décisions sont liées

Le cadre met en évidence des compromis communs selon plusieurs axes à la fois :

  • objectifs d'apprentissage ;
  • algorithmes d'inférence ;
  • comportement lors de la mise à l'échelle ;
  • optimisation système ;
  • protocoles d'évaluation.

Les axes sont liés entre eux. Une décision sur l'objectif d'apprentissage limite le choix de l'algorithme d'inférence. L'optimisation système et les protocoles d'évaluation dépendent du même choix.

Comment s'en servir

La comparaison des variantes s'effectue sur tous les axes à la fois. Un gain sur un axe ne dispense pas de vérifier les autres. Le cadre esquisse également des directions de recherche futures.

Ordre des décisions

  1. Décrire l'espace d'états : schéma de tokenisation, topologie du vocabulaire, alphabet structurel de domaine.
  2. Choisir une formulation au sein du cadre : matrice de transitions, masquage, score/ratio.
  3. Définir l'objectif d'apprentissage et l'algorithme d'inférence adaptés à cette construction.
  4. Vérifier la décision selon les axes : mise à l'échelle, optimisation système, protocoles d'évaluation.

Critère de choix : si la construction de l'espace d'états n'est pas décrite, on ne peut justifier ni la formulation ni le schéma d'inférence. Le cadre est décrit dans le travail « Discrete Diffusion Models: A Unified Framework from Tokenization to Generation » (arXiv:2607.13431, v2 du 25 août 2026).

Foire aux questions

Matériaux connexes

Tous matériaux
MathAdv : ce que cache la précision finale des preuves automatiques
Nouvelles

MathAdv : ce que cache la précision finale des preuves automatiques

Un ensemble de tâches diagnostiques couvrant 13 domaines des mathématiques universitaires et de troisième cycle évalue les systèmes de démonstration automatique dans Lean 4 non seulement sur le résultat final, mais aussi sur leur maîtrise des sujets, la qualité de leurs raisonnements informels et leur robustesse face aux reformulations des énoncés. L’analyse par composante montre que la formalisation des problèmes reste le principal obstacle et que la réussite dépend fortement du domaine mathématique et de la manière dont le problème est formulé.

9 novembre 2026
AffordanceWAM : les affordances comme intermédiaire entre la prédiction de scène et le contrôle du manipulateur
Recherche

AffordanceWAM : les affordances comme intermédiaire entre la prédiction de scène et le contrôle du manipulateur

Ce travail présente un modèle génératif qui prédit simultanément les futures observations RGB, les champs scalaires, les cartes thermiques d’affordances et les commandes continues du robot, en s’appuyant sur des vidéos humaines pour diversifier les interactions sans annotations d’actions ni retargeting. Sur RoboCasa, CALVIN ABC→D et des tâches réelles, cette approche offre des gains constants par rapport aux modèles de référence entraînés uniquement sur des données RGB ou robotiques.

9 novembre 2026
L’édition de présentations sous forme d’opérations contrôlables : le framework EditPPT et le benchmark DeckEdit-Bench
Nouvelles

L’édition de présentations sous forme d’opérations contrôlables : le framework EditPPT et le benchmark DeckEdit-Bench

Les auteurs décomposent l’édition de diapositives en objets précis, en actions autorisées et en vérifications visant à s’assurer que le contenu non concerné reste intact, plutôt que de générer librement du code. Pour évaluer la qualité, ils ont créé DeckEdit-Bench (183 tâches sur 28 présentations créées par des humains) ; la méthode multi-agents EditPPT, testée avec cinq modèles de base, réussit 66,7 à 74,9 % des tâches, avec un taux de préservation supérieur à 97 %.

8 novembre 2026
Modèles de diffusion discrets : un cadre général où la structure de l'espace d'états détermine la génération