Méthode GoldiMask pour l’ajustement fin des modèles de langage à diffusion : sélection du contexte et pondération des objectifs
Cet article présente GoldiMask, une approche de fine-tuning supervisé pour les modèles de langage à diffusion discrète, qui sélectionne les tokens visibles par maximisation approximative d’une fonction sous-modulaire et attribue des poids aux objectifs restants en fonction de leur utilité pour l’entraînement. Des expériences menées sur plusieurs modèles et jeux de données montrent une hausse de la précision moyenne, des gains sur les tâches de raisonnement logique et de programmation, ainsi qu’une réduction du nombre d’itérations de décodage parallèle sur GSM8K et MATH-500 à qualité comparable.
Le masquage définit deux décisions à la fois
Le fine-tuning des modèles de langage à diffusion discrète repose sur la reconstruction des tokens masqués. Une partie des tokens de la réponse est masquée, et le modèle prédit leurs valeurs d’origine à partir du contexte visible.
Le schéma de masquage définit deux choses à la fois. Il détermine le contexte accessible au modèle. Il détermine également quels tokens deviennent des cibles de prédiction.
Ces décisions sont liées : un token dévoilé cesse d’être une cible. Le masquage aléatoire uniforme ne tient pas compte de ce lien. Certains tokens sont donc dévoilés alors que cela aide peu la prédiction.
La méthode GoldiMask est décrite dans l’article Fine-Tuning Diffusion Language Models with Context Selection and Target Weighting (arXiv:2609.38385, 29 septembre 2026). Elle est conçue pour le fine-tuning supervisé des modèles de langage à diffusion discrète.
| Décision | Masquage aléatoire uniforme | GoldiMask |
|---|---|---|
| Quels tokens dévoiler comme contexte | sélection aléatoire | sélection selon une fonction objectif sous-modulaire |
| Pondération des tokens cibles restants | indépendante du contexte sélectionné | dépend de l’aide apportée par le contexte et du potentiel d’apprentissage |
| Lien entre les deux décisions | non pris en compte | pris en compte au moyen des signaux du modèle |
Critère : le schéma de masquage doit être évalué comme une décision unique portant sur le contexte et les cibles. On voit alors où le dévoilement des tokens est justifié, et où il ne l’est pas.
Sélection du contexte à partir des signaux du modèle
GoldiMask sélectionne les tokens à dévoiler pour servir de contexte. Cette sélection vise à maximiser approximativement une fonction objectif sous-modulaire.
La méthode utilise les signaux du modèle et équilibre deux grandeurs :
- le bénéfice du dévoilement d’un token donné ;
- la valeur de ce token en tant que cible de prédiction.
Il est avantageux de dévoiler un token qui aide à prédire les tokens environnants. Il est préférable de laisser comme cible un token que le modèle prédit difficilement.
Critère pratique : une sélection aléatoire du contexte n’utilise pas les signaux du modèle. Si c’est bien le schéma utilisé, le potentiel de la sélection du contexte reste inexploité.
Pondération des tokens cibles
Après la sélection du contexte, certains tokens restent des cibles de prédiction. GoldiMask les pondère en tenant compte de deux facteurs :
- dans quelle mesure le contexte sélectionné aide à prédire un token donné ;
- le potentiel d’apprentissage restant pour ce token.
La pondération relie ainsi les cibles à la décision déjà prise concernant le contexte. Elle ne détermine pas quels tokens dévoiler. Elle définit la contribution à l’apprentissage des tokens restés masqués.
Critère : pour analyser un schéma de masquage, il est utile de distinguer deux questions : que dévoiler, et avec quel poids entraîner le reste.
Résultats sur les modèles et les jeux de données
GoldiMask a été évalué sur trois modèles de base et trois jeux de données d’entraînement. La méthode a obtenu la meilleure précision moyenne dans la majorité des configurations évaluées.
Les améliorations ont concerné les tâches de raisonnement et de génération de code. Les études d’ablation des composants ont montré que les deux mécanismes contribuent aux améliorations : la sélection du contexte et la pondération des tokens cibles.
Critère pratique : obtenir la meilleure précision dans la majorité des configurations ne signifie pas qu’il y a un gain dans chacune d’elles. Il est pertinent d’évaluer la méthode sur une paire spécifique « modèle de base + jeu de données d’entraînement ».
Effet sur le décodage parallèle
Un autre résultat concerne le décodage parallèle avec seuil de confiance. Sur GSM8K et MATH-500, GoldiMask réduit le nombre d’itérations de décodage.
La précision reste comparable avec des seuils de confiance plus élevés.
Critère pratique : si le pipeline utilise le décodage parallèle avec un seuil de confiance, la méthode a un effet à la fois sur le nombre d’étapes de décodage et sur la précision. Une évaluation fondée uniquement sur la précision est donc incomplète.
Foire aux questions
Matériaux connexes
Tous matériaux
Évaluation des agents de programmation pour le développement XR interactif : résultats de GenXR-Bench
GenXR-Bench est publié : un ensemble de 112 tâches expertes pour évaluer de bout en bout les agents de programmation dans le développement XR interactif, de l’amélioration de fonctionnalités et de la correction de défauts à la création d’applications dont le comportement est testé sur du matériel grand public. Parmi les dix modèles testés, le meilleur résultat a été de 50,9 % en Pass@1 ; les défaillances récurrentes concernent notamment la gestion des événements asynchrones des capteurs, l’ancrage des objets dans l’espace réel et la compréhension des interactions dans un contexte physique.
5 novembre 2026
De la récompense scalaire au front de Pareto : synthèse RTL par LLM avec apprentissage par renforcement multicritère
Une méthode est proposée pour entraîner un modèle de langage à générer non pas un seul schéma, mais un ensemble de candidats RTL offrant différents compromis entre surface, latence et consommation d’énergie ; la récompense est calculée en fonction de la contribution de chaque variante à l’hypervolume du front de Pareto. Sur RTLLM v2, l’hypervolume relatif a augmenté de 13,3 points de pourcentage par rapport à la version de base sans optimisation PPA et de 14,4 points de pourcentage par rapport à l’apprentissage par renforcement mono-objectif.
5 novembre 2026
Les LLM médicales sont informés des révisions des recommandations, mais répondent souvent selon les anciennes règles
L’étude de ChronoEvo portant sur 1 709 changements dans les recommandations cliniques montre que, dans le modèle principal, 90,8 % des réponses repéraient la nouveauté, mais que seules 58,5 % l’appliquaient intégralement, avec un écart de 32,3 points de pourcentage observé dans 14 modèles. Même en renforçant la visibilité des mises à jour, le transfert intégral des nouvelles règles dans les recommandations cliniques n’a pas connu de hausse significative.
4 novembre 2026