MaRK : modulation contextuelle des paramètres récurrents dans les SSM préentraînés
Une approche est proposée pour adapter au contexte l’opérateur récurrent d’un modèle d’espace d’états gelé au moyen de modifications de paramètres de faible rang, en agissant sur le noyau « entrée-sortie » à chaque étape de génération. La comparaison de trois géométries d’adaptateurs montre que les polynômes de Tchebychev offrent une meilleure erreur de validation, tandis que la paramétrisation contrainte permet une vérification analytique de la stabilité.

Objectif et principe de MaRK
MaRK (Markov-adapted Recurrent Kernels) est un framework de conditionnement dynamique des opérateurs. Il transforme des vecteurs contextuels en modulations bornées des opérateurs de récurrence.
- Dans la représentation LPV-SSM, MaRK définit une famille de séquences de paramètres de Markov indexée par le contexte.
- L’approche est conçue pour les SSM préentraînés.
- Les mécanismes de conditionnement habituels laissent inchangée la dynamique temporelle de base. Ils incluent l’injection d’informations à l’entrée et la modulation des activations.
Critère pratique : MaRK est utile lorsqu’il faut modifier la dynamique temporelle d’une SSM, et pas seulement les données d’entrée ou les activations.
Paramètres de la SSM modulés
MaRK module cinq groupes de paramètres de la SSM gelée :
- A — récurrence ;
- B — lecture à l’entrée ;
- C — lecture à la sortie ;
- D — saut ;
- Δ — discrétisation.
Critère pratique : MaRK modifie A, B, C, D et Δ. Si la tâche nécessite de modifier ces paramètres, l’approche les prend en charge.
Adaptateurs et entraînement avec une base gelée
MaRK s’appuie sur le modèle de base Hydra SSM gelé, qui compte 111 millions de paramètres. L’étude examine trois géométries d’adaptateurs :
- Hypernet ;
- polynômes de Chebyshev ;
- noyaux de la transformée en cosinus discrète (DCT).
Les adaptateurs modifient la séquence de paramètres de Markov au moyen de transformations auxiliaires de faible rang. Le modèle de base reste gelé.
Le passage d’une fonction objectif bidirectionnelle à un régime de diffusion itérative nécessite 6,3 à 11 millions de paramètres auxiliaires entraînables. Critère pratique : seuls les transformations auxiliaires doivent être entraînés ; la SSM de base reste gelée.
Résultats expérimentaux et choix de la géométrie
Dans les expériences synthétiques de reconstruction LPV et de diagnostic des opérateurs de Markov, MaRK reconstruit des opérateurs temporels invariants par changement de coordonnées lorsque les hypothèses concordent. La méthode produit différents profils de mémoire stables, conditionnés par le pas de temps.
| Géométrie de l’adaptateur | Perte de validation |
|---|---|
| Chebyshev | 2.55 |
| DCT | 2.59 |
| Hypernet | 3.77 |
La meilleure perte de validation parmi les trois options est celle de Chebyshev, avec 2.55. La DCT obtient 2.59, et Hypernet 3.77. Critère pratique : si l’on se base sur la perte de validation dans les expériences décrites, Chebyshev obtient 2.55, la DCT 2.59 et Hypernet 3.77. Le choix de la géométrie de l’adaptateur influe sur le résultat.
Stabilité et limites d’applicabilité
La paramétrisation bornée de la récurrence fournit un certificat analytique de stabilité quadratique affine pour la récurrence modulée. MaRK est conçue pour la génération itérative avec des SSM préentraînés. Chaque étape de diffusion peut modifier le noyau mémoire entrée-sortie du modèle.
Critère pratique : MaRK convient lorsqu’un certificat analytique de stabilité est nécessaire et que le noyau mémoire doit être modifié à chaque étape de diffusion.
Statut de publication et version
- Auteurs de l’article : Syed Ibrahim Omer, Ginny Y. Wong, Xiangyu Zhao.
- L’article arXiv:2610.09092 contient la version v1 du 6 octobre 2026.
- La dernière révision date du 18 octobre 2026 (version v3).
- La référence de la revue indique NeurIPS 2026 Submission.
Critère pratique : pour référencer correctement les résultats, indiquez la version v3 du 18 octobre 2026 et le statut NeurIPS 2026 Submission.
Foire aux questions
Matériaux connexes
Tous matériaux
B-PINN et biais de collisionneur : causes, diagnostic et alternative en chaîne
Les auteurs montrent que le schéma B-PINN courant, dans lequel des paramètres a priori indépendants sont reliés par des vraisemblances virtuelles des résidus des équations différentielles, peut systématiquement biaiser les estimations a posteriori des grandeurs physiques. Ils proposent à la place un modèle en chaîne hiérarchique, avec discrétisation de la dynamique stochastique et échantillonnage par particle MCMC, et fournissent des critères pour évaluer la fiabilité de l’approche standard.
14 novembre 2026
Entraînement complémentaire de modèles génératifs d’images : prise en compte conjointe des préférences et des catégories
L’article décrit une méthode de post-entraînement de modèles text-to-image en domaine ouvert, où le signal des préférences humaines est complété par des vérifications fondées sur une grille d’évaluation, portant sur la conformité au prompt et les propriétés souhaitées. Les résultats montrent que la moyenne pondérée des récompenses est moins performante que la méthode proposée et que, sur le snapshot d’Arena, Flux2dev et Ideogram-4 après entraînement affichent une hausse notable de leur Elo.
14 novembre 2026
Benchmark Zero2Repo : les limites de la création autonome d’un projet à partir d’un répertoire vide
Une étude propose d’évaluer les agents de programmation sur une compilation complète du dépôt : en entrée, une spécification, un contrat d’interface et un environnement vierge ; la vérification repose sur des tests cachés, sans évaluateur LLM. Même les agents les plus performants réussissent rarement tous les tests, et la plupart des échecs sont dus à des exigences particulières qui ont été omises.
13 novembre 2026