Pourquoi l’approche GPT bute sur la musique symbolique : la compression ne fonctionne que dans le bon système de coordonnées
On pourrait croire que la musique symbolique est faite pour la tokenisation : les notes sont discrètes, les accords se répètent, les motifs forment des structures reconnaissables. Les modèles GPT excellent avec les tokens réutilisables, d’où la tentation de transposer directement l’approche linguistique à la portée musicale. Mais la pratique montre que la tokenisation de la musique n’est pas un simple découpage de séquence, c’est un choix de système de coordonnées dans lequel le modèle peut réellement percevoir les régularités.
Les tokens ne sont pas une interface universelle
Le succès des modèles de langage repose sur un vocabulaire fini de tokens réutilisables dans différents contextes. Cette interface est si pratique qu’on a commencé à l’appliquer à d’autres domaines — du code aux séquences biologiques. Mais dès qu’on sort du langage, un problème apparaît : il n’existe pas de critère unique définissant ce que doit représenter une tokenisation ni où elle doit s’arrêter. Ce qui fonctionne bien pour le texte peut s’avérer inutile, voire nuisible, pour la musique.
L’étude de Yi Wang (arXiv:2608.18025) propose un critère général — la longueur de code prédictive (predictive codelength). C’est une mesure de la qualité avec laquelle le modèle compresse l’information en prédisant l’élément suivant. Si la tokenisation contribue à réduire cette longueur, elle capture une structure réelle des données ; sinon, elle ne fait que créer l’illusion d’un ordre.
La musique exige des coordonnées, pas seulement un vocabulaire
La musique symbolique ressemble trompeusement au langage : mêmes notes, mêmes accords. Mais derrière cette discrétion se cachent des paramètres continus de temps et de tonalité. Lorsqu’on découpe la musique en tokens par analogie avec les mots, on fixe implicitement un référentiel. Par exemple, on peut encoder la hauteur d’une note comme une valeur absolue — mais le modèle doit alors deviner lui-même la tonalité. On peut définir le temps comme un compteur entier — mais les décalages et le tempo deviennent alors indistinguables.
L’auteur du cadre Effectiveness–Losslessness Framework distingue deux frontières. La Fact–Token Boundary détermine où la structure observable doit entrer dans l’interface tokenique — par exemple via une construction explicite des coordonnées. La Token–State Boundary indique où la tokenisation doit s’arrêter : les dépendances restantes doivent être calculées par le modèle lui-même, dans son état interne, plutôt que reçues toutes prêtes du tokeniseur. Si on compresse trop, le modèle perd la capacité d’utiliser le contexte ; si on compresse trop peu, il se noie dans des détails insignifiants.
Expérience : le temps et la tonalité font la différence
Dans des expériences multi-seed contrôlées sur de la musique symbolique, il s’est avéré que la spécification explicite du temps musical réduit systématiquement le code prédictif. Autrement dit, plutôt que de cacher les horodatages dans les tokens, mieux vaut en faire une coordonnée distincte — le modèle commence alors à prédire plus précisément à la fois la hauteur et la durée des notes. Un gain supplémentaire provient de la canonisation du contexte tonal : ramener toutes les phrases à un centre tonal unique. La factorisation de la hauteur — séparer le degré de l’octave — aide également.
Mais ce qui ne fonctionne pas est tout aussi important. Les coordonnées fixes de hauteur basées sur le cycle des quintes — une belle théorie musicale imposée sans tenir compte du contexte — augmentent le code prédictif. Une relation de hauteurs fixée à l’avance empêche le modèle de s’adapter à l’harmonie concrète. Le tokeniseur a décidé à la place du modèle comment les liens entre les notes sont organisés, et le modèle se retrouve sans travail.
La compression pour la compression ne sert à rien
Une surprise supplémentaire : la BPE réversible. Elle permet de raccourcir considérablement le porteur (carrier) — c’est-à-dire la séquence de tokens elle-même — mais la longueur de code prédictive augmente alors sur chaque seed. Du point de vue du stockage des données, c’est un excellent compresseur ; du point de vue de l’apprentissage, c’est un mauvais allié. Tout cela parce que la BPE regroupe les fragments répétés mais perd les relations contextuelles : le modèle économise sur la longueur, mais dépense des efforts à apprendre des abréviations artificielles.
Conclusion
L’approche GPT bute sur la musique symbolique non pas par manque de puissance, mais à cause d’un mauvais choix de système de coordonnées. La compression ne fonctionne que lorsque l’interface tokenique est alignée avec la structure réelle des données : le temps doit être du temps, la tonalité doit être une tonalité, et tout le reste doit être l’affaire du modèle lui-même. Le critère de la longueur de code prédictive permet de distinguer une tokenisation utile d’un simple embellissement et de comprendre où il convient réellement de tracer la frontière entre le fait et le calcul.
