Pourquoi les données propres masquent la différence entre les variantes de KAN
La littérature sur les variantes efficaces du réseau de Kolmogorov–Arnold couvre les versions Chebyshev, par ondelettes et à base radiale du KAN original. Les benchmarks de ces travaux sont construits sur des données propres. Ce choix masque une différence majeure dans les capacités des architectures.
Le travail arXiv:2608.14773 met cette différence au premier plan. La première version est apparue le 14 août 2026, la seconde le 25 août 2026. Volume : 22 pages, 20 figures et 8 tableaux. Thématique : apprentissage automatique et intelligence artificielle.
Critère pratique : comparer les variantes de KAN uniquement sur des données propres ne donne pas de base pour choisir. Pour évaluer, il faut un protocole avec des données bruitées.
De combien l'erreur augmente en présence de bruit
La métrique est le MSE de test, mesuré par rapport à une fonction de référence propre. L'entraînement se fait sur des données corrompues par un bruit avec sigma = 0,1. L'indicateur de croissance décrit combien de fois l'erreur a augmenté par rapport au cas propre.
| Variante d'architecture | Croissance du MSE de test à sigma = 0,1 |
|---|---|
| ChebyKAN | 10,6x |
| KAN original | 7,9x |
| MLP standard | 1,7x |
| ER-KAN | 1,4x |
Conclusion : ER-KAN donne la plus faible croissance de l'erreur parmi les variantes testées. Le MLP standard tient lui aussi nettement mieux que ChebyKAN et le KAN original.
Trois solutions qui donnent à ER-KAN sa robustesse
ER-KAN est assemblé à partir de trois procédés ciblant le régime bruité en situation de pénurie de données.
- Bases RBF gaussiennes partagées sur toutes les arêtes d'une couche. Elles apportent localité et une paramétrisation économe.
- Curriculum noise injection pendant l'entraînement. Le modèle apprend explicitement la robustesse au bruit.
- Entropy-weighted adaptive regularisation. Empêche le surapprentissage lorsque le nombre d'exemples est faible.
Résultat : un réseau de 595 paramètres atteint la même précision qu'un MLP sous bruit modéré. Lorsque le bruit augmente, il se dégrade beaucoup plus doucement.
Protocole de vérification et son résultat négatif
Les expériences reposent sur plusieurs ensembles de conditions.
- Huit fonctions analytiques, nombre d'exemples N issu de l'ensemble 50, 200 et 500.
- Niveaux de bruit sigma issus de l'ensemble 0,03 et 0,1.
- PINN pour l'oscillateur harmonique amorti : ER-KAN donne un solution MSE 4,2 fois plus faible que le MLP.
- PINN pour l'équation de Burgers : tous les modèles ne convergent pas.
L'auteur signale ouvertement l'échec sur l'équation de Burgers. C'est une limite de la méthode, et non un défaut dissimulé du rapport. Les conclusions sur l'oscillateur ne se transposent pas automatiquement à d'autres équations.
Le noise degradation ratio comme métrique à part entière
L'auteur introduit le noise degradation ratio — un complément simple aux mesures existantes. La métrique indique combien de fois l'erreur sur des données bruitées est plus grande que l'erreur sur des données propres. L'auteur recommande d'en faire un élément obligatoire de la reporting dans les articles sur les variantes efficaces de KAN.
La valeur pratique de la métrique est de comparer les architectures par leur robustesse, et non seulement par leur précision. Pour une littérature où les benchmarks reposaient sur des données propres, cela change le critère d'évaluation.
Critère pratique de choix
- Données bruitées et peu d'exemples. ER-KAN donne la plus faible croissance de l'erreur parmi les variantes testées.
- Bruit modéré. Le réseau de 595 paramètres atteint la même précision qu'un MLP.
- Besoin d'une base simple pour comparer. Le MLP standard se dégrade plus faiblement que ChebyKAN et le KAN original.
- PINN pour l'oscillateur amorti. ER-KAN montre un solution MSE plus faible que le MLP.
- PINN pour l'équation de Burgers. Aucun des modèles testés n'a convergé.
Le choix repose sur le niveau de bruit et le volume de l'échantillon, et non sur les résultats sur données propres. Un rapport sans noise degradation ratio est incomplet pour les tâches où le bruit est présent.
