Qu'est-ce qui cloche avec l'apprentissage neuro-symbolique sur les logiques de description
Les ontologies OWL 2 DL, fondées sur la logique de description SROIQ, sont depuis longtemps un outil de travail en biomédecine et sur le Web sémantique — elles permettent de décrire de manière compacte de grandes bases de connaissances. Mais dès qu'il s'agit d'entraîner des réseaux de neurones avec de telles ontologies, les problèmes commencent. Les approches classiques soit « diluent » la logique en intégrant l'ontologie dans des espaces vectoriels continus, ce qui fait perdre la stricte conséquence logique, soit se limitent au fragment hornien EL++, qui ne possède qu'un seul modèle canonique. De ce fait, les ontologies expressives restent souvent inaccessibles aux systèmes hybrides.
Compilation de l'ontologie en un schéma différentiable
Le système Baobab propose de ne pas faire de compromis : il compile l'ontologie SROIQ complète avec une ABox finie en un Sentential Decision Diagram (SDD). Le processus se déroule en deux étapes : d'abord, le noyau propositionnel est saturé à l'aide d'un calcul fondé sur les conséquences (consequence-based calculus), puis les constructions spécifiques à SROIQ — nominaux, restrictions de cardinalité sur les rôles et axiomes de rôles — sont instanciées sur le domaine actif. On obtient en sortie un schéma sur lequel on peut effectuer un comptage pondéré de modèles (weighted model count, WMC). C'est précisément le WMC qui devient le lien entre le réseau de neurones et les contraintes logiques.
Entraînement du réseau de neurones avec préservation de la logique
Le comptage pondéré de modèles du SDD tenant compte des preuves permet d'entraîner un réseau de perception — par exemple, un réseau de neurones convolutif — à reconnaître des images même lorsque seule une partie des données est annotée dans l'ABox. Dans l'expérience, les auteurs ont construit une ontologie mobilisant toutes les caractéristiques distinctives de SROIQ et ont entraîné un CNN à reconnaître les chiffres MNIST liés par une relation de succession. Le réseau ne se contentait pas de classer les images — il a reconstruit les concepts ontologiques latents. Lors d'un entraînement indépendant de la perception, ces concepts restent au niveau du hasard, alors qu'ici ils ont été appris grâce aux contraintes logiques.
Reasoning shortcuts et a posteriori calibré
Lorsque le signal superviseur admet plusieurs variantes d'achèvement, toutes également cohérentes avec l'ontologie, un réseau entraîné indépendamment « s'effondre » souvent vers l'une d'elles. Les auteurs appellent ce phénomène reasoning shortcut. L'article montre qu'un mélange indexé par les justifications de la requête est capable de représenter un a posteriori calibré — ce qui est inaccessible à un modèle unique. De plus, si l'on initialise un tel mélange à partir des achèvements énumérés du schéma, on peut obtenir un a posteriori bayésien optimal sur la tâche MNIST avec de vraies images. Pour comparaison, un WMC unique et des mélanges-ensembles entraînés ne donnent pas ce résultat.
Vérification de la correction et disponibilité
Les auteurs soulignent qu'il s'agit du premier travail dans lequel les reasoning shortcuts sont caractérisés et atténués pour une logique de description non-hornienne. La correction du compilateur et le résultat de représentabilité sont vérifiés par machine dans Lean 4 — c'est un argument sérieux en faveur de la fiabilité de l'approche. Le code du système est ouvert, de sorte que les résultats peuvent être reproduits et développés.
Conclusion
Baobab montre que pour être apprenable, il n'est pas nécessaire de sacrifier l'expressivité de la logique de description. La compilation de SROIQ en un schéma différentiable préserve les conséquences logiques et offre en même temps la possibilité d'entraîner des réseaux de neurones sur des données réelles. Et la résolution du problème des reasoning shortcuts via des mélanges indexés par les justifications constitue une étape importante vers des modèles hybrides plus fiables et mieux calibrés.
