Apa yang Salah dengan Pembelajaran Neuro-Simbolik pada Logika Deskriptif
Ontologi OWL 2 DL, yang didasarkan pada logika deskriptif SROIQ, telah lama menjadi alat kerja di bidang biomedis dan Semantic Web — ontologi memungkinkan pendeskripsian basis pengetahuan yang besar secara ringkas. Namun, ketika berbicara tentang pelatihan jaringan saraf menggunakan ontologi semacam itu, masalah mulai bermunculan. Pendekatan klasik baik "mengaburkan" logika dengan menanamkan ontologi ke dalam ruang vektor kontinu, yang menyebabkan hilangnya konsekuensi logis yang ketat, atau membatasi diri pada fragmen Horn EL++, yang hanya memiliki satu model kanonik. Akibatnya, ontologi ekspresif sering kali tidak dapat diakses oleh sistem hibrida.
Kompilasi Ontologi ke dalam Skema yang Dapat Diferensiasi
Sistem Baobab menawarkan untuk tidak berkompromi: sistem ini mengompilasi ontologi SROIQ lengkap dengan ABox hingga ke dalam Sentential Decision Diagram (SDD). Prosesnya berlangsung dalam dua tahap: pertama, inti proposisional dijenuhkan menggunakan kalkulus berbasis konsekuensi (consequence-based calculus), kemudian konstruksi khusus SROIQ — nominal, batasan jumlah peran, dan aksioma peran — diinstansiasi pada domain aktif. Hasilnya adalah skema yang dapat digunakan untuk melakukan penghitungan model berbobot (weighted model count, WMC). WMC inilah yang menjadi penghubung antara jaringan saraf dan batasan logis.
Pelatihan Jaringan Saraf dengan Mempertahankan Logika
Penghitungan model berbobot SDD dengan mempertimbangkan bukti memungkinkan pelatihan jaringan persepsi — misalnya, jaringan saraf konvolusional — untuk mengenali gambar bahkan ketika hanya sebagian data yang diberi anotasi di ABox. Dalam eksperimen, penulis membangun ontologi yang menggunakan semua fitur khas SROIQ, dan melatih CNN untuk mengenali digit MNIST yang dihubungkan oleh relasi suksesi. Jaringan tidak hanya mengklasifikasikan gambar — jaringan juga memulihkan konsep ontologis laten. Dalam pelatihan persepsi independen, konsep semacam itu tetap pada tingkat acak, tetapi di sini konsep tersebut dipelajari berkat batasan logis.
Reasoning Shortcuts dan Posterior yang Terkalibrasi
Ketika sinyal supervisor memungkinkan beberapa kemungkinan penyelesaian yang sama-sama konsisten dengan ontologi, jaringan yang dilatih secara independen sering kali "runtuh" ke salah satu di antaranya. Penulis menyebut fenomena ini sebagai reasoning shortcut. Dalam makalah ini ditunjukkan bahwa campuran yang diindeks oleh justifikasi (justifications) dari kueri mampu merepresentasikan posterior yang terkalibrasi — sesuatu yang tidak dapat dicapai oleh model tunggal. Lebih jauh lagi, jika campuran tersebut diinisialisasi dari penyelesaian skema yang terdaftar, posterior optimal secara Bayesian dapat diperoleh pada tugas MNIST dengan gambar nyata. Sebagai perbandingan: WMC tunggal dan campuran-ensemble yang dilatih tidak memberikan hasil seperti itu.
Verifikasi Kebenaran dan Ketersediaan
Penulis mencatat bahwa ini adalah karya pertama yang mengkarakterisasi dan memitigasi reasoning shortcuts untuk logika deskriptif non-Horn. Kebenaran kompiler dan hasil keterwakilan telah diverifikasi secara mekanis di Lean 4 — ini merupakan argumen kuat untuk keandalan pendekatan ini. Kode sistem bersifat terbuka, sehingga hasilnya dapat direproduksi dan dikembangkan.
Kesimpulan
Baobab menunjukkan bahwa untuk dapat dilatih, tidak perlu mengorbankan ekspresivitas logika deskriptif. Kompilasi SROIQ ke dalam skema yang dapat diferensiasi mempertahankan konsekuensi logis dan sekaligus memungkinkan pelatihan jaringan saraf pada data nyata. Dan pemecahan masalah reasoning shortcuts melalui campuran yang diindeks oleh justifikasi — merupakan langkah penting menuju model hibrida yang lebih andal dan terkalibrasi.
