Transparansi sebagai Bagian dari Arsitektur
Jaringan saraf biasa pandai menemukan pola, tetapi hanya dapat menjelaskannya setelah kejadian. Sering kali, untuk itu digunakan interpreter pihak ketiga atau model pengganti yang disederhanakan, dan penjelasan semacam itu hanyalah perkiraan dari apa yang sebenarnya terjadi di dalam. Model BIRDNet berusaha menghindari kompromi ini: model ini menjadikan aturan sebagai bagian dari arsitektur dan membacanya langsung dari jaringan.
Setiap blok tersembunyi dari jaringan semacam itu bukanlah "neuron" abstrak, melainkan representasi ringkas dari aturan boolean: "jika ada fitur A, maka fitur B diharapkan muncul." Setelah pelatihan, tidak diperlukan model penjelas terpisah: koneksi dan bobot sudah membawa makna simbolis.
Bagaimana Aturan Muncul dari Tabel
Mengekstrak aturan simbolis dari tabel, BIRDNet memulainya tanpa basis pengetahuan eksternal. Dalam data dari domain dengan pengetahuan akumulasi yang kaya — misalnya, tabel biomedis — implikasi boolean sering tersembunyi di antara pasangan fitur. Pencarian hubungan semacam itu dilakukan secara statistik, menggunakan uji binomial, di mana pengecualian yang jarang tidak merusak aturan, melainkan dianggap sebagai deviasi yang dapat diterima.
Ketika pasangan fitur ditemukan, grafik implikasi yang diketik disusun darinya. Grafik itu sendiri kemudian diubah menjadi lapisan-lapisan jaringan saraf:
- setiap blok tersembunyi sesuai dengan satu aturan yang diekstraksi;
- blok hanya terhubung dengan dua fiturnya sendiri;
- di lapisan implikasi, proporsi bobot aktif tidak melebihi
2/d, di manadadalah dimensi input.
Sparsitas semacam ini membuat jaringan menjadi ringan sekaligus mempertahankan hubungan langsung antara arsitektur dan aturan simbolis.
Eksperimen: Akurasi Hampir Tidak Terpengaruh
Untuk memeriksa apakah transparansi harus dibayar dengan kualitas prediksi, BIRDNet diuji pada enam tolok ukur transkriptomik dan proteomik. Perbandingan dengan model dasar yang padat menghasilkan dua angka penting:
- selisih dari solusi padat terkuat dalam hal AUROC tidak lebih dari 0,02;
- pada saat yang sama, BIRDNet menggunakan hingga 95 kali lebih sedikit parameter aktif daripada MLP padat yang sebanding secara arsitektural.
Dengan kata lain, model ini hampir tidak kalah dalam akurasi, tetapi membutuhkan parameter yang jauh lebih sedikit. Dalam praktiknya, ini berarti arsitektur yang lebih stabil dan efisien, yang lebih mudah diterapkan dan dianalisis.
Aturan Berharga karena Maknanya, Bukan Hanya Metriknya
Ada nuansa yang tidak terlihat dari pendekatan ini. Dalam eksperimen kontrol, di mana pasangan fitur diacak atau diganti dengan yang acak, akurasi tidak turun: koneksi acak ternyata sebanding dengan yang asli atau bahkan melampauinya dalam hal AUROC. Ini berarti pasangan yang diekstraksi itu sendiri tidak memberikan keunggulan prediksi bagi model. Nilainya ada di tempat lain.
Implikasi yang bermakna mempertahankan interpretasi simbolis. Aturan lapisan pertama BIRDNet sesuai dengan sinyal biologis yang dikenal untuk beberapa subtipe kanker dan jenis jaringan. Sementara itu, pasangan acak, meskipun akurasinya sebanding, tidak membawa makna apa pun.
Oleh karena itu, BIRDNet bukan sekadar cara lain untuk memprediksi variabel target dengan sedikit lebih baik. Ini adalah contoh bagaimana jaringan saraf dapat digunakan secara bersamaan sebagai model prediktif dan sebagai sumber hipotesis yang dapat diuji. Karya ini muncul di arXiv dan diterima di CIKM 2026 — sinyal kuat bahwa topik arsitektur neurosimbolis yang dapat diinterpretasikan baru saja mulai berkembang pesat.
