पारदर्शिता वास्तुकला के हिस्से के रूप में
एक सामान्य न्यूरल नेटवर्क पैटर्न खोजने में अच्छा होता है, लेकिन उन्हें समझा सकता है केवल पूर्वव्यापी रूप से। अक्सर इसके लिए तृतीय-पक्ष इंटरप्रेटर या सरलीकृत सरोगेट मॉडल जोड़े जाते हैं, और ऐसे स्पष्टीकरण केवल एक अनुमान होते हैं कि वास्तव में अंदर क्या हो रहा है। BIRDNet मॉडल इस समझौते से बचने की कोशिश करता है: यह नियमों को वास्तुकला का हिस्सा बनाता है और उन्हें सीधे नेटवर्क से पढ़ता है।
ऐसे नेटवर्क का प्रत्येक छिपा हुआ ब्लॉक एक अमूर्त 'न्यूरॉन' नहीं है, बल्कि एक बूलियन नियम का संक्षिप्त प्रतिनिधित्व है: 'यदि विशेषता A मौजूद है, तो विशेषता B की उम्मीद है'। प्रशिक्षण के बाद अलग-अलग व्याख्यात्मक मॉडल की आवश्यकता नहीं होती: कनेक्शन और वज़न पहले से ही प्रतीकात्मक अर्थ रखते हैं।
तालिकाओं से नियम कैसे उभरते हैं
BIRDNet बाहरी ज्ञान आधार के बिना तालिकाओं से प्रतीकात्मक नियम निकालना शुरू करता है। समृद्ध संचित ज्ञान वाले विषय क्षेत्रों के डेटा में — उदाहरण के लिए, बायोमेडिकल तालिकाओं में — विशेषताओं के जोड़े के बीच बूलियन निहितार्थ अक्सर छिपे होते हैं। ऐसे कनेक्शनों की खोज सांख्यिकीय रूप से, द्विपद परीक्षण के माध्यम से की जाती है, और दुर्लभ अपवाद नियम को नष्ट नहीं करते, बल्कि स्वीकार्य विचलन माने जाते हैं।
जब विशेषताओं के जोड़े मिल जाते हैं, तो उनसे एक टाइप किया हुआ निहितार्थ ग्राफ बनाया जाता है। ग्राफ़ स्वयं फिर न्यूरल नेटवर्क की परतों में बदल जाता है:
- प्रत्येक छिपा हुआ ब्लॉक एक निकाले गए नियम के अनुरूप होता है;
- ब्लॉक केवल अपनी दो विशेषताओं से जुड़ा होता है;
- निहितार्थ परत में सक्रिय वज़न का अनुपात
2/dसे अधिक नहीं होता, जहाँdइनपुट का आयाम है।
ऐसी विरलता नेटवर्क को हल्का बनाती है और साथ ही वास्तुकला और प्रतीकात्मक नियमों के बीच सीधा संबंध बनाए रखती है।
प्रयोग: सटीकता लगभग प्रभावित नहीं होती
यह जाँचने के लिए कि क्या पारदर्शिता के लिए भविष्यवाणी की गुणवत्ता की कीमत चुकानी पड़ती है, BIRDNet को छह ट्रांसक्रिप्टोमिक और प्रोटिओमिक बेंचमार्क पर चलाया गया। घने बेसलाइन मॉडल के साथ तुलना ने दो महत्वपूर्ण आंकड़े दिए:
- सबसे मजबूत घने समाधान से AUROC में अंतर 0.02 से अधिक नहीं था;
- साथ ही, BIRDNet वास्तुकला की दृष्टि से तुलनीय घने MLP की तुलना में 95 गुना कम सक्रिय पैरामीटर का उपयोग करता है।
दूसरे शब्दों में, मॉडल सटीकता में लगभग कम नहीं है, लेकिन कई गुना कम पैरामीटर के साथ काम करता है। व्यवहार में, इसका मतलब एक अधिक स्थिर और किफायती वास्तुकला है जिसे तैनात करना और विश्लेषण करना आसान है।
नियम अर्थ से मूल्यवान हैं, केवल मीट्रिक से नहीं
इस दृष्टिकोण का एक गैर-स्पष्ट पहलू है। नियंत्रण प्रयोगों में, जहाँ विशेषताओं के जोड़े को फेरबदल या यादृच्छिक से बदल दिया गया था, सटीकता नहीं गिरी: यादृच्छिक कनेक्शन मूल के बराबर या AUROC में उनसे बेहतर भी थे। इसका मतलब है कि निकाले गए जोड़े स्वयं मॉडल को भविष्यवाणियों में लाभ नहीं देते। उनका मूल्य कहीं और है।
सार्थक निहितार्थ प्रतीकात्मक व्याख्या को बनाए रखते हैं। BIRDNet की पहली परत के नियम कई कैंसर उपप्रकारों और ऊतक प्रकारों के लिए ज्ञात जैविक हस्ताक्षरों के अनुरूप हैं। दूसरी ओर, यादृच्छिक जोड़े, तुलनीय सटीकता के बावजूद, कोई अर्थ नहीं रखते।
इसलिए BIRDNet केवल लक्ष्य चर की थोड़ी बेहतर भविष्यवाणी करने का एक और तरीका नहीं है। यह एक उदाहरण है कि कैसे एक न्यूरल नेटवर्क को एक साथ भविष्यवाणी मॉडल और परीक्षण योग्य परिकल्पनाओं के स्रोत के रूप में उपयोग किया जा सकता है। यह कार्य arXiv पर प्रकाशित हुआ और CIKM 2026 में स्वीकार किया गया — यह एक मजबूत संकेत है कि व्याख्या योग्य न्यूरो-सिंबोलिक वास्तुकला का विषय गति पकड़ रहा है।
