Прозрачность как часть архитектуры
Обычная нейросеть хорошо находит закономерности, но объяснить их может только задним числом. Чаще всего для этого подключают сторонние интерпретаторы или упрощённые модели-суррогаты, а такие объяснения — лишь приближение к тому, что на самом деле происходит внутри. Модель BIRDNet пытается уйти от этого компромисса: она делает правила частью архитектуры и читает их сразу из сети.
Каждый скрытый блок такой сети — не абстрактный «нейрон», а компактное представление булева правила: «если есть признак A, то ожидается признак B». После обучения не нужны отдельные объясняющие модели: связи и веса уже несут символьный смысл.
Как из таблиц появляются правила
Извлекать символьные правила из таблиц BIRDNet начинает без внешней базы знаний. В данных из предметных областей с богатым накопленным знанием — например, в биомедицинских таблицах — между парами признаков часто прячутся булевы импликации. Поиск таких связей идёт статистически, с помощью биномиального теста, причём редкие исключения не разрушают правило, а считаются допустимыми отклонениями.
Когда пары признаков найдены, из них собирается типизированный граф импликаций. Сам граф затем превращается в слои нейросети:
- каждый скрытый блок соответствует одному извлечённому правилу;
- блок связывается только с двумя своими признаками;
- в слое импликаций доля активных весов не превышает
2/d, гдеd— размерность входа.
Такая разреженность делает сеть лёгкой и одновременно сохраняет прямую связь между архитектурой и символьными правилами.
Эксперименты: точность почти не страдает
Чтобы проверить, не приходится ли платить за прозрачность качеством предсказаний, BIRDNet прогнали на шести транскриптомных и протеомных бенчмарках. Сравнение с плотными базовыми моделями дало две важные цифры:
- отставание от сильнейшего плотного решения по AUROC составило не более 0,02;
- при этом BIRDNet использует до 95 раз меньше активных параметров, чем архитектурно сопоставимый плотный MLP.
Иными словами, модель почти не уступает в точности, но обходится кратно меньшим числом параметров. На практике это означает более устойчивую и экономичную архитектуру, которую проще разворачивать и анализировать.
Правила ценны смыслом, а не только метрикой
У такого подхода есть неочевидный нюанс. В контрольных экспериментах, где пары признаков перемешивали или заменяли случайными, точность не падала: случайные связи оказывались сравнимы с исходными или даже превосходили их по AUROC. Значит, сами по себе извлечённые пары не дают модели преимущество в предсказаниях. Их ценность — в другом.
Осмысленные импликации сохраняют символьную интерпретацию. Правила первого слоя BIRDNet согласуются с известными биологическими сигнатурами для нескольких подтипов рака и типов тканей. Случайные же пары при сопоставимой точности не несут никакого смысла.
Поэтому BIRDNet — не просто ещё один способ чуть лучше предсказать целевую переменную. Это пример того, как нейросеть можно использовать одновременно как предсказательную модель и как источник проверяемых гипотез. Работа появилась на arXiv и была принята на CIKM 2026 — уверенный сигнал, что тема интерпретируемых нейросимвольных архитектур только набирает обороты.
