Проверка галлюцинаций LLM через SQL-представление источников без дообучения
Работа проверяет, способна ли LLM задействовать базовый символический навык — сборку SQL-базы по исходным документам — для привязки к источнику без учителя при детекции галлюцинаций. На RAGTruth и DiaHalu такой нейросимволический конвейер оказывается точнее прямого предсказания и сопоставим с передовыми методами, не требуя тонкой настройки под предметную область.

Задача обнаружения галлюцинаций
Галлюцинация — вывод языковой модели, который фактически неверен или не подтверждается источником. Обнаружение таких выводов затрудняет непрозрачность рассуждений LLM. Мало понятно, почему вывод модели может быть неточным.
Статья исследует обнаружение галлюцинаций без учителя. Подход проверяет вывод по источнику, а не по внутренней уверенности модели. Вывод: для проверки нужен внешний якорь — документы-источники.
SQL-база как представление источников
Авторы предлагают поручить языковой модели построить SQL-базу данных по документам-источникам. База становится структурированным представлением фактов из источников. Затем база используется для рассуждений по источнику и сгенерированному ответу.
Вывод: SQL-представление переводит проверку в область запросов к данным.
Нейросимволический конвейер проверки
Конвейер обнаружения галлюцинаций основан на построенной базе. Он обеспечивает нейросимволическую проверку. Конвейер сочетает языковую модель и символические операции с SQL-базой. Проверка идёт по источнику и сгенерированному ответу.
Вывод: шаг проверки становится явным и воспроизводимым через запросы.

Сравнение с прямым предсказанием
На наборах RAGTruth и DiaHalu подход превосходит прямое предсказание. Он конкурирует с передовыми методами обнаружения галлюцинаций. Подход не требует предметно-специфической тонкой настройки. Он опирается на уже имеющуюся у LLM низкоуровневую общую компетенцию.
| Критерий | Прямое предсказание | Подход через SQL-базу | | Что использует | LLM сразу выдаёт оценку | SQL-база по источникам и нейросимволическая проверка | | Предметно-специфическая тонкая настройка | Не указано | Не требует | | Результат на RAGTruth и DiaHalu | Уступает SQL-подходу | Превосходит прямое предсказание и конкурирует с передовыми методами |
Вывод: SQL-подход даёт проверяемую опору на источник. Статья принята на GroundLM EMNLP 2026 Workshop.
Практический критерий выбора
Критерий выбора включает несколько условий:
- есть документы-источники;
- источник допускает построение SQL-базы;
- не требуется предметно-специфическая тонкая настройка;
- проверка идёт по источнику и сгенерированному ответу.
Подход опирается на низкоуровневую символическую компетенцию LLM, например SQL. Вывод: подход уместен, когда проверка опирается на источник и не нужна предметно-специфическая тонкая настройка.
Часто задаваемые вопросы
Похожие материалы
Все материалы
MathAdv: что скрывает итоговая точность машинных доказательств
Диагностический набор задач по 13 университетским и аспирантским разделам математики оценивает системы машинного доказательства в Lean 4 не только по итоговому результату, но и по владению предметом, качеству неформальных рассуждений и устойчивости к переформулировкам условий. Покомпонентный разбор показывает, что перевод задачи в формальный вид по-прежнему остаётся главным препятствием, а успех сильно зависит от области математики и от способа постановки задачи.
9 ноября 2026
AffordanceWAM: аффордансы как посредник между прогнозом сцены и управлением манипулятором
Работа описывает генеративную модель, которая одновременно прогнозирует будущие RGB-наблюдения, скалярные поля и тепловые карты аффордансов и непрерывные команды робота, используя человеческие видео для расширения разнообразия взаимодействий без аннотаций действий и ретаргетинга. На RoboCasa, CALVIN ABC→D и реальных задачах подход даёт устойчивый выигрыш относительно базовых линий только на RGB и только на роботных данных.
9 ноября 2026
Правка презентаций как управляемые операции: фреймворк EditPPT и бенчмарк DeckEdit-Bench
Авторы разбирают редактирование слайдов на конкретные объекты, допустимые действия и проверку того, что постороннее содержимое осталось нетронутым, вместо свободной генерации кода. Для замера качества создан DeckEdit-Bench (183 задачи на 28 человеческих презентациях), а мультиагентная схема EditPPT на пяти базовых моделях показывает успех в 66,7–74,9% задач при сохранности выше 97%.
8 ноября 2026