Verificación de alucinaciones de LLM mediante una vista SQL de las fuentes, sin reentrenamiento

9 noviembre 202616 vistas

El estudio evalúa si un LLM puede aprovechar una habilidad simbólica básica —crear una base de datos SQL a partir de documentos fuente— para fundamentar sus respuestas en las fuentes sin supervisión al detectar alucinaciones. En RAGTruth y DiaHalu, este flujo de trabajo neuro-simbólico resulta más preciso que la predicción directa y comparable a los métodos más avanzados, sin requerir un ajuste fino al dominio.

Verificación de alucinaciones de LLM mediante una vista SQL de las fuentes, sin reentrenamiento

Tarea de detección de alucinaciones

Una alucinación es una respuesta de un modelo de lenguaje que es objetivamente incorrecta o no está respaldada por la fuente. La opacidad del razonamiento de los LLM dificulta la detección de estas respuestas. No está claro por qué la respuesta del modelo puede ser inexacta.

El artículo estudia la detección de alucinaciones sin supervisión. El enfoque contrasta la respuesta con la fuente, en lugar de basarse en la confianza interna del modelo. La conclusión: para verificarla se necesita un punto de referencia externo: los documentos fuente.

Una base de datos SQL como representación de las fuentes

Los autores proponen encargar a un modelo de lenguaje que construya una base de datos SQL a partir de los documentos fuente. La base de datos se convierte en una representación estructurada de los hechos de las fuentes. Después, se utiliza para razonar sobre la fuente y la respuesta generada.

Conclusión: la representación SQL transforma la verificación en consultas a los datos.

Un flujo de verificación neurosimbólico

El flujo de detección de alucinaciones se basa en la base de datos construida. Permite una verificación neurosimbólica. El flujo combina un modelo de lenguaje y operaciones simbólicas con una base de datos SQL. La verificación se realiza contrastando la fuente con la respuesta generada.

Conclusión: el paso de verificación se vuelve explícito y reproducible mediante consultas.

Comparación con la predicción directa

En los conjuntos de datos RAGTruth y DiaHalu, el enfoque supera a la predicción directa. Compite con los métodos más avanzados de detección de alucinaciones. No requiere un ajuste fino específico del dominio. Se apoya en la competencia general de bajo nivel que los LLM ya poseen.

| Criterio | Predicción directa | Enfoque basado en una base de datos SQL | | Qué utiliza | El LLM genera directamente una evaluación | Base de datos SQL basada en las fuentes y verificación neurosimbólica | | Ajuste fino específico del dominio | No se indica | No lo requiere | | Resultado en RAGTruth y DiaHalu | Inferior al enfoque SQL | Supera a la predicción directa y compite con los métodos más avanzados |

Conclusión: el enfoque SQL ofrece una base verificable en la fuente. El artículo fue aceptado en el GroundLM EMNLP 2026 Workshop.

Criterio práctico de selección

El criterio de selección incluye varias condiciones:

  • hay documentos fuente;
  • la fuente permite construir una base de datos SQL;
  • no se requiere un ajuste fino específico del dominio;
  • la verificación se realiza contrastando la fuente con la respuesta generada.

El enfoque se apoya en la competencia simbólica de bajo nivel del LLM, por ejemplo, SQL. Conclusión: el enfoque es adecuado cuando la verificación se basa en la fuente y no se necesita un ajuste fino específico del dominio.

Preguntas frecuentes

Material similar

Todos los materiales
MathAdv: qué oculta la precisión final de las demostraciones de máquinas
Noticias

MathAdv: qué oculta la precisión final de las demostraciones de máquinas

Un conjunto diagnóstico de tareas de 13 áreas de matemáticas de nivel universitario y de posgrado evalúa los sistemas de demostración automática en Lean 4 no solo por el resultado final, sino también por su dominio de la materia, la calidad de sus razonamientos informales y su robustez ante reformulaciones de los enunciados. El análisis por componentes muestra que traducir un problema a un formato formal sigue siendo el principal obstáculo, y que el éxito depende en gran medida del área matemática y de cómo se plantee el problema.

9 noviembre 2026
AffordanceWAM: las affordances como intermediarias entre la predicción de la escena y el control del manipulador
Investigación

AffordanceWAM: las affordances como intermediarias entre la predicción de la escena y el control del manipulador

El trabajo describe un modelo generativo que predice simultáneamente futuras observaciones RGB, campos escalares, mapas de calor de affordances y comandos continuos para el robot, utilizando videos de personas para ampliar la diversidad de interacciones sin anotaciones de acciones ni retargeting. En RoboCasa, CALVIN ABC→D y tareas reales, el enfoque ofrece mejoras consistentes frente a las líneas de base que utilizan solo RGB o solo datos robóticos.

9 noviembre 2026
Edición de presentaciones como operaciones controladas: el framework EditPPT y el benchmark DeckEdit-Bench
Noticias

Edición de presentaciones como operaciones controladas: el framework EditPPT y el benchmark DeckEdit-Bench

Los autores abordan la edición de diapositivas centrándose en objetos concretos, acciones permitidas y la verificación de que el contenido ajeno permanezca intacto, en lugar de generar código libremente. Para medir la calidad, crearon DeckEdit-Bench (183 tareas en 28 presentaciones creadas por personas), y el sistema multiagente EditPPT, probado con cinco modelos base, alcanza el éxito en el 66,7–74,9 % de las tareas, con una conservación superior al 97 %.

8 noviembre 2026
Verificación de alucinaciones de LLM mediante una vista SQL de las fuentes, sin reentrenamiento