通过 SQL 视图检查 LLM 幻觉,无需微调
这项研究考察了 LLM 能否运用一项基础的符号技能——根据源文档构建 SQL 数据库——在幻觉检测中实现无监督的来源归因。在 RAGTruth 和 DiaHalu 上,这种神经符号流程比直接预测更准确,且性能可与先进方法相媲美,无需针对特定领域进行微调。

幻觉检测任务
幻觉是指语言模型给出的事实错误或无法得到来源支持的结论。LLM 推理过程的不透明性使这类结论难以检测。人们很难了解模型为何会给出不准确的结论。
本文研究无监督幻觉检测。该方法根据来源而非模型的内部置信度来核验输出。结论:核验需要一个外部锚点——源文档。
将 SQL 数据库用作来源表示
作者提出让语言模型根据源文档构建 SQL 数据库。该数据库成为对来源事实的结构化表示。随后,利用数据库对来源和生成的回答进行推理。
结论:SQL 表示将核验转化为对数据的查询。
神经符号核验流程
幻觉检测流程基于构建好的数据库。它实现了神经符号核验。该流程结合语言模型与针对 SQL 数据库的符号操作。核验依据来源和生成的回答进行。
结论:通过查询,核验步骤变得明确且可复现。

与直接预测的比较
在 RAGTruth 和 DiaHalu 数据集上,该方法优于直接预测。它的表现可与先进的幻觉检测方法相竞争。该方法不需要针对特定领域进行微调,而是依托 LLM 已有的底层通用能力。
| 标准 | 直接预测 | 基于 SQL 数据库的方法 | | 使用的内容 | LLM 直接给出评估 | 基于来源构建的 SQL 数据库和神经符号核验 | | 针对特定领域的微调 | 未说明 | 不需要 | | 在 RAGTruth 和 DiaHalu 上的结果 | 不如 SQL 方法 | 优于直接预测,并可与先进方法相竞争 |
结论:SQL 方法提供了可核验的来源依据。本文已被 GroundLM EMNLP 2026 Workshop 接收。
实用选择标准
选择标准包括以下条件:
- 存在源文档;
- 来源支持构建 SQL 数据库;
- 不需要针对特定领域进行微调;
- 核验依据来源和生成的回答进行。
该方法依托 LLM 的底层符号能力,例如 SQL。结论:当核验以来源为依据且不需要针对特定领域进行微调时,该方法适用。
常问问题
相关材料
所有材料
MathAdv:机器证明的最终准确率隐藏着什么
这套涵盖大学及研究生阶段 13 个数学分支的诊断性任务集,不仅根据最终结果评估 Lean 4 中的机器证明系统,还考察其学科知识、非正式推理质量以及对题目改写的适应能力。分项分析显示,将题目转化为形式化表达仍然是主要障碍,而成功与否在很大程度上取决于数学领域和题目的表述方式。
9 十一月 2026
AffordanceWAM:可供性作为场景预测与机械臂控制之间的桥梁
该工作介绍了一种生成模型,可同时预测未来的 RGB 观测、标量场、可供性热图和机器人的连续动作指令;该模型利用人类视频扩展交互多样性,无需动作标注或动作重定向。在 RoboCasa、CALVIN ABC→D 和真实任务中,该方法相比仅使用 RGB 数据和仅使用机器人数据的基线均取得了稳定提升。
9 十一月 2026
将演示文稿编辑转化为可控操作:EditPPT 框架与 DeckEdit-Bench 基准测试
作者将幻灯片编辑拆解为针对具体对象的操作、允许执行的动作,以及对其他内容是否保持原样的检查,而非自由生成代码。为衡量质量,作者创建了 DeckEdit-Bench(涵盖 28 份人工制作的演示文稿中的 183 项任务);在五种基础模型上,多智能体方案 EditPPT 的任务成功率为 66.7–74.9%,内容保留率超过 97%。
8 十一月 2026