验证候选项比生成候选项更昂贵:对抗 LLM 漏洞搜索的诱饵
本文剖析了智能体缺陷搜索中的成本不对称:生成候选版本成本低廉,而通过可达性分析、执行和 PoC 对其进行确认却要耗费主要预算,因此可以将验证本身作为独立的防御目标。本文提出的 RedHerring 是一套针对代码仓库定制、带有隐藏证书的诱饵;在投入相同成本的情况下,它使 33 个 OSS-Fuzz 项目中发现的真实漏洞数量减少了 38.7–60.4%;即使提前告知智能体,降幅仍达 37.2%。

将假设验证视为一种有限资源
自主 LLM 智能体会在仓库级别搜索漏洞,并提出大量假设。在预算有限的情况下,智能体只能验证其中一部分。
验证一个假设包括多个阶段:
- 可达性分析;
- 执行代码;
- 创建 proof-of-concept。
这些操作的成本高于提出假设。因此,漏洞搜索会变成一个选择性验证过程。验证成本构成了一个独立的防御面。

实践标准:防御预算应根据确认候选项的成本来评估,而不是根据生成的假设数量来评估。
作为带有证书的对象的诱饵
RedHerring 引入了可证明安全的诱饵。诱饵会将验证工作从真实漏洞上引开。每个诱饵由两个部分组成:
- 从 CVE 推导出的漏洞链;它会吸引验证;
- 一个虚假的连接环节;它使危险 sink 保持不可达。
私有证书让防御者能够高效验证这一属性。要根据公开的仓库确定同一事实,则需要解决一个计算上困难的问题。
| 验证任务 | 条件 |
|---|---|
| 防御者确认 | 私有证书 |
| 根据公开的仓库确定同一事实 | 解决计算上困难的问题 |
RedHerring 会针对目标仓库调整每个诱饵。诱饵看起来就像普通的程序逻辑。
实践标准:如果防御者能通过证书确认诱饵安全,而智能体不得不耗费预算进行验证,那么这个诱饵就是合适的。
测试结果
测试在 33 个 OSS-Fuzz 项目、70 个评估实例和五种模型上进行,预算保持一致。
| 测试条件 | 结果 |
|---|---|
| 预算相同,33 个 OSS-Fuzz 项目、70 个评估实例、五种模型 | 找到的真实漏洞减少 38.7–60.4% |
| 明确告知智能体存在诱饵 | 相较于 informed Baseline 减少 37.2% |
对执行轨迹的分析显示,诱饵带来了额外开销:
- 智能体将 30.6–51.5% 的 completion tokens 用于验证诱饵;
- 据估算,执行时间的 32.5–49.9% 也用于同一项验证。
获知诱饵存在的智能体会调整搜索策略。RedHerring 仍然能够减少找到的漏洞数量。作者指出,该方法的有效性不依赖于诱饵是否保密。
实践标准:即使诱饵被公开,其效果依然存在,因此防御依赖于诱饵的结构,而非对它的隐藏。
仓库防御的部署标准
部署诱饵时,需要检查以下几项条件:
- 将确认候选项视为一种独立的防御资源;
- 诱饵包含从 CVE 推导出的漏洞链,并能吸引验证;
- 虚假的连接环节使危险 sink 保持不可达;
- 防御者保留私有证书,以便快速验证该属性;
- 诱饵适配目标仓库中的普通逻辑;
- 测量用于验证诱饵的 completion tokens 和执行时间占比;
- 不将保密性视为必要条件:获知情况的智能体会改变策略,但诱饵效果依然存在。
选择标准:如果防御者能通过证书快速确认诱饵的属性,而智能体会耗费预算验证它,那么这个诱饵就是合适的。如果诱饵无法吸引验证,或防御者无法快速验证它,就无法发挥防御作用。
常问问题
相关材料
所有材料
通过 SQL 视图检查 LLM 幻觉,无需微调
这项研究考察了 LLM 能否运用一项基础的符号技能——根据源文档构建 SQL 数据库——在幻觉检测中实现无监督的来源归因。在 RAGTruth 和 DiaHalu 上,这种神经符号流程比直接预测更准确,且性能可与先进方法相媲美,无需针对特定领域进行微调。
9 十一月 2026
MathAdv:机器证明的最终准确率隐藏着什么
这套涵盖大学及研究生阶段 13 个数学分支的诊断性任务集,不仅根据最终结果评估 Lean 4 中的机器证明系统,还考察其学科知识、非正式推理质量以及对题目改写的适应能力。分项分析显示,将题目转化为形式化表达仍然是主要障碍,而成功与否在很大程度上取决于数学领域和题目的表述方式。
9 十一月 2026
AffordanceWAM:可供性作为场景预测与机械臂控制之间的桥梁
该工作介绍了一种生成模型,可同时预测未来的 RGB 观测、标量场、可供性热图和机器人的连续动作指令;该模型利用人类视频扩展交互多样性,无需动作标注或动作重定向。在 RoboCasa、CALVIN ABC→D 和真实任务中,该方法相比仅使用 RGB 数据和仅使用机器人数据的基线均取得了稳定提升。
9 十一月 2026