PerMIT:LLM 智能体长期记忆的完整性与可机器验证的集体信任

20 十一月 20260 视图

作者提出了 PerMIT 架构,通过有限的内存接口限制环境中的不可信数据影响智能体的敏感操作;两条经 Lean 4 验证的定理以及社区判定结果的累积,在不增加单个用户负担的情况下降低了投毒风险。在 Trojan Hippo 和 τ²-bench 上的实验中,该方案在使用轻量级验证器时未检测到成功注入,并提升了新智能体在留出任务上的表现。

PerMIT:LLM 智能体长期记忆的完整性与可机器验证的集体信任

PerMIT — 面向 LLM 智能体的记忆架构。Tanqiu Jiang、Min Bai、Sadat Shahriar、Wanyu Du 和 Sandesh Swamy 撰写的论文,于 2026 年 10 月 20 日提交;arXiv:2610.28987。

信任模型

PerMIT 设定了明确的信任假设。只有用户输入的数据和经 gate 确认的值被视为可信。所有来自环境的值都仍不可信。该架构通过有限的记忆接口来管理这些数据的传递和使用。智能体的多轮规划和工具选择得以保留。

实践标准:如果用户输入被视为可信,而环境数据不可信,那么该场景就适用。

Gate 与可验证决策

有限的记忆接口依赖 gate。作者证明了该接口的两个完整性定理。这些定理已在 Lean 4 中通过机器验证。它们共同保证两项属性:来自环境的记忆只有在 gate 确认后才能触及敏感操作;智能体行为只有通过 gate 所展示的内容才会发生变化。

在威胁模型范围内,每次攻击都可归结为一个可验证的决策。实践中,这一决策由人类、LLM 验证器或两者共同作出。

实践标准:如果威胁模型中的攻击可归结为一个可验证的决策,那么这项防护就适用。

确认与集体信任

每项确认都是针对确切内容记录的判定。确认会在用户之间累积。获得足够支持的条目无需进一步检查即可成为社区确认内容。

在明确的假设下,作者证明了一项协同扩展属性。他们也通过模拟对其进行了验证。随着社区规模扩大,投毒数据被推广的风险和良性知识被错误删除的风险都会降低。单个用户的验证工作量不会增加。

社区扩大时的变化趋势
投毒数据被推广的风险降低
良性知识被错误删除的风险降低
单个用户的验证工作量不增加

实践标准:当判定针对确切内容,并在用户之间累积时,集体层就适用。

测试

在 Trojan Hippo 上,PerMIT 的可观测攻击成功率为零。该结果是在自检和使用轻量级验证器的情况下获得的。

在 τ²-bench 上,最多 90 个自主智能体组成的社区借助 PerMIT 创建共享知识库。没有任何直接记忆注入被推广。由此获得的知识显著提升了新智能体在留出任务上的表现。

实践标准是两个结果:直接注入没有被推广;新智能体在留出任务上的表现有所改善。

常问问题

PerMIT:LLM 智能体长期记忆的完整性与可机器验证的集体信任