Verifiable memory: Learning unified memory management with local and global verifiers for large language model agents

Xiaolong Sun, Qichao Wang, Hangyu Li, Liang Chen · 2026

02 Write / consolidation 03 Active context / retrieval

Editorial reading guide · 编者导读

为什么值得读

这篇值得借走的，是给“证据暂时不在眼前”安排明确的去处与回来方式。长期存储、当下可见内容和任务历史不承担同一工作；恢复成功也要继续问，回来的是否仍是有来源的那条证据。论文把执行约束、局部质量与终端结果分开讨论；本次公开代码测试进一步表明，接入项目时必须确认这些责任实际落在哪个组件，不能让一个 verifier 名称代替整个保证。

Source-backed paraphrase

论文在解决什么

VerMem 用同一 memory policy 协调长期条目、当前 active context 与同一任务的 episodic history。训练时，它把单次可执行操作的局部评价与整条轨迹的复合反馈结合；历史恢复提供一条从旧观察回到当前 context 的独立路径。

Source-backed paraphrase

关键抓手

三个状态，两条回取路径：Retrieve 从长期条目 M 取回，SelectEpisode 从当前任务的历史 H 取回。8,192-token policy serialization 与 active context C 的预算分开；H 不是无界拼进 prompt 的聊天记录。（§§3.1–3.2；Appendix A；PDF pp. 3–4、12–14）
执行与监督分开：七个工具加 null；失败操作保持 M/C 不变并记录原因，null 仍计入 memory-decision horizon。结构/来源/预算约束与语义 verifier 不同，local/global verifier 仅用于训练。（§§3.1–3.5；Appendices A.4、F）
local advantage 按操作类型归一化，global advantage 在同任务 K=8 条完整轨迹内归一化；两者与约束成本汇合。只有 memory-command tokens 受该训练目标监督，task-solver 输出与环境观察不在 loss mask 内。（§§3.3–3.5；Appendices B、F.4–F.6）
只用构造的 HotpotQA 状态训练，然后评测五种任务；每个评测 episode 都重置 M/C/H。结果支持任务内持续记忆与 policy transfer，不能证明跨会话或跨用户保留。（§§4–5；Appendices C.1–C.3）

Source-backed argument map

论证怎样成立

先区分保存与可见

信息离开 C 后可以仍在 H；未写入 M 的旧观察需要 SelectEpisode，单靠 LTM retrieval 无法回取。

§3.1；Appendices A.1–A.3、F.8；PDF pp. 3、12–13、27

让不同操作共同服务任务

SFT 学习可执行命令，Phase A/B/C 依次训练 LTM、STM 和联合协调。跨阶段只传 policy parameters，初始 memory states 独立构造。

§3.3；Appendix D；PDF pp. 4–5、18–20

分别回答这一步与这一程是否有用

局部语义分数、复合 global 分数与硬约束保留各自来源；被拒绝命令没有 local semantic advantage，但仍获得轨迹 credit 与直接约束成本。

§§3.4–3.5；Appendices F.1–F.6；PDF pp. 5–6、22–26

用任务迁移和预算对照提供证据

双 backbone、多 benchmark 与消融支持整套方法的效用；任务重置、混合指标及训练期成本限制了这些数字能回答的问题。

§§4–5；Tables 2–5；Appendices C、E；PDF pp. 7–9、14–22

Source-backed method notes

方法与监督

Data and curriculum

SFT train/dev 为 32,000/4,000，八类决策平衡；HotpotQA training question IDs 按 90/10 切分，再构造有冲突、重复、遗忘与历史恢复需要的状态。RL 三阶段为 1,000/1,000/1,500 updates，每 update 八个任务、每任务八条独立 rollout；真实评测 episode 与构造训练状态不可混同。

Tables 8、13–14；Appendices D.1–D.5；PDF pp. 15、18–20

Different judges and different inputs

冻结 DeepSeek-V3.2 负责 teacher 与 local/global 语义评分。local 看当前有限视图和已实现 transition，不看未来；global 在结束后只返回 evidence coherence 与 terminal-memory consistency，正确率、support recall、效率由程序计算。HotpotQA 另由 qwen-max-2025-01-25 给 Jjudge / MQ，不参与训练或 checkpoint 选择。

§3.5；Appendices C.6、F.1–F.3；PDF pp. 6、16–17、22–25

Credit is not a runtime admission gate

local 按操作类型使用当前 update 或 phase-specific running statistics；global 在同任务候选组归一化。两路 advantage 先各自 clip 至 [-5,5] 再汇合，因此局部正分不保证最终更新为正。论文的失败拒绝由 executor 约束处理；inference 移除 verifier 不等于移除执行检查。

Eqs. 5、9–11；Appendices A.4、F.4–F.6；PDF pp. 3、5、14、25–26

What the efficiency frontier counts

三种交互环境的 SR 等权平均，预算为 1,000–5,000 online tokens、每 500 一档；重复输入也重复计费。TN@40 是邻接点线性插值，不是直接测得的精确运行成本；offline embedding/index、训练、verifier 与评测 judge 成本被排除。

§4.2；Appendix C.7；Tables 3、12；PDF pp. 7–8、17

Paper-reported findings

报告了什么

Table 2 的 Average：Qwen2.5-7B 为 48.01，对 AgeMem 41.96 增加 6.05 分；Qwen3-4B 为 59.85，对 54.31 增加 5.54 分。Average 等权混合 SR、PDDL Progress Rate 与 HotpotQA 100Jjudge，不能称为整体成功率。（PDF p. 8；Appendix C.5）
Qwen2.5-7B 的 PDDL 是完整方法没有胜过 matched noVerify 的一项：22.06 对 22.41；完整方法仍高于该项最强 external baseline A-Mem 18.39。其余四项与 Qwen3-4B 的五项都高于 noVerify。（Tables 2、16；PDF pp. 8、22）
在三个交互环境的预算对照中，TN@40 为 2,080 对 AgeMem 2,600，下降 20%；2,500-token budget 下 macro SR 为 44.30 对 39.00，提高 5.30 分。这是指定模型与预算协议下的 online 比较。（Table 3；PDF p. 8）
HotpotQA reward ablation：All-Returns 的 Jjudge 0.628 对 0.531，MQ 0.673 对 0.491，TN 2,184 对 2,352，但 memory-tool calls 5.63 高于 4.47。它没有仅靠减少所有调用省 token，也不能由这些汇总数推断某一种工具的独立贡献。（Tables 5、20；PDF pp. 9、24）

Evidence boundary

仍未证明什么

§5 / Appendix C.2 明确每个 episode 释放 M/C/H，所有 external baseline 的相关存储也清空。没有跨会话保留、跨用户隔离、真实私人数据或 adversarial memory 的结果。
三次 seed 的均值支持报告内比较；主要表格未给每格不确定区间。Figure 4 的两条 reward 曲线采用不同 monitoring 定义，其绝对高度不能直接比作策略优劣。
部分 output limits、active-context budgets、verifier 截断与 malformed-output fallback 只写 configured protocol；仅凭 PDF 不能补出完整可复现配置。Qwen-Max 专有 snapshot 与 DeepSeek 离线调用也限制独立复现。
本次执行的官方 rule verifier 接收 proposal/result，不执行 M/C/H 状态变化。12 个定向 synthetic cases 不能估计模型误判率、完整 reward、历史恢复效用、真实部署安全或论文 benchmark 的有效性。
没有下载模型或训练数据、没有运行 SFT/GRPO、LLM judge、完整任务环境或跨会话持久化。源码阅读范围明确列在 readingScope；没有宣称完成官方 repo 全量审计。

Source audit · observation and consequence kept distinct

原文内部张力

论文的语义 verifier 与公开规则组件不是同一证据对象

Appendix F.1–F.3 描述冻结 DeepSeek-V3.2 的语义维度；固定公开 commit 的 LocalVerifier 则明确为纯规则、只读函数。memory_operations.py 自述只定义 registry/schema，不修改存储。

定位：Appendix F.1–F.3，PDF pp. 22–25 · Sun-SYSU-24/VerMem @ 4782751：00_verifiers/local_verifier.py、memory_operations.py；research/vermem-verifier-boundary-audit/README.md

编者 consequence：公开规则层可直接测试，但跑通它不等于复现论文的语义监督。需要实际 evaluator/config/执行链对应关系才能把它连接到论文数字；此差异本身不证明报告结果无效。

Null 的论文 contract 与公开 action alphabet 仍需对齐

正文与 Appendix F.6 明确 null 可训练且计入 horizon；公开 action_protocol.py 的 ALLOWED_ACTIONS 只有七个非空动作，而 LocalVerifier 的 dispatch 能处理 NO_OP。

定位：§3.1；Appendix F.6，PDF pp. 3、26 · Sun-SYSU-24/VerMem @ 4782751：01_protocol/action_protocol.py；00_verifiers/local_verifier.py

编者 consequence：训练数据、parser 与 verifier 并非仅凭相同项目名称就能视作同一条已对齐路径。本次仅静态核对该差异，没有跑 null 的完整训练/解析链。

Editorial synthesis / question

编者判断

恢复引用之后，由谁回查原文 · Editorial inference — not tested by the paper

同 ID 的选中内容改写、混入候选的另一任务条目、被省掉的保护字段都可通过本次规则检查。接入时可以让 policy 只选引用，再由拥有当前任务历史的 executor 回查正文、来源和保护标记，并在预算允许时提交。

这是基于五个函数级反例提出的设计建议；没有实现该 executor，不能声称实际跨任务泄漏或完整系统已经接受错误写入。

移出 context 应有明确的保存期限 · Editorial inference — not tested by the paper

读者可以分别决定当前可见内容与原始记录的保存期限，并把回取路径写进系统行为。论文支持任务内历史恢复的动机；跨会话是否保留，需要另做持久化决定与验证。

没有把 H 自动升级为无限长期 store。本站尚未执行真实模型在证据移出后恢复的成功率对照。

把 verifier 的 pass 翻译成具体已检查条件 · Editorial inference — not tested by the paper

一个来源 ID 与合法长度可以通过规则检查，仍不足以说明摘要没有把 17:00 改成 19:00。评估组件时应分别列出结构检查、来源绑定、语义忠实与终端效用所依赖的证据。

这是一条受本次反例支持的阅读判断；不是要求每次调用追加 LLM judge，也不声称 deterministic checks 可以解决全部语义问题。

继续追问

历史恢复的 task scope、原始正文、来源与预算分别由哪个组件验证；公开 rule verifier 的 pass 还依赖哪些未在本函数建立的前提？

Editorial transfer · 编者设计建议

读完，可以怎样借用

基于既有精读与本条明确标注的证据范围整理；下面针对新场景的迁移对照尚未执行。

Agent Memory Study editors · 2026-09-08

什么时候有用: 长任务有 context 上限，已经移出的证据稍后又要使用；系统准备接入历史恢复或摘要组件。
可以借哪一步: 将当前 context 与同任务原始历史分开；policy 选择引用，由掌握历史的 executor 回查正文、归属与来源，检查预算后恢复。
先做什么对照: 在真实任务里让必要证据先离开 context，再比较只摘要与可回取历史两条路径；加入旧版本与同 ID 改写对照，观察最终回答和实际提交内容。若要跨会话，再单独验证保存与恢复。
带走时的边界: 本条 12 个规则 verifier 样例已执行；这里的真实 executor / 模型恢复、摘要效用与跨会话对照仍未执行。论文按 episode reset，不能提供跨会话结论。

阅读依据：完整精读 §§3–5、Appendices A、C.2、F；固定官方规则 verifier 的公开边界测试。

Attributed public perspectives and tests

署名观点与测试

Public test · Agent Memory Study editors · 2026-09-08

回来的还是原来那条证据吗？

Method: 固定上游 commit，直接调用 SelectEpisode / Summarize / Filter 对应的 LocalVerifier 分支，保存 synthetic proposal/result/context 与原始返回。仅移除每次随机 verification_id，比较复跑结果并检查输入不变性。
Environment: macOS arm64；Python 3.13.3 标准库；无第三方安装、模型、GPU、API 或测试期网络调用。上游源码在外部 checkout，公开 artifact 不再分发它。
Fixture: 12 个原创书房通知样例；task-a/task-b 显式区分归属，17:00/19:00 区分原文与改写，priority 0.9 指定受保护条目。item run_id 是 fixture 标记，不冒充上游承诺支持的 scope schema。
Controls: 7 个控制覆盖合法选择/摘要、表外 ID、数量上限、缺失 scores、超长摘要与带保护标记的删除；5 个反例分别改变候选归属、正文、空候选条件、摘要数字与返回项保护字段。
Raw result: 12 个 fresh verdict 与保存结果一致；7 个控制按预期 pass/fail/revise，5 个反例均得到 pass。17:00 的忠实摘要与改成 19:00 的同长度摘要都为 1.0；原输入 priority 0.9 保持不变，仅省掉结果项该字段，Filter 从 fail 变为 pass。
Derived result: 此函数的 pass 不能单独保证同任务归属、正文不变或摘要忠实；保护字段的权威来源也需要回查。输入均未改变，说明本测试没有执行存储更新，不能把 verdict 当成实际写入结果。
Limitations: 定向反例不是随机错误率；未证明完整调用链可达、部署泄漏、paper result 无效或迁移方案有效。候选构造、真正执行、模型语义评价及额外 reward checks 均未在此运行。

Evidence basis：VerMem arXiv:2608.03137v1 Appendices A、F；官方 repo commit 4782751c79faa08421a27c23b4d02c591bc3357d 的 LocalVerifier；AMS 原创 public fixtures。

Boundary：实际调用官方规则函数的有限边界测试；不是完整 memory executor、论文语义 verifier 或 benchmark 复现。

方法、逐例解释与复跑命令 ↗ · 公开 runner ↗ · 实际输入与返回值 ↗

带走这份公开研究

Markdown ↓JSON ↓

含当前正文、出处、阅读范围与接续线索；链接的全文不随包附带。