---
title: "研究人员提出结合证据检查智能体记忆稳健性的方法"
dek: "一篇 arXiv 预印本称，其方法改善了过时记忆和记忆投毒问题，但稳健性仍不完整。保存的摘要可用于报道作者的主张，不能视为独立验证。"
---

Runze Zhao 等研究人员于 2026 年 10 月 29 日向 arXiv 提交了预印本 *Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents*。论文提出，评估智能体的记忆管理器时，除了检查答案，还应检查它选取的记忆是否包含回答所需的证据。摘要称，微调带来了改进，但也明确承认，稳健性仍不完整。[^1]

作者描述了两类相互牵制的记忆错误：一是事实已经变化，管理器却仍保留旧信息；二是管理器存入了攻击者植入的段落或注入指令，即记忆投毒。这两类问题要求管理器作出相反的记忆写入决定。作者将稳健性形式化为：同时处理两类问题，又不降低对其他输入的表现。[^1]

论文提出的指标是证据条件准确率（ECA），它检查选中的记录是否包含回答所需的全部证据、是否已纳入更新，以及是否排除了攻击内容。摘要称，在作者的测试集上，现有记忆系统和防御方法的稳健性均未超过未经调优的管理器。[^1]

作者的训练方法围绕一段对话合成训练片段，在其中插入信息变化和攻击，再据此微调管理器。作者报告，在三个骨干模型上，各类别得分均有提升，整体 ECA 超过未经调优管理器的两倍。保存的摘要没有列出这些骨干模型的名称，也没有给出具体得分。[^1]

:::analysis
这一问题位于 T6（评估层）和 T5（智能体层）：按照作者的评估框架，只检查答案准确率，会遗漏对支撑答案的记忆记录的检查。[^1] 用户和运营方应核实实际提供服务的管理器及其配置，并确认评估是否同时检查事实变化和记忆投毒。这里涉及的可核查属性是可识别性：如果实际服务版本和配置得到记录且可供检查，用户就能判断自己是否曾接触某个已识别的问题配置；这些记录本身并不说明系统具备稳健性。保存的来源没有推荐任何修复版本，因此不能据此作出补丁或部署安全方面的保证。[^1]
:::

:::checked
我们于 2026 年 11 月 6 日阅读了所提供的 arXiv:2610.41056 摘要页保存文本，包括 v1 的提交历史。我们没有阅读全文、检查实现或测试系统。这次阅读核实的是摘要报告了什么，不能确认实验结果能否复现，也不能确认结果是否适用于某项已部署服务。[^1]
:::

[^1]: [Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents](https://arxiv.org/abs/2610.41056)，arXiv，2026 年 10 月 29 日。
