Runze Zhao 等研究人员于 2026 年 10 月 29 日向 arXiv 提交了预印本 Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents。论文提出,评估智能体的记忆管理器时,除了检查答案,还应检查它选取的记忆是否包含回答所需的证据。摘要称,微调带来了改进,但也明确承认,稳健性仍不完整。[1]

作者描述了两类相互牵制的记忆错误:一是事实已经变化,管理器却仍保留旧信息;二是管理器存入了攻击者植入的段落或注入指令,即记忆投毒。这两类问题要求管理器作出相反的记忆写入决定。作者将稳健性形式化为:同时处理两类问题,又不降低对其他输入的表现。[1]

论文提出的指标是证据条件准确率(ECA),它检查选中的记录是否包含回答所需的全部证据、是否已纳入更新,以及是否排除了攻击内容。摘要称,在作者的测试集上,现有记忆系统和防御方法的稳健性均未超过未经调优的管理器。[1]

作者的训练方法围绕一段对话合成训练片段,在其中插入信息变化和攻击,再据此微调管理器。作者报告,在三个骨干模型上,各类别得分均有提升,整体 ECA 超过未经调优管理器的两倍。保存的摘要没有列出这些骨干模型的名称,也没有给出具体得分。[1]

[1]: Accept Changes, Reject Attacks: Robust Memory Management for LLM Agents,arXiv,2026 年 10 月 29 日。

来源

  1. Accept Changes, Reject Attacks: Robust Memory Management for LLM AgentsarXiv · 2026年10月29日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

3883b213e13ce15d9968c50fa59f6e9275a5bfccab9baab542450d634e631ca3