David H. Yang 及其合作者于 2026 年 11 月 6 日向 arXiv 提交 MemoryDojo,提出一个基准,用于追踪被投毒的信息如何经过大语言模型(LLM)智能体的记忆系统,影响后续行为。摘要称,受测的五种记忆系统均容易受到记忆投毒影响,但下游影响存在显著差异。[1]
这条攻击路径跨越会话边界:智能体在一次会话中接触的恶意指令可能被写入记忆、持续保存,并在后续会话中被检索和执行。作者指出,各记忆系统处理和检索信息的方式不同,投毒造成的后果也可能随之变化。因此,评估需要考察记忆处理如何影响智能体行为。[1]
据摘要介绍,MemoryDojo 包含覆盖四个领域的 155 条跨会话、长跨度任务轨迹,支持五种记忆系统。作者还报告了一种考虑记忆机制的投毒优化流程,称其能够提高投毒效果。保存的摘要没有列出这些系统和领域的名称,也未量化提升幅度或给出攻击成功率。这些是作者报告的发现,本文没有独立复现。[1]
[1]: MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory。arXiv,2026 年 11 月 6 日。https://arxiv.org/abs/2611.09721
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策