David H. Yang 及其合作者于 2026 年 11 月 6 日向 arXiv 提交 MemoryDojo,提出一个基准,用于追踪被投毒的信息如何经过大语言模型(LLM)智能体的记忆系统,影响后续行为。摘要称,受测的五种记忆系统均容易受到记忆投毒影响,但下游影响存在显著差异。[1]

这条攻击路径跨越会话边界:智能体在一次会话中接触的恶意指令可能被写入记忆、持续保存,并在后续会话中被检索和执行。作者指出,各记忆系统处理和检索信息的方式不同,投毒造成的后果也可能随之变化。因此,评估需要考察记忆处理如何影响智能体行为。[1]

据摘要介绍,MemoryDojo 包含覆盖四个领域的 155 条跨会话、长跨度任务轨迹,支持五种记忆系统。作者还报告了一种考虑记忆机制的投毒优化流程,称其能够提高投毒效果。保存的摘要没有列出这些系统和领域的名称,也未量化提升幅度或给出攻击成功率。这些是作者报告的发现,本文没有独立复现。[1]

[1]: MemoryDojo: Benchmarking Poisoning Through LLM Agent Memory。arXiv,2026 年 11 月 6 日。https://arxiv.org/abs/2611.09721

来源

  1. MemoryDojo: Benchmarking Poisoning Through LLM Agent MemoryarXiv · 2026年11月6日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

acf4946d4f8df0cc8d626980054884ec1bddc78796e80cffd3a5167a234f9d56