Yao Wang、Zehua Ma、Weiming Zhang 和 Han Fang 于 2026 年 11 月 3 日向 arXiv 提交了 Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning。这篇预印本提出 AuthorityFlow,用于防御一种间接提示注入攻击:保留智能体原定的操作,却改变工具调用参数。[1]

作者将这一攻击面称为“参数投毒”。攻击者可以篡改收件人或其他影响任务的关键值,而不引入新的工具调用。按照作者的解释,仅检查操作本身因此不足以发现这类攻击:正常用户请求也可能要求修改参数,关键在于哪些信息有权决定各项参数。[1]

摘要介绍,AuthorityFlow 分为三个阶段:首先理解用户请求,为可用信息字段建立针对当前任务的信任层级;随后追踪每项参数值的信息流,将其归因于提供依据的字段;最后,仅当该字段在当前任务中有权决定这项参数时,才接受该值。来自低信任字段的影响会被标记为潜在参数投毒。[1]

作者还提出了评测基准 FactAuthBench。据摘要报告,使用 AuthorityFlow 后,攻击成功率从无防御时的 93.06% 降至 9.03%,正常任务效用则从 90.28% 降至 82.64%。这些数字是摘要中的评测结果;我们的阅读没有独立确认其可复现性,也没有确认其对已部署智能体的适用性。[1]

[1]: Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning,arXiv,2026 年 11 月 3 日。

来源

  1. Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter PoisoningarXiv · 2026年11月3日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

50a3f6c9d0e571ab9a1b03979c6ccfd70d12e4ddea1a7a1694de56bbc04b9577