Yao Wang、Zehua Ma、Weiming Zhang 和 Han Fang 于 2026 年 11 月 3 日向 arXiv 提交了 Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning。这篇预印本提出 AuthorityFlow,用于防御一种间接提示注入攻击:保留智能体原定的操作,却改变工具调用参数。[1]
作者将这一攻击面称为“参数投毒”。攻击者可以篡改收件人或其他影响任务的关键值,而不引入新的工具调用。按照作者的解释,仅检查操作本身因此不足以发现这类攻击:正常用户请求也可能要求修改参数,关键在于哪些信息有权决定各项参数。[1]
摘要介绍,AuthorityFlow 分为三个阶段:首先理解用户请求,为可用信息字段建立针对当前任务的信任层级;随后追踪每项参数值的信息流,将其归因于提供依据的字段;最后,仅当该字段在当前任务中有权决定这项参数时,才接受该值。来自低信任字段的影响会被标记为潜在参数投毒。[1]
作者还提出了评测基准 FactAuthBench。据摘要报告,使用 AuthorityFlow 后,攻击成功率从无防御时的 93.06% 降至 9.03%,正常任务效用则从 90.28% 降至 82.64%。这些数字是摘要中的评测结果;我们的阅读没有独立确认其可复现性,也没有确认其对已部署智能体的适用性。[1]
[1]: Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning,arXiv,2026 年 11 月 3 日。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策