---
title: "AuthorityFlow 作者提出智能体参数投毒防御方法"
dek: "一篇 arXiv 预印本研究保留原定工具操作、却篡改参数的攻击。摘要报告称，防御降低了攻击成功率，同时也降低了正常任务效用。"
---

Yao Wang、Zehua Ma、Weiming Zhang 和 Han Fang 于 2026 年 11 月 3 日向 arXiv 提交了 *Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning*。这篇预印本提出 AuthorityFlow，用于防御一种间接提示注入攻击：保留智能体原定的操作，却改变工具调用参数。[^1]

作者将这一攻击面称为“参数投毒”。攻击者可以篡改收件人或其他影响任务的关键值，而不引入新的工具调用。按照作者的解释，仅检查操作本身因此不足以发现这类攻击：正常用户请求也可能要求修改参数，关键在于哪些信息有权决定各项参数。[^1]

摘要介绍，AuthorityFlow 分为三个阶段：首先理解用户请求，为可用信息字段建立针对当前任务的信任层级；随后追踪每项参数值的信息流，将其归因于提供依据的字段；最后，仅当该字段在当前任务中有权决定这项参数时，才接受该值。来自低信任字段的影响会被标记为潜在参数投毒。[^1]

作者还提出了评测基准 FactAuthBench。据摘要报告，使用 AuthorityFlow 后，攻击成功率从无防御时的 93.06% 降至 9.03%，正常任务效用则从 90.28% 降至 82.64%。这些数字是摘要中的评测结果；我们的阅读没有独立确认其可复现性，也没有确认其对已部署智能体的适用性。[^1]

:::analysis
这一问题涉及 T6（evaluations，评测层）和 T5（agents，智能体层）：基准结果描述测得的行为，参数来源则决定智能体应信任哪些信息。用户和运营方应核查自身系统如何分配字段权限、追踪工具参数；保存的摘要没有指定修复版本或部署配置。这里需要的可核查属性是可识别性：如果服务某位用户的确切版本与配置有记录且可查，该用户就能判断自己是否接触过相关系统设置，但这些记录本身无法确定攻击是否成功。这是根据论文所述问题提出的核查要求，并非摘要已经展示的能力。[^1]
:::

:::checked
我们于 2026 年 11 月 4 日阅读了保存的 arXiv:2611.04673v1 摘要页面及其提交历史。我们没有阅读全文、检查代码或测试系统。保存的页面能够确认作者报告了什么，不能独立确认防御是否有效。[^1]
:::

[^1]: [Right Tool, Wrong Parameters: Defending LLM Agents Against Parameter Poisoning](https://arxiv.org/abs/2611.04673)，arXiv，2026 年 11 月 3 日。
