---
title: "研究提出用意图图审计智能体工具调用"
dek: "一篇 arXiv 论文提出结合确定性检查与推理守卫，审查被标记的工具调用，同时明确表示端到端攻击验证仍未完成。"
---

Doron Shavit 于 2026 年 11 月 8 日向 arXiv 提交论文，提出一种运行时审计方法，应对工具型智能体面临的间接提示注入：攻击指令藏在工具输出中，诱导智能体执行用户未要求的操作。摘要介绍了如何依据用户目标检查工具调用，但明确表示端到端验证仍未完成。[^1]

该方法每项任务调用一次大语言模型（LLM），根据用户目标和部署环境的工具目录生成可执行的意图图。随后，确定性循环逐次检查工具调用，无须再次调用 LLM。摘要报告，每次检查的耗时中位数为 5.7 微秒；这是作者报告的测量值，我们没有复现。[^1]

方案还通过两种机制减少对正常任务的影响。查询用户自身状态的调用可绕过审计，作者给出的理由是，攻击的危害发生在写入或对外操作环节。其余被标记的调用交由推理守卫处理。守卫接收用户目标、计划、不含工具输出的调用历史，以及被标记的调用，并可通过受限的 Python 表达式工具核查事实。摘要同时指出，一个当前智能体在基线条件下未出现攻击成功，因此这套防御的端到端验证仍待完成。[^1]

:::analysis
问题涉及 T6 评估层、T5 智能体层和 T2 运行时层：报告中的检查速度不能确立抗攻击能力，用户仍需信任意图生成方式及例外规则的执行。用户和运营方应对照所述设计，核查自身部署的工具目录、查询豁免规则及守卫接收的输入；保存的来源没有推荐任何修复版本。[^1] 此处涉及的可核验属性是可识别性：如果服务于某位用户的确切版本和配置有记录且可核查，该用户就能判断自己是否接触过相关部署，而防御是否有效仍是另一个问题。
:::

:::checked
我们于 2026 年 11 月 14 日阅读了保存的 arXiv 摘要页文本，论文题为“Least-Privilege Auditing of Agent Tool Calls with Intent Graphs and Reasoning-Guided Escalation”，页面标明提交版本为 v1。我们没有阅读论文全文，也没有测试该系统。本次核查仅确认保存的摘要如何描述研究，没有独立确认其性能或安全效果。[^1]
:::

[^1]: https://arxiv.org/abs/2611.11305
