研究人员在 2026 年 11 月 11 日提交的一篇论文中介绍了 guardscope,提出一种方法,用于测量大语言模型(LLM)智能体的运行时控制能够检查哪些操作。作者指出,控制机制只能看到经过其部署位置的操作,而智能体还可能通过工具调用通道之外的路径执行操作。[1]

论文介绍了两个阶段。首先,静态分析根据控制机制的源代码,预测它能检查智能体的 15 条操作路径中的哪些路径。其次,实证阶段在采用八种拓扑设计之一的部署环境中运行固定工作负载,将控制机制的决策记录与内核层面的基准记录进行比对,并把已执行的操作分类为已检查、绕过检查或被阻止。[1]

作者称,控制机制的开发者可以利用该框架,按照经内核核验的协议公布产品检查了哪些路径。他们报告说,实验使用了两个智能体运行框架和实际的运行时控制机制,其中包括 Microsoft 的 agent governance toolkit 和 agentgateway。保存的摘要未给出实验结果,也未指出建议使用的修复版本。[1]

[1]: https://arxiv.org/abs/2611.15223

来源

  1. guardscope: Measuring Which Actions Runtime Controls Check in LLM Agent SystemsarXiv · 2026年11月11日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

40fc26af2a101f91493e46d6ff900ad5b942e4ec94a3e2a3a0d7f4a6fd3ef553