研究人员在 2026 年 11 月 11 日提交的一篇论文中介绍了 guardscope,提出一种方法,用于测量大语言模型(LLM)智能体的运行时控制能够检查哪些操作。作者指出,控制机制只能看到经过其部署位置的操作,而智能体还可能通过工具调用通道之外的路径执行操作。[1]
论文介绍了两个阶段。首先,静态分析根据控制机制的源代码,预测它能检查智能体的 15 条操作路径中的哪些路径。其次,实证阶段在采用八种拓扑设计之一的部署环境中运行固定工作负载,将控制机制的决策记录与内核层面的基准记录进行比对,并把已执行的操作分类为已检查、绕过检查或被阻止。[1]
作者称,控制机制的开发者可以利用该框架,按照经内核核验的协议公布产品检查了哪些路径。他们报告说,实验使用了两个智能体运行框架和实际的运行时控制机制,其中包括 Microsoft 的 agent governance toolkit 和 agentgateway。保存的摘要未给出实验结果,也未指出建议使用的修复版本。[1]
[1]: https://arxiv.org/abs/2611.15223
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策