Aravinda Kashyap Kabbinamakki Suresh 和 Peng Gao 于 2026 年 10 月 31 日提交 AgentCap 论文,提出面向语言模型智能体的运行时授权层。摘要指出,当模型持有常设权限时,间接提示注入可能把对模型推理的影响转化为未经授权的操作。[1]
AgentCap 将动作选择与授权判断分开。作者称,MCP 包装层介入每一次工具调用。请求需要声明意图,策略检查则涵盖信任、工作流前置条件、互斥权限,以及安全敏感参数的来源。获准的请求会取得有效期短、预算受限的能力令牌,并在工具边界接受验证。[1]
作者描述的委派机制采用绑定会话的父子链:动作和资源保持不变,预算与有效期只能缩减。声明式策略语言则为运行时执行和部署前分析提供共同的约束表示。[1]
摘要称,在 AgentDojo 和 InjecAgent 的所有已评测模型与基准组合中,AgentCap 都降低了攻击成功率,其中 GPT-5.4 在两个基准上的攻击成功率均为零。作者还报告,在受控对抗场景中,所有未经授权的执行尝试均被阻断,测试覆盖的合法操作则全部保留。这些是作者针对所评测条件报告的结果;阅读摘要无法独立确认这些结果,也无法确认它们适用于其他部署。[1]
[1]: AgentCap: Capability-Based Runtime Authorization for Secure LLM Agent Execution。arXiv,2026 年 10 月 31 日。https://arxiv.org/abs/2611.00729
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策