---
title: "研究人员提出面向 AI 智能体的意图感知防护"
dek: "一篇预印本提出，依据智能体的预期用途构建意图画像，并用它来检查智能体行为。作者报告称，该方法在自建基准和 AgentDojo 轨迹评估中取得提升。"
---

研究人员于 2026 年 11 月 12 日提交了一篇预印本，提出检查 AI 智能体是否遵循预期用途的方法。作者表示，智能体即使没有超出获授权限，也没有出现可识别的攻击模式，仍可能偏离其职责或组织约束。[^1]

这一框架名为 Intent-Aware Security，以组织意图、角色意图和开发者意图构建的**意图画像**作为评估智能体行为的参照。作者描述了四种用途：执行前检测、执行后检测、输入对齐和系统提示词加固。摘要将这些方法作为防护措施，用于应对智能体偏离预期角色和运行边界的情况。[^1]

作者报告，他们构建的意图感知基准包含 887 个经过验证的样本，覆盖 35 个智能体。他们表示，在各项评估中，基于画像的防护在主要指标上均优于所有不使用画像的基线。在自建基准上，报告的四分类宏平均 F1 从 45% 升至 79%，范围外行为的 F1 从 8% 升至 76%。这些结果由作者报告，尚未经我们独立复现。[^1]

摘要还报告了对超过 10,000 条已执行 AgentDojo 轨迹的评估，其中真实标签来自环境状态。基于画像的执行后检测，其接收者操作特征曲线下面积为 0.949；AlignmentCheck 为 0.909，使用原始智能体配置为 0.897，不提供上下文为 0.843。作者还称，在良性任务效用相近的情况下，基于画像的输入对齐比 DataFilter 的防护成功率高 7 个百分点。[^1]

:::analysis
这项工作涉及 T6（评估）和 T5（智能体）：报告中的测试评估了一种检查智能体行为的方法，而对实际部署的信任仍取决于其使用的意图画像和配置。这里需要关注的可核查属性是可识别性：如果为某位用户提供服务的确切版本和配置有记录且可核查，该用户就能判断自己是否使用过某个特定版本或配置。用户和运营方应检查这些记录，并核对部署的防护措施和意图画像是否符合预期；保存的摘要没有推荐任何修复版本。[^1]
:::

:::checked
我们于 2026 年 11 月 18 日阅读了保存的 arXiv 摘要页面 *Intent-Aware Protection for AI Agents*，版本为 v1：https://arxiv.org/abs/2611.16122。我们没有阅读论文全文，也没有测试该系统，无法独立确认报告中的结果或实际部署如何实现这些防护措施。[^1]
:::
