2026 年 11 月 9 日,Xinyi Wu 与另外七位作者向 arXiv 提交预印本 Harness Matters: Measuring and Dissecting Security Resilience in Web Agents。研究者报告称,智能体的执行框架与后端模型都会显著影响安全表现,因此执行框架是一道重要的安全边界。[1]
论文将执行框架描述为连接模型决策与浏览器操作的机制,并把工作流程划分为四个阶段:目标理解、网页感知、推理与规划、动作执行。作者提出的评估框架 WebTrap Farm 涵盖三类攻击:恶意用户提示、恶意提示注入和欺骗性网页设计。[1]
为区分主动防御与任务能力不足,框架使用配对的可用性校准任务。作者报告称,现有执行框架面对这些攻击仍存在漏洞,某些不安全行为甚至会在没有明确攻击内容时出现。他们还称,研究定位了防御行为出现的流程阶段,并识别出更安全的设计机制。不过,保存的摘要没有提供量化结果、受测产品名单或具体机制,读者仅凭这一来源能够评估的内容有限。[1]
[1]: Harness Matters: Measuring and Dissecting Security Resilience in Web Agents。arXiv,2026 年 11 月 9 日。https://arxiv.org/abs/2611.11971
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策