2026 年 11 月 9 日,Xinyi Wu 与另外七位作者向 arXiv 提交预印本 Harness Matters: Measuring and Dissecting Security Resilience in Web Agents。研究者报告称,智能体的执行框架与后端模型都会显著影响安全表现,因此执行框架是一道重要的安全边界。[1]

论文将执行框架描述为连接模型决策与浏览器操作的机制,并把工作流程划分为四个阶段:目标理解、网页感知、推理与规划、动作执行。作者提出的评估框架 WebTrap Farm 涵盖三类攻击:恶意用户提示、恶意提示注入和欺骗性网页设计。[1]

为区分主动防御与任务能力不足,框架使用配对的可用性校准任务。作者报告称,现有执行框架面对这些攻击仍存在漏洞,某些不安全行为甚至会在没有明确攻击内容时出现。他们还称,研究定位了防御行为出现的流程阶段,并识别出更安全的设计机制。不过,保存的摘要没有提供量化结果、受测产品名单或具体机制,读者仅凭这一来源能够评估的内容有限。[1]

[1]: Harness Matters: Measuring and Dissecting Security Resilience in Web Agents。arXiv,2026 年 11 月 9 日。https://arxiv.org/abs/2611.11971

来源

  1. Harness Matters: Measuring and Dissecting Security Resilience in Web AgentsarXiv · 2026年11月9日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

a4f311254b3fbeec4d4348c5a90537f7f7217a6042f3eb3e6f807ab6b51c2377