Doohyun Kim、Donghwa Kang、Mingyu Jun 和 Brent ByungHoon Kang 于 2026 年 10 月 29 日向 arXiv 提交 SEAL,介绍一种面向本地大语言模型(LLM)智能体的间接提示注入防御方法。摘要针对通过不可信工具输出进入的攻击,目标是在推理预算有限的情况下,保留完成用户任务所需的证据。[1]

据作者介绍,SEAL 离线学习软提示和评分读出组件,再利用冻结的任务模型净化工具输出。它使用可信的初始上下文和学得的提示构造评分查询,使评分参照独立于被检查的工具文本。词元评分不在上下文词元之间进行归一化;在局部删除文本时,保留正则化鼓励保留有用证据。作者称,该设计既不需要防御过程生成词元,也不需要独立的验证模型。[1]

摘要报告了在 AgentDojo 和 AgentDyn 上的评估结果。作者称,在 AgentDojo 上,攻击成功率从 34.6% 降至 0.1%;Joint 指标,即完成任务且攻击未成功的比例,从 51.4% 升至 77.5%。作者还报告,防御相关词元用量约为 PISanitizer 的 1/127,并将采用相同训练方案、在第二个骨干模型上的复现结果,作为支持其跨模型家族适用性的证据。[1]

[1]: SEAL: Sealed Queries for Local Sanitization against Indirect Prompt Injection。arXiv,提交于 2026 年 10 月 29 日。https://arxiv.org/abs/2610.39758

来源

  1. SEAL: Sealed Queries for Local Sanitization against Indirect Prompt InjectionarXiv · 2026年10月29日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

fb5f3fe616a22abd5d476401227386b2b9fb76ec84987e8bc4cc1464bc5f33f3