Doohyun Kim、Donghwa Kang、Mingyu Jun 和 Brent ByungHoon Kang 于 2026 年 10 月 29 日向 arXiv 提交 SEAL,介绍一种面向本地大语言模型(LLM)智能体的间接提示注入防御方法。摘要针对通过不可信工具输出进入的攻击,目标是在推理预算有限的情况下,保留完成用户任务所需的证据。[1]
据作者介绍,SEAL 离线学习软提示和评分读出组件,再利用冻结的任务模型净化工具输出。它使用可信的初始上下文和学得的提示构造评分查询,使评分参照独立于被检查的工具文本。词元评分不在上下文词元之间进行归一化;在局部删除文本时,保留正则化鼓励保留有用证据。作者称,该设计既不需要防御过程生成词元,也不需要独立的验证模型。[1]
摘要报告了在 AgentDojo 和 AgentDyn 上的评估结果。作者称,在 AgentDojo 上,攻击成功率从 34.6% 降至 0.1%;Joint 指标,即完成任务且攻击未成功的比例,从 51.4% 升至 77.5%。作者还报告,防御相关词元用量约为 PISanitizer 的 1/127,并将采用相同训练方案、在第二个骨干模型上的复现结果,作为支持其跨模型家族适用性的证据。[1]
[1]: SEAL: Sealed Queries for Local Sanitization against Indirect Prompt Injection。arXiv,提交于 2026 年 10 月 29 日。https://arxiv.org/abs/2610.39758
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策