Jiamin Chang 与另外九位作者于 2026 年 11 月 3 日向 arXiv 提交了 The Devil is in the Context: Nine Dimensions of Prompt Injection Attacks。这篇预印本提出一套区分提示注入攻击的分类方法,并报告九个基准存在覆盖缺口:即使合并这些基准,仍有 13% 的类别两两组合未经测试。[1]

作者指出,提示注入取决于上下文:同一条指令在一种场景中可能是攻击,在另一种场景中则可能是合法请求,区别在于用户意图和系统策略。论文提出的九个维度分别描述注入指令本身、它与用户任务的关系,以及它在目标系统中的表现。摘要称,这些差异会影响哪些防御措施能够检测或阻止攻击。[1]

研究人员称,他们先用这套分类方法分析了六个现实世界中的漏洞,再将其用于九个提示注入基准。他们报告,多数基准只覆盖了这一空间中的一小部分;尚未覆盖的组合主要涉及较少出现的类别。摘要还称,这套方法支持自动标注基准,并有针对性地生成补充测试用例。这些均为作者报告的研究结果,本文没有独立复现。[1]

[1]: The Devil is in the Context: Nine Dimensions of Prompt Injection Attacks,arXiv,2026 年 11 月 3 日。

来源

  1. The Devil is in the Context: Nine Dimensions of Prompt Injection AttacksarXiv · 2026年11月3日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

3fa9efff61cac73ca73a53a6fb3b7d63925074edd0d22f50f387f257069c3ecc