Jiamin Chang 与另外九位作者于 2026 年 11 月 3 日向 arXiv 提交了 The Devil is in the Context: Nine Dimensions of Prompt Injection Attacks。这篇预印本提出一套区分提示注入攻击的分类方法,并报告九个基准存在覆盖缺口:即使合并这些基准,仍有 13% 的类别两两组合未经测试。[1]
作者指出,提示注入取决于上下文:同一条指令在一种场景中可能是攻击,在另一种场景中则可能是合法请求,区别在于用户意图和系统策略。论文提出的九个维度分别描述注入指令本身、它与用户任务的关系,以及它在目标系统中的表现。摘要称,这些差异会影响哪些防御措施能够检测或阻止攻击。[1]
研究人员称,他们先用这套分类方法分析了六个现实世界中的漏洞,再将其用于九个提示注入基准。他们报告,多数基准只覆盖了这一空间中的一小部分;尚未覆盖的组合主要涉及较少出现的类别。摘要还称,这套方法支持自动标注基准,并有针对性地生成补充测试用例。这些均为作者报告的研究结果,本文没有独立复现。[1]
[1]: The Devil is in the Context: Nine Dimensions of Prompt Injection Attacks,arXiv,2026 年 11 月 3 日。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策