Chengquan Guo 等十位作者于 2026 年 10 月 28 日向 arXiv 提交了 Where You Inject Matters: The Trust Region Effect in LLM Agents。作者报告称,在恶意指令内容不变的情况下,改变其出现位置,会影响大语言模型(LLM)智能体服从指令的频率。他们将这一现象称为“信任区域效应”,认为智能体会隐含地给予环境中不同区域不同程度的信任。[1]
间接提示注入是指将恶意指令放入智能体接触的外部材料。作者介绍了三个测试环境,覆盖工具使用、编程和日常工作流,并设置了多种注入载体。在摘要给出的例子中,由 GPT-5.4 驱动的智能体,服从仓库文档(如 README 或 TODO 文件)中不安全指令的频率,平均为服从代码或数据文件中相同指令的 2.6 倍。这是相对比较;保存的摘要没有给出绝对成功率。[1]
作者还介绍了基于学习的攻击方法,用于生成注入内容并选择注入位置。摘要认为,内容和位置都会影响攻击强度,但没有列出已修复的软件版本,也没有建议部署补丁。[1]
[1]: Where You Inject Matters: The Trust Region Effect in LLM Agents,arXiv,2026 年 10 月 28 日。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策