Chengquan Guo 等十位作者于 2026 年 10 月 28 日向 arXiv 提交了 Where You Inject Matters: The Trust Region Effect in LLM Agents。作者报告称,在恶意指令内容不变的情况下,改变其出现位置,会影响大语言模型(LLM)智能体服从指令的频率。他们将这一现象称为“信任区域效应”,认为智能体会隐含地给予环境中不同区域不同程度的信任。[1]

间接提示注入是指将恶意指令放入智能体接触的外部材料。作者介绍了三个测试环境,覆盖工具使用、编程和日常工作流,并设置了多种注入载体。在摘要给出的例子中,由 GPT-5.4 驱动的智能体,服从仓库文档(如 README 或 TODO 文件)中不安全指令的频率,平均为服从代码或数据文件中相同指令的 2.6 倍。这是相对比较;保存的摘要没有给出绝对成功率。[1]

作者还介绍了基于学习的攻击方法,用于生成注入内容并选择注入位置。摘要认为,内容和位置都会影响攻击强度,但没有列出已修复的软件版本,也没有建议部署补丁。[1]

[1]: Where You Inject Matters: The Trust Region Effect in LLM Agents,arXiv,2026 年 10 月 28 日。

来源

  1. Where You Inject Matters: The Trust Region Effect in LLM AgentsarXiv · 2026年10月28日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

769a5aa670ca8e0ecfce6a0a6cba7f4995dc7cb6ab26b3229455a2051413a2eb