Brijesh Dongol 于 2026 年 11 月 8 日提交预印本,介绍 PlanTERS 框架,为大语言模型(LLM)智能体的提示注入安全提出相对定义。arXiv 摘要称,研究在 Isabelle/HOL 中对采用围栏、预算、审批、循环和双 LLM 的智能体进行了机械化验证,给出了相应结果。[1]
论文从一个实际难题出发:有用的智能体必须允许电子邮件、网页等不可信内容影响其行动。因此,研究将智能体与一个参考智能体比较:两者执行相同计划,受相同的运行时监控器约束,但参考智能体的模型从不服从不可信内容中的指令。所谓相对安全,是指智能体的每一次信息泄露,都属于参考智能体本来就会发生的泄露。这一定义允许基准系统已有的泄露,并未声称参考智能体会保守所有用户数据。[1]
摘要报告了一项围栏定理:在首次读取不可信内容时撤销可被注入利用的工具,且此后不再恢复,可使所有计划在有限运行中满足事件层面的相对安全。该结果要求每次注入仅涉及一次调用,且模型服从指令的时机遵循预先固定的调度;加入公平性条件后,结果可扩展至可能无限的运行。摘要称,框架对多种防御模式给出了相对安全的数学证明或反例,但没有逐项列出结论。[1]
[1]: Brijesh Dongol,arXiv,提交于 2026 年 11 月 8 日。https://arxiv.org/abs/2611.11506
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策