---
title: "研究报告提示词防御的局限与外部工具控制的作用"
dek: "一篇 arXiv 预印本比较模型防护与确定性策略执行，并明确区分真实模型实验、模拟自适应攻击和人工审核的证据。"
---

Mustafa S. Aljumaily、Nawar S. Alseelawi 和 Raghad Alshabandar 于 2026 年 11 月 8 日向 arXiv 提交预印本，比较面向工具调用智能体的提示注入防御。摘要称，即使模型提出恶意工具调用，模型外部的确定性控制仍可限制其执行。研究在包含 13 项任务和 12 个工具的可执行环境中，比较提示词防御、四种按策略检查操作的引用监控器、人工批准和污点跟踪。[^1]

对于 Qwen2.5-1.5B 和 Qwen2.5-7B，作者报告每种防御、每个模型各进行 156 轮攻击实验。在任务约束监控器下，两个模型分别在 64% 和 84% 的攻击轮次中提出攻击者要求的调用，监控器分别放行 1.3% 和 7.7%。这些是两个模型面对静态攻击的报告结果，不能据此认定控制措施可以阻止所有攻击。[^1]

摘要另行介绍了模拟结果：在假定的防御衰减规律下，持续自适应攻击或模型失陷使各类防护组合的攻击成功率达到 100%，而任务约束监控器将严重操作的发生率保持在 0%。人工批准和污点跟踪的结果仅来自模拟。作者也承认，较大模型的检测器实验结果与该衰减假设相矛盾，并称已提供代码、数据、结果判定机制的审计及复现实验笔记本。[^1]

:::analysis
这些主张涉及 T6 评估层、T5 智能体层和 T2 运行时层：评估决定证据的适用范围，操作授权则依赖智能体周围的控制措施。因此，用户或核验方需要核对实际部署的监控器、工具权限、批准次数上限及配置；摘要没有提供修复版本或升级建议。[^1] 此处关键的可核验属性是可识别性：如果服务于某位用户的确切版本和配置有记录且可核查，该用户就能判断自己是否曾暴露于相关系统设置，但仅凭这些记录还不能判断攻击是否成功。
:::

:::checked
我们于 2026 年 11 月 16 日阅读了所提供的 arXiv:2611.11571v1《Treating the Model as an Untrusted Component》摘要及投稿记录的保存文本。这次阅读确认了作者报告的内容和投稿日期；我们没有阅读全文、检查作者所称的配套材料、复现实验或测试系统。[^1]
:::

[^1]: https://arxiv.org/abs/2611.11571
