---
title: "研究人员报告利用工具输出对智能体实施自适应提示注入"
dek: "一篇 arXiv 论文摘要介绍了合成评测，旨在区分指令层级遵循失败与安全知识不足。保存的页面未提供攻击成功率，也未提供针对具体部署的受影响证据。"
---

Alexey Kurakin 及另外十位作者于 2026 年 11 月 9 日向 arXiv 提交了 *Scaling Adaptive Prompt Injection Attacks with Agent Swarms*。作者报告，能力更强的攻击智能体能够诱使模型遵循工具输出中嵌入的指令，涉及的模型包括此前在 GraySwan Arena 等公开提示注入基准上被认为较为稳健的模型。这些结论来自保存的论文摘要，属于作者报告的研究结果。[^1]

研究人员介绍了一套合成评测数据集，将随机、无恶意的动作设为攻击目标。这样设计是为了衡量模型能否遵循指令层级，并将这种能力与模型掌握的安全实践知识区分开来。这里关注的失败情形是：模型接受了权威级别较低的工具输出中的指令。[^1]

摘要认为，现有评测和人工红队测试看似进入平台期，并不意味着系统能够抵御能力持续增强的攻击者。作者主张继续研究防御，并提出开展主动、自动化的红队测试。保存的页面没有给出攻击成功率、智能体群的详细设计、受测模型的确切版本及配置，也没有推荐修复版本，因此无法据此判断某项已部署服务是否受影响。[^1]

:::analysis
这一问题涉及 T6（评测层）和 T5（智能体层）：基准结果为稳健性主张提供依据，而智能体在处理工具输出时需要维持指令权限边界。我们的解读是，用户和核验者在依赖评测结论前，需要先确认该评测与实际提供服务的系统之间有何对应关系。这里需要核验的属性是**可识别性**：如果为用户提供服务的确切版本和配置有记录且可核查，那么在受影响条件明确后，用户就能判断自己是否曾处于受影响范围；这份摘要本身没有明确这些条件。用户和运营方应核对部署版本、配置、工具输出的处理方式，以及评测证据是否适用；该来源没有列出可供安装的修复版本。[^1]
:::

:::checked
我们于 2026 年 11 月 14 日阅读了所提供的 arXiv:2611.11861v1 摘要页保存快照，包括提交历史。我们没有阅读全文、检查代码或数据集，也没有测试该系统。本次核查确认的是保存页面报告了什么，以及论文的提交日期；实验结论仍归属于作者的报告。[^1]
:::

[^1]: [Scaling Adaptive Prompt Injection Attacks with Agent Swarms](https://arxiv.org/abs/2611.11861)，arXiv，2026 年 11 月 9 日。
