SecPO 作者于 2026 年 10 月 30 日报告称，将新的训练损失函数与对抗训练结合，可降低针对其防御模型的提示注入攻击成功率。arXiv 摘要称，作者已发布代码、训练数据和模型；本次预览未独立核查这些发布情况。[1]

提示注入是指攻击者利用不可信邮件、文档或网站中的指令，操纵智能体的操作。作者认为，Meta-SecAlign 使用的 DPO 训练损失会使模型受不安全的参考模型约束。SecPO 则利用对理想参考模型的近似：这个理想模型应保留正常任务效用，同时不受注入影响。作者还介绍了一条对抗训练流水线，用于生成更强的注入输入，标记为 best@240。[1]

据摘要，在三种自适应攻击中，相较于 Meta-SecAlign，对抗训练使攻击成功率降至原来的 1/1.5 至 1/14.5；相较于使用 DPO 损失，SecPO 损失又使成功率进一步降至 1/2.4 至 1/4.6。在智能体工作流比较中，作者报告，在 AttackerMovesSecond 攻击下，SecPO + AT Qwen3.6-27B 的 AgentDojo ASR@800 为 8.8%，Meta-SecAlign 为 78.8%。作者还称，在涵盖工具调用、指令遵循、科学和数学的九项基准中，正常任务效用未见明显下降。这些均为作者报告的结果。[1]

[1]: SecPO: Principled Adversarial Training for Prompt Injection Security。arXiv，2026 年 10 月 30 日。https://arxiv.org/abs/2610.41998

来源

  1. SecPO: Principled Adversarial Training for Prompt Injection SecurityarXiv · 2026年10月30日

核查或更正本页

更正
提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致，但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算，并列入站点清单。

0c9273e6cafdd926c20c4556b013dc4591663ecee692df3c5a09a7d7e8891823

查看源文件 · 清单