Junsheng Fu 和 Shuangshuang Gao 于 2026 年 11 月 9 日提交预印本,报告称,针对第三方低秩适配(LoRA)适配器的防御可以抑制测试中观察到的后门行为,但后门仍可能被重新激活。研究的核心问题是:静态攻击成功率(ASR)在多大程度上能作为后门已被清除的证据。[1]
保存的 arXiv 摘要称,研究覆盖 Qwen2.5 的四种模型规模,以及 Qwen2.5、InternLM2.5 和 Spark 三种架构。作者报告,按模块实施的秩一触发差分投影,将标准基准上的 ASR 从 60.4% 降至 0.0%;在另一套被作者称为无污染的 1,000 样本测试集上,ASR 从 70.3% 降至 0.0%。这些数值均为作者报告的实验结果。[1]
摘要还称,使用五个样本进行重新激活训练后,标准投影及其他几种权重编辑防御在第一个训练轮次的 ASR 达到 91.7%–100.0%,作者的单轮双端变体则为 48.7%。所有受评估防御的 ASR 据称均在第二个训练轮次达到 100.0%。作者将与首轮恢复相关的残余触发耦合,与第二轮恢复所涉及的基础模型可学习性区分开来;因此,仅凭攻击行为恢复,也不能直接判断保留了多少后门参数。[1]
[1]: https://arxiv.org/abs/2611.12807
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策