Junsheng Fu 和 Shuangshuang Gao 于 2026 年 11 月 9 日提交预印本,报告称,针对第三方低秩适配(LoRA)适配器的防御可以抑制测试中观察到的后门行为,但后门仍可能被重新激活。研究的核心问题是:静态攻击成功率(ASR)在多大程度上能作为后门已被清除的证据。[1]

保存的 arXiv 摘要称,研究覆盖 Qwen2.5 的四种模型规模,以及 Qwen2.5、InternLM2.5 和 Spark 三种架构。作者报告,按模块实施的秩一触发差分投影,将标准基准上的 ASR 从 60.4% 降至 0.0%;在另一套被作者称为无污染的 1,000 样本测试集上,ASR 从 70.3% 降至 0.0%。这些数值均为作者报告的实验结果。[1]

摘要还称,使用五个样本进行重新激活训练后,标准投影及其他几种权重编辑防御在第一个训练轮次的 ASR 达到 91.7%–100.0%,作者的单轮双端变体则为 48.7%。所有受评估防御的 ASR 据称均在第二个训练轮次达到 100.0%。作者将与首轮恢复相关的残余触发耦合,与第二轮恢复所涉及的基础模型可学习性区分开来;因此,仅凭攻击行为恢复,也不能直接判断保留了多少后门参数。[1]

[1]: https://arxiv.org/abs/2611.12807

来源

  1. Suppression Is Not Erasure: Mechanistic Analysis and Reactivation Boundaries of Subspace Projection for LoRA Backdoor DefensearXiv · 2026年11月9日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

e1a216d8044fa7f86722931e0a5b83bdca803ddcee3768aeaca9d26959d9464e