---
title: "LoRA 研究提出：合并模型前应先审计来源"
dek: "一篇 arXiv 预印本称，不兼容或更新量接近零的适配器会扭曲遗忘测量。作者提出的检查针对模型身份与评估设置；所保存的摘要不足以确立部署安全性。"
---

Lenny Aharon、Neta Glazer 和 Lior Aharon 于 2026 年 11 月 7 日向 arXiv 提交了 *Audit Before You Merge: Provenance, Probing, and Continual LoRA Composition*。作者提出，在研究合并公共低秩适配（LoRA）适配器如何影响模型原有能力之前，应先审计这些适配器。摘要称，部分适配器存在未明确标示的基础模型版本不匹配，或更新量范数接近零的问题；将它们纳入实验会使测得的干扰幅度虚增约 10 个百分点。[^1]

该研究将每次适配器合并视为持续学习中的一个顺序任务，并将指令微调基础模型原有的能力设为任务 0。作者提出两项审计检查：适配器是否与基础模型匹配，以及参数更新的范数是否达到非微小水平。此外，作者还提出了一套其称为无泄漏的探测评估流程。[^1]

对于通过审计的四个 Llama-3.1-8B-Instruct 适配器，作者报告，朴素合并使 GSM8K 表现下降 10.5 个百分点，HumanEval 表现下降 18.3 个百分点。系数为 0.5 的 Task Arithmetic 与未合并基线的差异则在一个标准误以内。坐标搜索为数学适配器选出的探测最优系数为 −0.5。在 Mistral-7B-Instruct-v0.3 实验中，四个候选适配器有两个未通过审计；对通过审计的适配器进行合并后，各合并方法在 GSM8K 上的表现排序与前述实验一致。[^1]

:::analysis
这些主张涉及 T6（评估层）和 T3（模型层）：适配器的身份与筛选方式会影响遗忘比较能确立什么，因此用户不能仅凭适配器的上架信息判断合并是否可靠。用户和运营方应按作者提出的检查，核对基础模型兼容性与更新量范数，并记录自身评估所用的适配器和合并系数。[^1] 这里涉及的可核查属性是**可识别性**：如果向用户提供服务的确切版本与配置有记录且可核查，用户就能判断自己是否曾接触相关配置；这一点本身并不能确立该配置的实际行为。
:::

:::checked
我们于 2026 年 11 月 14 日阅读了所保存的 arXiv:2611.10684v1 摘要页及提交历史。这些材料可确认作者报告了哪些内容，以及论文的提交日期。我们没有阅读全文或代码，没有测试系统，也没有复现实验测量；上述结果仍属于作者的报告。[^1]
:::
