2026 年 11 月 16 日,CrowdStrike 介绍了一种两阶段方法,用于查找通过低秩适配(LoRA)修改的开放权重模型中是否存在后门。该公司称,这种方法先检查模型权重是否有修改迹象,再搜索会触发可疑行为的输入。[1]
LoRA 通过训练一小组额外参数来微调模型,这组参数称为适配器。适配器既可单独分发,也可合并进原始权重。CrowdStrike 称,带后门的模型可能在遇到特定输入前表现正常,随后才产生恶意工具调用或不安全代码等行为。[1]
第一阶段将可疑模型文件与基础模型比较,检查差异的形态、秩以及被提升的输出词元。CrowdStrike 报告称,其在受控实验室环境中扫描了 16 个模型文件:8 个带后门模型、4 个实验室构建的良性模型,以及 4 个公开对照模型。该公司称,8 个带后门模型均被提交进一步调查;另外两个良性合并模型也被提交调查,还有一个对照模型被识别为经过拒绝方向移除处理的模型。公司指出,在扫描器看来,恶意和良性的合并 LoRA 可能相似。[1]
第二阶段对被提交调查的模型搜索候选触发条件,使用下一词元概率进行探测,再通过完整生成结果检查候选条件。所提供来源描述了这一过程,但保存的文本在第二阶段结果开头处结束,因此现有材料无法说明该阶段的结果。[1]
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策