Alexander Nguyen、Dylan Gresham、Gaby G. Dagher 和 Min Long 于 2026 年 11 月 6 日向 arXiv 提交 SciCheck。该框架提出利用记录在案的训练方案、梯度统计和抽样重新执行,核验深度学习训练。作者将其定位为科研流程中的核验问题:训练配置会随实验调整,诚实执行的训练也会产生不同权重,因此难以通过重新计算来核对结果。[1]
研究者为每个希望接受核验的候选配置,将一份训练蓝图写入溯源账本。负责核验的研究者随后进行两项检查:统计判别模型将每一步的梯度统计与核验者自己的参考训练进行比较;抽查则重新执行随机选中的训练片段。检查点按每个训练轮次提交到账本,形成承诺记录。[1]
摘要报告了在多层感知机(MLP)、卷积神经网络(CNN)和自编码器上的实验,模型参数量为 10 万至 50 万,攻击包括梯度符号翻转、标签投毒和伪造训练。作者报告的 F1 分数为 0.966、0.906 和 0.976,诚实训练的误拒率为 0–4.4%。这些均为作者报告的结果。作者称,在所测试的攻击中,准确率主要来自抽查;对于重放真实统计数据的伪造训练,其测试过的统计检测器未发现它们比诚实训练更异常。[1]
[1]: SciCheck: A Framework for Verifying the Integrity of Deep Learning Training。arXiv,2026 年 11 月 6 日。https://arxiv.org/abs/2611.09889
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策