---
title: "Sable 论文提出整数大模型推理的逐比特数学证明"
dek: "这篇预印本报告了一套用于已承诺 Transformer 推理的单 GPU 数学证明生成系统。其精确性针对指定的整数函数，输出可能与 BF16 推理不同。"
---

Tomer Solberg 于 2026 年 11 月 10 日向 arXiv 提交 Sable，介绍了一套论证系统和单 GPU 数学证明生成器，旨在核验：已通过密码学承诺固定的整数量化 Transformer，是否从给定提示词逐比特地产生了指定的词元序列。这篇预印本面向开放权重模型，并明确说明其数学证明不具备零知识性质。[^1]

摘要定义了一个不含浮点运算的整数函数 F_O，其中舍入、归一化、softmax 和采样决策均由输入确定。作者称，其约束关系不会在模 31 位 KoalaBear 素数的运算中发生回绕。该方案将零检查与 LogUp-GKR 查表检查按域合并为一次 sumcheck，对见证张量和权重作出承诺，并在单块 GPU 上逐层处理模型。[^1]

作者报告，在一块 NVIDIA RTX PRO 6000 Blackwell GPU 上，为 Qwen2.5-32B 全部 64 层生成数学证明，4,096 个词元耗时 92.5 秒，16,384 个词元耗时 398 秒。摘要称，生成开销为服务推理时间的 41–50 倍；采用编译后的核心实现，在单个 CPU 核心上核验需 19–56 秒。作者还称，在随机预言机模型下，交互式数学证明的逐轮可靠性误差为 2^-103。[^1]

逐比特精确性针对的是 F_O。摘要报告，在 WikiText-2 上，F_O 的贪心词元与 BF16 模型在 86.3% 的位置一致。因此，核验指定整数计算的执行，与确认其行为等同于 BF16 推理，是不同的检查目标。[^1]

:::analysis
这项主张涉及 T4 输出层、T3 模型层和 T2 运行时层，核验的是词元序列、已承诺权重与指定整数执行规则之间的关系。核验者需要检查数学证明涵盖哪个模型和配置；用户及运营方则应核对它们是否对应实际处理请求的系统。这里的可核验属性是可识别性：如果实际提供服务的确切版本和配置有记录且可检查，用户就能判断自己是否接触过该实现；所保存的摘要并未确立这种部署关联。[^1]
:::

:::checked
我们于 2026 年 11 月 15 日阅读了所提供的 Sable arXiv 摘要页保存文本，对应 11 月 10 日提交的 arXiv:2611.14083v1。我们没有阅读全文或代码，没有测试系统、复现基准结果，也没有独立验证其安全论证。该页面能确认作者报告了哪些内容，不能独立确认这些结果。[^1]
:::

[^1]: [Sable: A Small-Field Sumcheck Argument for Bit-Exact Inference of Large Language Models](https://arxiv.org/abs/2611.14083)，Tomer Solberg，arXiv，2026 年 11 月 10 日。
