Pelloran Inc. 的 Sayed Amir Karim 于 2026 年 11 月 10 日提交预印本,介绍开源运行时 tritify。摘要称,它在模型前向计算的整个运行路径中使用精确整数运算,仅在离线量化和用于核验的参考计算中保留浮点运算。报告涵盖仅解码器语言模型、混合专家(MoE)解码器,以及 Segment Anything 2.1 图像与视频处理栈。[1]
摘要将主张分为三项:跨次运行、跨硬件的输出逐位一致;在已测试模型和输入上,与浮点参考计算的决策一致;计算在机器之间拆分后,输出位保持不变。作者报告了可复现的输出 SHA-256 摘要,也称已测量决策保真度中的数值例外。输出字节一致与参考决策一致,是两种不同的核验属性。[1]
在分布式执行方面,作者称,拥有 106,852,251,264 个参数、整数编码占用 427 GB 的 GLM-4.5-Air,在三台机器上生成的回答与单机参考结果逐位一致;这三台机器各自的内存都无法容纳全部整数编码。其核验思路是通过开放的标量参考实现重新计算出精确字节。摘要明确表示,针对不诚实服务器的保障仍属未来工作,也不声称能提高单设备速度或提供机密性。[1]
[1]: https://arxiv.org/abs/2611.13730
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策