BiVelio Inc 的 Joan-Marc Fisa 于 2026 年 11 月 6 日向 arXiv 提交了介绍 Caleta 的论文。摘要将其描述为采用 Apache-2.0 许可证的进程监督程序与证据层,围绕现有后端构建,用于本地大语言模型(LLM)推理。其设计通过明确的契约,区分完整性、来源、隐私控制和可复现性等不同主张。[1]
据摘要介绍,Caleta 结合了版本化清单、文件大小精确核对与 SHA-256 制品校验、受控后端构建、受限的 OpenAI 兼容代理、不含提示词的执行记录、基准报告和小型符合性测试套件。论文区分了制品完整性与经过认证的来源,也区分了隐私控制与操作系统隔离。清单签名、检查与使用之间的文件替换,以及操作系统层面的约束,仍是待解决的问题。[1]
作者报告进行了静态检查、22 项单元测试、覆盖 Ubuntu、macOS 和 Windows 的确定性端到端测试,以及一项 Windows CPU 实测。实测使用 Qwen2.5-0.5B-Instruct Q4_K_M 和后端构建 b11981。据报告,三次基准调用共完成 15 次预热后的请求,没有失败;首词元延迟中位数为 18.066 毫秒,解码吞吐量中位数为每秒 54.394 个词元。摘要明确指出,这些测量只描述该配置,不能据此判断跨引擎优势、输出质量、能效或其他硬件上的性能。[1]
[1]: https://arxiv.org/abs/2611.10324
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策