---
title: "Hao AI Lab 发布大模型服务验证流程与原型"
dek: "研究团队报告了两个大模型服务引擎中的并发问题，并对页面生命周期的抽象设计给出了形式化安全性数学证明。该数学证明不能说明具体实现没有缺陷。"
---

2026 年 11 月 10 日，加州大学圣迭戈分校的 Hao AI Lab 介绍了 vstack 和 veriserve：前者是面向编程智能体的五阶段验证流程，后者是一个大语言模型服务引擎原型。研究团队称，利用该流程检查 SGLang 和 vLLM 时发现了三类并发问题，并提出了上游修复。[^1]

研究针对将提示词处理与生成拆分、并通过远程直接内存访问（RDMA）在两者之间传输键值（KV）缓存页面的服务系统。作者称，他们复现了页面或传输标识在先前传输停止之前被重新使用的竞态。迟到的传输可能读取或覆盖另一请求的缓存，而服务器仍返回 HTTP 200。他们还报告，受污染的页面进入了共享前缀缓存，传输停滞则导致请求持续等待。[^1]

Vstack 固定形式化规范，将模型状态转换映射到代码，对照有缺陷和修复后的行为检查模型与代码是否一致，并使用模型检查和定理证明。Veriserve 中名为 PdLedger 的设计跟踪页面代次，将等待传输停止证据的页面与缺少该证据时隔离的页面分开。作者称，他们在明确假设下完成了抽象设计的 TLAPS 安全性数学证明；六组配对运行中，每个输出 token 的中位耗时平均增加 0.18%。这些是作者报告的结果；该数学证明不能说明 Python 实现、GPU 内核或 RDMA 组件没有缺陷。[^1]

:::analysis
问题位于 T2 运行时层：验证者能否信任服务系统，取决于实际实现和配置如何管理缓存页面，也取决于评估模型是否贴合代码及其所依赖的假设。这里涉及的可验证属性是可识别性：如果为用户提供服务的确切版本和配置被记录且可供核查，用户就能判断自己是否处于作者描述的受影响条件下。用户和运营方应对照报告中的条件，检查自身部署的版本、配置和相关修复状态；来源列出了提议中的修复，但没有推荐具体的修复版本。仅凭抽象模型的数学证明，无法识别某次请求由哪套软件提供服务。[^1]
:::

:::checked
本预览稿于 2026 年 11 月 18 日编写，我们阅读了 Hao AI Lab 文章“Towards Verifiable LLM Infra”的保存副本；该文发表于 2026 年 11 月 10 日：https://haoailab.com/blogs/verifiable-llm-infra/。[^1] 我们没有测试 vstack、veriserve 或所报告的缺陷，也没有独立核实数学证明或性能测试，或确认提议中的修复是否已合并或部署。
:::
