验证栈与信任分档

七个层级说明一项关于 AI 系统的声明位于何处,从芯片一直到约束这一系统的法律、标准与协议。五个信任分档说明核查通过时依赖的是什么,并以可信执行环境为参照。

七层可核实的声明

每一层写明服务商以外的人可以核实的一类声明,从 T1 的芯片一直到 T7 的法律、标准与协议。每一行还写明谁可以核查。层级表示位置,不是安全等级:高层并不更安全,它建立在下面各层之上,但不包含它们。只有每一层的证据都与下一层绑定,核查才能一路向上。TEE 在 T1 和 T2 提供直接证据,对其余各层只能经由它度量的代码起作用。

  1. T7

    政策

    可核实的声明开发者与政府信守其在训练、部署和算力方面作出的承诺。

    谁来核查监管机构和检查人员可以核查这些承诺,主要通过审计和现场检查。

    TEE 的作用仅经由被度量的代码按一项提议,芯片将用 TEE 固件中的密钥为位置核查的应答签名。

    与下一层的绑定尚未形成承诺与规则很少写明所依据的审计结果或证明证据,不过在算力协议方面,已有提案这样做。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:对于拟议中的出口管制芯片位置核查,CSET 建议每颗芯片用其 TEE 固件中的密钥为应答签名。这能说明芯片从何处应答,但不能说明谁在使用它,也不能说明承诺是否得到遵守。

    其他证据:审计(现场检查、合格评定、对评测方的要求)

    最新: · 欧盟委员会将 EN 18286 列为《人工智能法》协调标准

  2. T6

    评测与审计

    可核实的声明公布的结果确实来自所声明的模型、测试和条件。

    谁来核查获准访问模型的独立评测方可以重跑测试,或核对测试日志。

    TEE 的作用仅经由被度量的代码在 TEE 中运行的评测,可以说明加载了哪个模型和哪些测试代码。

    与下一层的绑定正在出现评测在 TEE 中运行,或者由审计方核对日志,这些日志与经远程证明的环境绑定。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:评测在 TEE 中运行时,证明报告会说明加载了哪个模型、哪个测试集和哪些评测代码。权重和测试题也可以保持机密。证明报告不能说明基准衡量的是真正重要的能力。

    其他证据:审计(结构化访问、经认证的测试) · 重新执行(重跑评测) · 数学证明(零知识评测证明)

    最新: · Anthropic 称已向六名 METR 评测人员开放类似员工的访问权限

  3. T5

    智能体与行动

    可核实的声明智能体依据这项策略,代表这个人或机构采取了这些行动。

    谁来核查智能体调用的服务可以核验它的签名请求;审查人员事后可以核对它的日志。

    TEE 的作用仅经由被度量的代码可以说明加载了哪段护栏代码,但不能说明它有效。

    与下一层的绑定正在出现每一次行动连同触发它的已签名输出,一起记入篡改可检测日志。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:经远程证明的智能体运行时可以说明,智能体行动之前加载了哪段护栏或策略代码。它不能说明护栏确实有效,也不能说明是谁授权了智能体。

    其他证据:签名(签名请求与授权书、篡改可检测日志) · 审计(事故审查)

    最新: · NIST、NSA 和 CISA 发布事件应对实践,呼吁采用防篡改的智能体日志

  4. T4

    输出与内容

    可核实的声明这一输出由该模型根据该输入生成,这份媒体内容具有所声明的来源。

    谁来核查读者和平台可以核验回答的签名,或图片的内容凭证。

    TEE 的作用仅经由被度量的代码可以把回答对应到生成它的软件,但不能说明回答正确。

    与下一层的绑定正在出现为回答签名的密钥只存在于经远程证明的环境中。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:当会话与证明报告绑定时,回答可以对应到生成它的软件。如果该软件度量了权重,回答也能对应到这些权重。证明报告不能说明输出正确。

    其他证据:数学证明(推理的零知识证明) · 重新执行(激活指纹、仲裁式委托、抽样审计) · 签名(内容凭证、水印)

    最新: · Google 向公众开放 SynthID 水印检测工具

  5. T3

    模型与数据

    可核实的声明部署的权重正是经过训练和签名的那一份,并具有所声明的来源谱系。

    谁来核查开发者和审计方可以核验模型的签名,或把权重哈希值与公开的哈希值比对。

    TEE 的作用仅经由被度量的代码权重只有经被度量的代码核对才算在内。远程证明可以作为释放权重密钥的前提。

    与下一层的绑定正在出现经远程证明的软件记录所加载权重的哈希值,报告因此可以指明具体是哪个模型。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:启动后加载的权重,只有经被度量的代码核对(例如与公开的哈希值比对),才在覆盖范围之内。密钥服务器还可以只在某个环境的远程证明结果符合其策略时,才向它释放权重的解密密钥。

    其他证据:签名(模型签名、构建溯源、AI 物料清单) · 数学证明(权重承诺、训练数据证明) · 审计(数据集审计)

    最新: · CISA 与 G7 伙伴发布 AI 软件物料清单最低要素

  6. T2

    软件与运行时

    可核实的声明处理请求的正是这份代码和配置。

    谁来核查你的设备可以在发送请求之前,把证明报告中的度量值与公开的参考值比对。

    TEE 的作用直接证据启动度量值标识出所加载的代码与配置。

    与下一层的绑定已有部署启动时,芯片度量所加载的软件,并在远程证明报告中为这些度量值签名。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:启动时的度量值标识出所加载的软件,验证方把它们与公开的参考值比对。之后加载的输入,只有经被度量的代码核对才算在内。度量值相符只能标识软件,不能说明软件行为正确。

    其他证据:签名(签名构建、登记在案的版本) · 数学证明(代码的形式化验证)

    最新: · OPAQUE 称团队将加入 Anthropic,公司逐步结束运营

  7. T1

    硬件与算力

    可核实的声明计算确实在真实硬件的受保护模式下运行。

    谁来核查你的设备可以在发送请求之前核验证明报告的签名。

    TEE 的作用直接证据报告由可追溯至芯片厂商的密钥签名,能说明硬件真实且处于受保护模式。

    TEE 在本层能说明什么,以及其他证据

    TEE 的作用:报告由可追溯至芯片厂商的密钥签名。它说明真实硬件在受保护模式下启动了被度量的软件,并给出固件版本。这一模式能否把宿主机挡在外面,取决于厂商的设计。你对这一设计的信任只在厂商的威胁模型内成立,而该模型不涵盖部分物理攻击和侧信道攻击。

    其他证据:审计(数据中心与芯片的现场检查)

    最新: · OPAQUE 称团队将加入 Anthropic,公司逐步结束运营

贯穿各层编号的竖线是证据链:实线表示与下一层的绑定已有部署,虚线表示正在出现,断开表示尚无做法。链在哪里断开,核查就止于哪里。

T1–T7 表示报道所涉声明位于验证栈的哪一层。层级表示位置,不是安全等级。这套分层是本站自己的划分,不是行业标准。TEE 标签表示报道涉及可信执行环境。

其他方法与 TEE 的比较

各档按通过核查所依赖的对象排列:先是某一方的陈述,再是硬件生成的证据,然后是重新计算与数学证明。这一顺序说明信任落在何处,并不是优劣排名。每一档核实的声明各不相同,范围也更窄。各档的代价也不同,而且并不按这个顺序递增。在这些方法中,只有 TEE 的设计目标是在处理期间对运营方隐藏提示词与权重。实际部署的服务常常组合使用多档。

基准,不算核查

服务商的说法

模型卡、隐私政策,以及服务对自身的描述,包括“经远程证明”“私密”“已验证”之类的说法。这样的陈述告诉你服务商怎么说。外界可以拿它与证据对照,却无法单凭陈述本身加以核实。我们把它作为服务商的声明来报道。

第 1 档 · 签名方及其密钥

签名与日志

核查通过能确立
某个已知密钥签署了这些确切的字节,此后它们没有被改动。透明日志还会公开记录签名事件,监督日志的人因此能发现悄悄替换的行为。
不能确立
它不能说明制品是如何产生的,也不能说明签名方所声称的内容属实。签过名的模型仍可能出错。内容凭证记录的是签名方的说法。没有检测到水印,也说明不了任何问题。
保密范围、代价与比较
需要信任
签名方的诚实及其对密钥的保管、为签名方背书身份的证书机构或身份提供方,以及监督日志的一方。对水印而言,还包括嵌入水印的一方和检测器的误差率。
对运营方保密什么
不涉及保密:签名与日志本来就是公开的。
代价与成熟度
单个制品的成本很低,已在生产中使用。Sigstore 的模型签名库于 2025 年 4 月发布 1.0 版。研究者指出,C2PA 没有达到其声明的安全目标。另一位研究者称,排除范围(签名不覆盖的文件部分)会让恶意签名者为编辑过的图像倒签日期。
与 TEE 相比
TEE 的证明报告也是一种签名,但它由硬件针对自己度量过的软件签发。在这一档,陈述什么由个人或机构决定。签名也能补足 TEE:有了软件版本的透明日志,验证方就能把证明报告中的度量值与登记在案的版本比对。
与 TEE 结合
Apple 的 Private Cloud Compute 把远程证明与软件版本的只追加日志结合起来。

包括:模型签名(Sigstore、OpenSSF 模型签名)、构建溯源与 AI 物料清单、透明日志、C2PA 内容凭证、智能体的签名请求与签名授权书,以及篡改可检测日志。水印检测与这一档相邻:水印是嵌入内容的统计信号,不是签名。

第 2 档 · 检查方及其获得的访问权限

审计与评测

核查通过能确立
某个具名检查方在其获得的访问权限下、于某一时间点观察到的情况。审计能覆盖硬件报告或数学证明都无法描述的声明,例如开发者是否遵守了自己的安全做法。
不能确立
它不能说明为用户提供服务的系统就是被检查的那一个,也不能说明检查范围之外的任何事情。
保密范围、代价与比较
需要信任
检查方的能力与独立性、开发者给予的访问深度,以及报告是否如实。
对运营方保密什么
检查方看到开发者提供的内容,通常须保密;公众只能看到报告。
代价与成熟度
每次审计都需要专家投入,访问权限逐案协商,因此无法覆盖每一次请求。认证、保障等级以及对评测方的要求仍在制定之中。
与 TEE 相比
这类证据依靠的是人的判断,而不是客户端可以逐次核对的报告。TEE 可以加深审计:评测方可以在 TEE 中测试保密的模型,证明报告则说明加载了哪个模型和哪些测试代码。
与 TEE 结合
Google DeepMind 的双盲评测试点在 Google Cloud 的 Confidential Space 中运行了一次评测。其报告指出,并非所有推理代码都能接受检查,这一安排仍需信任 Google。

包括:采用黑盒、白盒或“盒外”访问的第三方审计与评测、经认证的测试与分级保障、依据标准的合格评定、数据中心与芯片的现场检查,以及对智能体事故的审查。

本站重点

第 3 档 · 芯片厂商与被度量的软件

基于硬件的远程证明(TEE)

核查通过能确立
真实硬件在受保护模式下启动了具有所述度量值的软件,固件版本如报告所述。验证方提供的随机数(nonce)说明报告是新鲜的。只有承诺了会话密钥的报告,才能说明这条连接终止于经远程证明的环境之内。
不能确立
它不能说明被度量的软件行为正确。启动后加载的输入,只有经被度量的代码核对才算在内。证明报告也不能说明受保护模式能把宿主机和云运营方挡在外面,这是厂商设计的属性。
保密范围、代价与比较
需要信任
芯片厂商的设计、固件与密钥;发布参考值的一方,以及据此比对的验证方;还有被度量的软件本身。隔离只在厂商的威胁模型范围内成立。该模型不涵盖部分物理攻击(例如 DDRop 内存插入器),也没有涵盖所有侧信道。运营方仍然可以停止或重启这一环境。
对运营方保密什么
提示词与权重,在厂商威胁模型的范围内对运营方保密。在这里比较的方法中,只有它的设计目标是在大模型运行期间对运营方隐藏这些数据。
代价与成熟度
商用 CPU 与 GPU 已在主要云平台上提供,已部署的 AI 服务正在使用。一篇预印本测得:在 NVIDIA B200 GPU 上,配置得当时推理吞吐开销约为 1% 至 3%,使用默认推理软件时为 30% 至 40%。已公开的审计发现过未纳入度量的输入,以及可以被重放的报告。
为何是本站重点
AI 服务已经依赖这一档,它的局限因此正在影响读者。它的证据也容易被夸大:一份有效的报告能标识软件,却不能为软件的行为担保。

包括:Intel TDX、AMD SEV-SNP 与 Arm CCA 上的机密虚拟机;处于机密计算模式的 NVIDIA Hopper 与 Blackwell GPU;IETF RATS 角色划分下的远程证明;以远程证明为前提的密钥释放;以及公开远程证明证据的 AI 服务,例如 Apple Private Cloud Compute、Meta Private Processing、Google Private AI Compute 与 Cohere Model Vault Encrypted。

TEE 专题

第 4 档 · 诚实的核查方

重新执行

核查通过能确立
对被核查的请求或其中的样本重新执行后,结果与服务商的输出相符,或完全一致,或在给定容差之内。仲裁式委托把同一任务交给多家服务商,只要其中至少一家诚实,客户端就能得到正确结果。
不能确立
它不能说明无人核查的请求,包括抽样漏掉的偶发作弊,也不能说明模型本身好不好。
保密范围、代价与比较
需要信任
持有模型的核查方确实执行了核查;服务商无法分辨哪些请求是抽查;容差不会让更便宜的模型蒙混过关。乐观方案在无人质疑时默认接受结果,这类方案还需要有人在争议窗口内提出质疑。
对运营方保密什么
默认不保密:核查方能看到提示词和权重,除非重新执行本身在 TEE 中运行。
代价与成熟度
被核查的计算至少要多跑一遍。在重复运行之外,Verde 的作者报告,其可复现算子在 A100 GPU 上相对 PyTorch 的推理开销为 58% 至 98%。抽样方案报告的吞吐开销低于 1%。大多仍是研究协议,已有一个部署据称上线(EigenAI,2026 年 1 月)。
与 TEE 相比
重新执行把对芯片厂商的信任换成了对诚实核查方的信任,但没有任何内容能保密。它能核查输出出自哪个模型,TEE 则把这个问题留给自己度量的软件。
与 TEE 结合
EigenAI 在 TEE 中重新执行受到质疑的请求,因此同时依赖两类假设。必须有人在争议窗口内提出质疑,持有至少三分之二质押的验证者也必须诚实行事。飞地硬件同样需要信任。

包括:完整重新执行、激活指纹(TOPLOC)、仲裁式委托(Verde)、抽样审计(IMMACULATE)、带争议窗口的乐观方案(EigenAI),以及模型身份的统计检验。

第 5 档 · 证明系统与被证明的命题

数学证明(零知识证明与形式化证明)

核查通过能确立
零知识证明说明:在被证明的计算下,输出由输入和已承诺的权重得出。已承诺的权重是证明者事先固定下来的权重,零知识证明不会向验证方透露它们。形式化证明说明:所陈述的性质对规约范围内的所有输入都成立。
不能确立
数学证明只覆盖它所陈述的命题。被证明的计算往往是模型的整数化版本,并采用贪心解码,即模型总是选取概率最高的下一个词元。已承诺的权重是否就是所宣称的模型,需要另外的绑定来说明。Hollow-LLM 论文描述了一种情形:所承诺的权重让证明依然有效,而所声明模型的大部分计算从未执行。(本站编辑是该论文的合著者。)
保密范围、代价与比较
需要信任
证明系统及其可信设置(如有)的可靠性、证明检查器,以及与实际系统相符的电路或规约。
对运营方保密什么
对验证方隐藏权重;生成证明的一方仍能看到提示词。
代价与成熟度
生成证明的代价比推理高出几个数量级。zkLLM 为一个 130 亿参数模型的一次推理生成证明,用了 803 秒。DeepProve 报告,GPT-2 每分钟可证明 174 个词元,Gemma 3 为 86 个。这些仍是研究系统。神经网络验证器可以证明某个输入区域内的鲁棒性等性质。Lean 等证明助手如今也在检查 AI 生成的重要定理证明。
与 TEE 相比
在完整性方面,数学证明不再需要信任硬件。但它们不对服务商保密,所证明的命题更窄,代价也高得多。形式化验证还可以补足 TEE:远程证明说明加载了哪份代码,关于这份代码的形式化证明则可以说明它满足规约。

包括:推理与评测的零知识证明(zkLLM、DeepProve、Jolt Atlas)、针对已承诺权重的证明与训练数据证明;神经网络与代码的形式化验证(α,β-CROWN),以及 Lean 等证明助手。

同态加密和安全多方计算也能在处理期间隐藏数据,但它们本身不是核查手段。

为什么以 TEE 为参照

实际部署中的分档组合

  • Apple Private Cloud Compute:远程证明加公开日志

    信任分档:TEE + 签名

    设备只把请求发给这样的节点:其证明报告中的度量值与只追加日志中的某个版本相符。Apple 还向研究人员公开这些镜像。远程证明仍需信任硬件和 Apple 的密钥。已登记的版本究竟做了什么,要靠外部研究人员来检查。

  • EigenAI:在 TEE 中重新执行

    信任分档:重新执行 + TEE

    一个委员会在 TEE 中重新执行受到质疑的请求,结果必须逐字节一致。这一设计仍需要有人在争议窗口内提出质疑,也需要持有三分之二质押的验证者诚实行事。它还依赖飞地硬件。

  • 双盲评测:TEE 中的审计

    信任分档:审计 + TEE

    评测方在 Google Cloud 的 Confidential Space 中测试了一个 Gemini 模型。这一安排的设计目标是让评测方看不到权重,Google 也看不到测试提示词。报告指出,并非所有推理代码都能接受检查,这一安排仍需信任 Google。

主题

  1. 机密计算与远程证明 本站重点

    硬件隔离旨在保护运行中的 AI 工作负载,远程证明则报告加载了哪些软件来处理提示词、数据和模型权重。

    信任分档:TEE

    15 篇文章 · 27 项资源

  2. 可验证推理与计算

    用密码学证明和重新执行协议,核查一个输出或一组训练得到的权重是否确实来自所声明的模型与计算。

    信任分档:重新执行、数学证明

    6 篇文章 · 24 项资源

  3. 形式化验证

    用经机器检查的数学证明,表明神经网络、程序或 AI 生成的代码在适用范围内的所有输入上都满足精确的规约。

    信任分档:数学证明

    3 篇文章 · 23 项资源

  4. 可验证评测与审计

    如何把公布的基准分数或审计结论,与产生它的模型、测试集和代码绑定起来。

    信任分档:审计

    12 篇文章 · 26 项资源

  5. 模型与数据供应链

    借助签名、构建溯源和物料清单,用户可以核查模型或数据集由谁产生、来自哪些输入,以及发布后是否被改动。

    信任分档:签名

    5 篇文章 · 25 项资源

  6. 内容溯源与水印

    用签名元数据和嵌入式水印记录媒体内容的来源,以及它是否由 AI 生成或编辑。

    信任分档:签名

    10 篇文章 · 22 项资源

  7. 智能体身份与问责

    用证据说明是哪个智能体、代表谁、凭借何种授权采取了行动,并把证据保存在无法被悄悄改写的记录中。

    信任分档:签名、审计

    9 篇文章 · 19 项资源

  8. 治理与算力核查

    核查关于 AI 的承诺、规则与协议是否得到遵守,包括关于芯片和训练过程的声明。

    信任分档:审计、TEE

    7 篇文章 · 20 项资源