---
title: AI 越强大，越需要可核查的证据
dek: 我们希望，未来 AI 的承诺能由人们自己核查。
published: 2026-10-21
updated: 2026-10-24
---
<div data-include="positioning"></div>

## 为什么这件事重要 {#problem}

我们越是让 AI 代自己处理事务，就越需要知道它是否值得托付。

在交出私密数据或授予工具访问权限之前，人们应当能够核查服务商的承诺。工程师和审计人员也应当拿得到可以检查、质疑的证据。

## 哪些事情应当可以核查 {#verifiable}

- **隐私保护。** 谁能读取提示词和回答？这些数据如何留存？
- **安全策略。** 请求受哪份策略约束？策略是否得到执行？
- **模型身份。** 实际处理请求的是哪个模型、哪些软件和配置？
- **智能体行为。** 它做了什么，又是依据谁的授权？

我们希望 AI 系统能够用证据回答这些问题。每一次核查都应写清楚覆盖的声明，以及仍然依赖的信任假设。

## 为什么从 TEE 出发 {#why-tees}

可信执行环境（TEE）为这个愿景提供了一个实际起点。它旨在给定威胁模型内，将运行中的软件与宿主系统隔离。远程证明则提供关于所加载软件的签名记录，客户端可以在发送数据前核对它。

AI 服务已经在使用这些机制，TEE 安全也是本站编辑的研究方向。我们追踪它们的部署和失效。远程证明本身不能说明软件正确执行了安全策略，也不能说明 AI 回答真实。

### 其他方法如何帮助实现愿景 {#compare}

数学证明、重新执行、审计与签名覆盖这个问题的其他部分。我们比较它们与 TEE 的作用，也研究如何组合使用，并写清楚[各自的信任假设](/topics/#tiers)。

## 我们正在推动什么 {#goals}

verifiable.pro 希望把这个愿景变成人们用得上的工作：

1. 建立中英文 [TEE 学习路径](/learn/#tee-path)，从基本概念讲到核查一份真实的证明报告，涵盖 CPU 与 GPU 机密计算，以及 TEE 如何失效。
2. 维护注明日期的 [AI 服务及其证据记录](/topics/confidential-computing/#services)和 [TEE 攻击记录](/topics/confidential-computing/#limits)，写明外界能检查什么。
3. 在 GPU 机密计算中运行站内助手，由浏览器核对服务环境的远程证明证据。助手目前仍是[演示模式](/about/#assistant)。

我们希望，核查证据能成为人们选择、构建和使用 AI 时的日常步骤。

### 我们坚持的标准 {#non-goals}

报道以证据支持的范围为准，厂商声明注明出处，错误公开更正。我们不认证服务。

## 谁在建设这个网站 {#editor}

verifiable.pro 由 SEPT Lab 维护，Mengyuan Li 担任编辑。[贡献者名单](/contributors/)列出了参与建设的人。

### 我们为谁写作 {#readers}

我们以中英文写作，面向使用、构建、研究或评估 AI 系统的人。

### 如何核查我们的工作 {#accountability}

了解[我们如何工作](/about/)，也欢迎[报告错误](/about/#corrections)。引用来源和注明日期的更正记录都接受读者检查。