从芯片往上,你能核查的证据

可验证 AI,从可信执行环境出发

我们报道让 AI 服务商以外的人得以核实其声明的证据。

静态图
你的数据流经 AI 系统的七个层级,从芯片往上 概念示意图:AI 系统的七个层级画成七块分层展开的平板,从加速器一直到政策。最底层是一块 AI 加速器板:GPU 芯片四周环绕着内存堆栈,旁边是一颗带挂锁的 CPU。往上依次是:玻璃隔离区中的推理服务器,旁边立着一份证明报告;一个神经网络和一组数据集;生成的文本和一张带来源标签的图片;正在调用工具的智能体;评测柱状图和一个仪表盘;最上层是一份盖了印章的协议、几份标准文件和一架天平。一条靛蓝色的线代表证据链,从 GPU 芯片升起,穿过每块平板上的一个圆环,通向印章:某一层的证据已与下一层绑定之处为实线,绑定正在出现之处为虚线,尚未绑定之处断开。最底下两块平板呈靛蓝色,可信执行环境(TEE)在这两层提供直接证据。加速器板旁边的地面上、在这摞平板之外,站着正在和这套系统对话的你:一个穿琥珀色外套、背对观者的人,手机屏幕上是同样的靛蓝色圆环。一条点线代表你的提示词和数据,从手机出发,依次经过每块平板上的一件物品,从 GPU 芯片一直到最上层的标准文件,再把回答带回手机。层级是本站自己的划分,表示位置,不是安全等级;报道标签 T1–T7 即指这些层级。

正在和 AI 对话的你

你的提示词和数据会经过全部七层。

标志与名称仅为举例,不代表背书。

  1. T7,政策已查看AI ActNISTISO 42001网信办

    谁来核查:监管机构和检查人员可以核查这些承诺,主要通过审计和现场检查。

    T7,政策

    可核实的声明:开发者与政府信守其在训练、部署和算力方面作出的承诺。

    谁来核查:监管机构和检查人员可以核查这些承诺,主要通过审计和现场检查。

    11 篇报道 · 其中 1 篇涉及 TEE

  2. T6,评测已查看UK AISIUS CAISSIMETRApollo

    谁来核查:获准访问模型的独立评测方可以重跑测试,或核对测试日志。

    T6,评测与审计

    可核实的声明:公布的结果确实来自所声明的模型、测试和条件。

    谁来核查:获准访问模型的独立评测方可以重跑测试,或核对测试日志。

    12 篇报道 · 其中 1 篇涉及 TEE

  3. T5,智能体已查看

    谁来核查:智能体调用的服务可以核验它的签名请求;审查人员事后可以核对它的日志。

    T5,智能体与行动

    可核实的声明:智能体依据这项策略,代表这个人或机构采取了这些行动。

    谁来核查:智能体调用的服务可以核验它的签名请求;审查人员事后可以核对它的日志。

    7 篇报道

  4. T4,AI 生成内容已查看C2PASynthID

    谁来核查:读者和平台可以核验回答的签名,或图片的内容凭证。

    T4,输出与内容

    可核实的声明:这一输出由该模型根据该输入生成,这份媒体内容具有所声明的来源。

    谁来核查:读者和平台可以核验回答的签名,或图片的内容凭证。

    15 篇报道 · 其中 2 篇涉及 TEE

  5. T3,模型与数据已查看

    谁来核查:开发者和审计方可以核验模型的签名,或把权重哈希值与公开的哈希值比对。

    T3,模型与数据

    可核实的声明:部署的权重正是经过训练和签名的那一份,并具有所声明的来源谱系。

    谁来核查:开发者和审计方可以核验模型的签名,或把权重哈希值与公开的哈希值比对。

    4 篇报道

  6. T2,运行时 TEE 在这一层提供直接证据。已查看

    谁来核查:你的设备可以在发送请求之前,把证明报告中的度量值与公开的参考值比对。

    T2,软件与运行时

    可核实的声明:处理请求的正是这份代码和配置。

    谁来核查:你的设备可以在发送请求之前,把证明报告中的度量值与公开的参考值比对。

    TEE 的作用:启动度量值标识出所加载的代码与配置。

    10 篇报道 · 其中 10 篇涉及 TEE

  7. T1,硬件 TEE 在这一层提供直接证据。已查看

    谁来核查:你的设备可以在发送请求之前核验证明报告的签名。

    T1,硬件与算力

    可核实的声明:计算确实在真实硬件的受保护模式下运行。

    谁来核查:你的设备可以在发送请求之前核验证明报告的签名。

    TEE 的作用:报告由可追溯至芯片厂商的密钥签名,能说明硬件真实且处于受保护模式。

    13 篇报道 · 其中 11 篇涉及 TEE

证据链的现状

  • 已有部署:T1 至 T2
  • 正在出现:T2 至 T6
  • 尚未形成:T6 至 T7

最新新闻

全部简报
  1. Anthropic 称已向六名 METR 评测人员开放类似员工的访问权限

    · Anthropic 验证栈层级:评测与审计。

  2. 新加坡发布 AI 智能体测试工具包,五家 AI 测试公司获得认可

    · Infocomm Media Development Authority 验证栈层级:评测与审计。

  3. 欧盟委员会将 EN 18286 列为《人工智能法》协调标准

    · Official Journal of the European Union 验证栈层级:政策。

  4. OPAQUE 称团队将加入 Anthropic,公司逐步结束运营

    · OPAQUE Systems 验证栈层级:软件与运行时、硬件与算力。涉及可信执行环境。

  5. Google 向公众开放 SynthID 水印检测工具

    · Google 验证栈层级:输出与内容。

可信执行环境

TEE 专题

TEE 最新报道

  1. CSET 称追踪出口 AI 芯片最可行的办法是 ping 核查辅以实地检查

    · Center for Security and Emerging Technology, Georgetown University 验证栈层级:政策、硬件与算力。涉及可信执行环境。

  2. Meta 称正将 Private Processing 扩展至其 AI 眼镜

    · Engineering at Meta 验证栈层级:软件与运行时、硬件与算力。涉及可信执行环境。

  3. Google 称将为 Private AI Compute 增加加密的用户专属记忆

    · Google DeepMind 验证栈层级:软件与运行时、硬件与算力。涉及可信执行环境。

  4. Cohere 为 Model Vault 推出机密计算测试版

    · Cohere on X 验证栈层级:软件与运行时、硬件与算力。涉及可信执行环境。

可以动手完成的核查

全部指南