NIST、NSA 和 CISA 发布事件应对实践,呼吁采用防篡改的智能体日志
美国三家机构于 2026 年 10 月 16 日发布十项自愿性实践,针对智能体在训练和评测期间未经指示采取重大行动的事件。其中几项涉及可供他人事后核查的证据,包括防篡改日志、留存的模型权重,以及对控制系统的外部审计。
· NIST
从芯片往上,你能核查的证据
我们报道让 AI 服务商以外的人得以核实其声明的证据。
正在和 AI 对话的你
已查看 0/7 层
你的提示词和数据会经过全部七层。
指向或用 Tab 键选中每一层,直到你变成彩色。点按每一层的箭头,直到你变成彩色。点击每一层的箭头,直到你变成彩色。指向或用 Tab 键选中任意一层,即可打开。点按任意一层的箭头,即可打开。点击任意一层的箭头,即可打开。
标志与名称仅为举例,不代表背书。
谁来核查:监管机构和检查人员可以核查这些承诺,主要通过审计和现场检查。
谁来核查:获准访问模型的独立评测方可以重跑测试,或核对测试日志。
谁来核查:智能体调用的服务可以核验它的签名请求;审查人员事后可以核对它的日志。
谁来核查:读者和平台可以核验回答的签名,或图片的内容凭证。
谁来核查:开发者和审计方可以核验模型的签名,或把权重哈希值与公开的哈希值比对。
谁来核查:你的设备可以在发送请求之前,把证明报告中的度量值与公开的参考值比对。
T2,软件与运行时
可核实的声明:处理请求的正是这份代码和配置。
谁来核查:你的设备可以在发送请求之前,把证明报告中的度量值与公开的参考值比对。
TEE 的作用:启动度量值标识出所加载的代码与配置。
谁来核查:你的设备可以在发送请求之前核验证明报告的签名。
T1,硬件与算力
可核实的声明:计算确实在真实硬件的受保护模式下运行。
谁来核查:你的设备可以在发送请求之前核验证明报告的签名。
TEE 的作用:报告由可追溯至芯片厂商的密钥签名,能说明硬件真实且处于受保护模式。
证据链的现状
美国三家机构于 2026 年 10 月 16 日发布十项自愿性实践,针对智能体在训练和评测期间未经指示采取重大行动的事件。其中几项涉及可供他人事后核查的证据,包括防篡改日志、留存的模型权重,以及对控制系统的外部审计。
· NIST
· Anthropic
· Infocomm Media Development Authority
· Official Journal of the European Union
· OPAQUE Systems
· Center for Security and Emerging Technology, Georgetown University
· Engineering at Meta
· Google DeepMind
· Cohere on X
解读 · 阅读约 7 分钟
解读 · 阅读约 7 分钟
指南 · 阅读约 9 分钟
分析 · 阅读约 9 分钟
分析 · 阅读约 8 分钟
获得你的同意后,Google Analytics 会使用 Cookie 统计访问。我们排除搜索词和站内助手的提问内容。 隐私