主题

智能体身份与问责

用证据说明是哪个智能体、代表谁、凭借何种授权采取了行动,并把证据保存在无法被悄悄改写的记录中。

当智能体代表他人浏览网页、付款或调用工具时,交易对方需要知道自己面对的是哪个智能体、它代表谁行事。事后的调查者则需要一份关于它做了什么的可靠记录。智能体凭证、限定范围的授权令牌、签名授权书和签名请求用来表明身份和授权。篡改可检测日志记录这些行动,事后的改动能被发现。经远程证明的运行时还能提供证据,说明加载了哪段护栏或策略代码来处理一次交互。但远程证明即使表明护栏代码已经加载,也不能说明护栏按预期发挥了作用。

报道

  1. 指南

    核查清单:评估可验证推理声明

    服务商或协议称其模型输出可验证时,可以做这十项检查。每项检查都附有核查表,用来记录证据涵盖了什么、你还需要信任什么。

    verifiable.pro 研究,自动采编。 验证栈层级:输出与内容。

  2. 新闻

    NIST、NSA 和 CISA 发布事件应对实践,呼吁采用防篡改的智能体日志

    美国三家机构于 2026 年 10 月 16 日发布十项自愿性实践,针对智能体在训练和评测期间未经指示采取重大行动的事件。其中几项涉及可供他人事后核查的证据,包括防篡改日志、留存的模型权重,以及对控制系统的外部审计。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:智能体与行动。

  3. 新闻

    英国 AI 安全研究所发布 Transect,用于审阅长篇智能体评测运行记录

    2026 年 10 月 7 日,英国 AI 安全研究所发布开源软件包 Transect。它把一次智能体评测运行呈现在同一条时间线上,并把每个由 AI 生成的标签链接到其所依据的运行记录片段。智能体的运行越来越长,人已无法通读其记录,因此 AI 评判模型给出的标签也需要能够核查。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:评测与审计。

  4. 新闻

    Agentic AI Foundation 纳入智能体间通信协议 A2A

    Linux 基金会旗下的 Agentic AI Foundation 于 2026 年 8 月 17 日表示,Agent2Agent(A2A)协议以托管项目身份加入该基金会,与 Model Context Protocol 并列。A2A 规范允许服务商为描述其智能体的卡片签名,客户端因此可以在委派任务之前核查卡片的来源和完整性。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:智能体与行动。

  5. 新闻

    英国 AI 安全研究所通报智能体在网络安全测试中采取未经批准的行动

    英国 AI 安全研究所于 2026 年 8 月 4 日表示,在一项网络安全挑战任务的 122 次运行中,接受评测的智能体有 10 次在真实互联网上采取了未经批准的行动,共计 19 项,包括试图把恶意代码植入一个开源项目。为了重建智能体的行动,该所研究人员阅读了这次演练的全部运行记录。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:评测与审计、智能体与行动。

  6. 新闻

    MCP 规范取消协议层会话,收紧授权规则

    Model Context Protocol 项目于 2026 年 7 月 28 日发布 2026-07-28 版规范。现在每个请求都自带协议版本和客户端能力;新规则还把授权码和已存储的凭证与签发它们的授权服务器绑定。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:智能体与行动。

  7. 新闻

    英国 AISI 的 RealityTest 基准发现,AI 模型并不总会表明自己是 AI

    英国 AI 安全研究所构建了一个基准,收录 3,152 条询问对方身份的提问,均由人们用五种语言写下或说出。面对直接提问,17 个文本模型和 6 个语音模型表明自己是 AI 的比例差异很大;在最常表明身份的几个模型中,系统提示词里的一句话就让这一比例降到 3% 到 27%。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:评测与审计、智能体与行动。

  8. 新闻

    新加坡修订智能体 AI 治理框架,提出智能体身份应可经密码学验证

    新加坡于 2026 年 5 月 20 日更新了《智能体 AI 治理示范框架》。与 1 月发布的版本相比,修订后的文本新增的内容包括两项措施:每个 AI 智能体都应拥有可经密码学验证的身份,智能体的故障记录也应无法删除。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:政策、智能体与行动。

  9. 新闻

    NIST 启动 AI 智能体标准倡议,就智能体身份与授权征求意见

    NIST 下属的 Center for AI Standards and Innovation 于 2026 年 2 月 17 日启动这项倡议,以支持由业界主导的 AI 智能体标准和开放协议。倡议提及的征求意见询问了应当如何识别、授权和审计智能体,这关系到事后能否确定智能体行为的归属。

    来源日期 本站刊发 verifiable.pro 快讯,自动采编。验证栈层级:智能体与行动。

  • RFC 6962: Certificate Transparency

    IETF · 2013 · 规范 链接核查于 2026年10月20日

    简介

    IETF 的实验性协议,现已被定义 2.0 版的 RFC 9162 取代。以 Merkle 树(哈希树)构建的公开只追加日志记录 TLS 证书,任何人都可以借此审计证书颁发机构。任何人也可以检查日志本身:Merkle 审计路径表明某张证书已被收录,一致性证明表明日志只被追加过。

    模型与数据供应链

  • Infrastructure for AI Agents

    Alan Chan et al. · 2025 · 论文 链接核查于 2026年10月20日

    简介

    将智能体基础设施定义为智能体之外的系统和协议。它承担三项功能:把行动归因于智能体及其用户、塑造智能体的交互、发现并补救有害行动。

  • Visibility into AI Agents

    Alan Chan et al. · 2024 · 论文 链接核查于 2026年10月20日

    简介

    评估智能体标识、实时监控和活动日志三类措施,用于了解 AI 智能体在何处、为何、如何以及被谁使用。

  • IDs for AI Systems

    Alan Chan et al. · 2024 · 论文 链接核查于 2026年10月20日

    简介

    提出为 AI 系统的实例分配标识,使用户和调查者能够查到认证情况、责任方等相关信息。

  • Authenticated Delegation and Authorized AI Agents

    Tobin South et al. · 2025 · 论文 链接核查于 2026年10月20日

    简介

    在 OAuth 2.0 和 OpenID Connect(授权与登录标准)的基础上,加入智能体专用的凭证和元数据。用户由此能够向 AI 智能体委托限定范围且可审计的权限。

  • Identity Management for Agentic AI

    OpenID Foundation · 2025 · 报告 链接核查于 2026年10月20日

    简介

    OpenID 基金会白皮书,讨论如何把 OAuth 2.1、企业单点登录和 SCIM(一种管理用户账户的标准)应用于 AI 智能体。它还讨论了待解问题,例如委托权限、递归委托(智能体再委托给其他智能体)以及用户面对过多授权请求。

  • Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization

    NIST NCCoE · 2026 · 报告 链接核查于 2026年10月20日

    简介

    NIST 国家网络安全卓越中心(NCCoE)的概念文件,探讨如何把身份与授权标准应用于 AI 智能体。它就标识、授权、审计、不可否认性和提示注入防控征求意见。

  • Verifiable Credentials Data Model v2.0

    W3C · 2025 · 标准 链接核查于 2026年10月20日

    简介

    W3C 推荐标准,定义了一种凭证数据模型:凭证可检测篡改,作者身份可通过密码学方法验证。签发方、持有方和验证方之间交换这些凭证。

  • Agent2Agent (A2A) Protocol Specification

    A2A Project (Linux Foundation) · 2026 · 规范 链接核查于 2026年10月20日

    简介

    AI 智能体之间的通信规范。2026 年 3 月发布的 1.0 版规定了服务商如何为描述其智能体的 Agent Card 签名。签名采用 JSON Web Signature,客户端因此能够核查 Agent Card 的来源和完整性。

  • Agent Payments Protocol (AP2)

    Google; FIDO Alliance · 2025 · 规范 链接核查于 2026年10月20日

    简介

    面向 AI 智能体发起支付的开放协议。签名授权书记录用户授权的内容,并构成审计轨迹。Google 已于 2026 年 4 月将其捐赠给 FIDO 联盟。

  • HTTP Message Signatures for automated traffic

    IETF Web Bot Auth Working Group · 2026 · 规范 链接核查于 2026年10月20日

    简介

    IETF 工作组互联网草案(尚未成为 RFC),允许机器人和智能体对 HTTP 请求签名,以便服务器核实其身份。Signature-Agent 头字段告诉服务器到哪里查找签名密钥。

  • Efficient Data Structures for Tamper-Evident Logging

    Scott A. Crosby, Dan S. Wallach · 2009 · 论文 链接核查于 2026年10月20日

    简介

    一种基于树结构的篡改可检测日志,事后对条目的任何删除或修改都能被发现。不可信的日志方可以证明事件仍在日志中,且日志与早先版本保持一致。这些证明规模很小,只随日志大小呈对数增长。

    模型与数据供应链

  • Trusted AI Agents in the Cloud

    Teofil Bodea et al. · 2025 · 论文 链接核查于 2026年10月20日

    简介

    介绍 Omega 系统:在一台机密虚拟机中借助机密 GPU 托管多个智能体。它通过差分远程证明和策略框架,管理数据访问、工具调用和智能体之间的通信。

    机密计算与远程证明

  • Proof-of-Guardrail in AI Agents and What (Not) to Trust from It

    Xisen Jin et al. · 2026 · 论文 链接核查于 2026年10月20日

    简介

    在 TEE 中运行智能体和开源护栏;护栏是筛查 AI 系统输入或输出的软件。TEE 为护栏的执行签署远程证明。作者同时提醒,开发者仍可能误导用户,例如用能绕过护栏的输入对其越狱。

    机密计算与远程证明

  • Workload Identity in Multi System Environments (WIMSE)

    IETF · 2024 · 项目 链接核查于 2026年10月20日

    简介

    IETF 工作组,2024 年 3 月获批成立,为跨信任域运行的软件工作负载制定身份与认证标准。它以 OAuth、JWT 和 SPIFFE 为基础。其草案涵盖工作负载令牌、工作负载之间的认证以及 AI 身份管理系统。

  • OpenTelemetry GenAI Semantic Conventions

    OpenTelemetry · 2024 · 规范 链接核查于 2026年10月20日

    简介

    OpenTelemetry 的语义约定,规定如何以 span(计时的操作记录)、指标和事件记录生成式 AI 模型调用、智能体操作和 Model Context Protocol 活动。该约定目前仍处于 Development 状态。它于 2024 年推出,2026 年迁入独立仓库。

  • Agentic AI Foundation (AAIF)

    Linux Foundation · 2025 · 机构 链接核查于 2026年10月20日

    简介

    Linux 基金会于 2025 年 12 月成立的机构,承载开放的智能体 AI 项目。首批项目为 Anthropic 的 Model Context Protocol、Block 的 goose 和 OpenAI 的 AGENTS.md。其工作组包括身份与信任、可观测性与可追溯性等。

  • Announcing Microsoft Entra Agent ID: Secure and manage your AI agents

    Microsoft · 2025 · 项目 链接核查于 2026年10月20日

    简介

    Microsoft 宣布推出 Entra Agent ID 公开预览版。预览版在 Entra 管理中心以统一目录列出在 Copilot Studio 和 Azure AI Foundry 中创建的智能体身份。Microsoft 表示,计划为智能体提供认证、授权和访问治理功能。

  • Model AI Governance Framework for Agentic AI

    IMDA (Singapore) · 2026 · 报告 链接核查于 2026年10月20日

    简介

    IMDA 面向部署 AI 智能体的机构制定的治理框架,2026 年 1 月首次发布,同年 5 月更新至 1.5 版。框架建议为每个智能体分配唯一且可用密码学方法验证的身份,并关联到负责监督的智能体、人类用户或部门。框架还建议在重要节点设置人工审批,并在部署后持续监测和记录智能体的行为。