2026 年 2 月 17 日,美国国家标准与技术研究院(NIST)下属的 Center for AI Standards and Innovation(CAISI)宣布启动“AI 智能体标准倡议”(AI Agent Standards Initiative)。NIST 称,这项倡议旨在帮助 AI 智能体安全地代表用户工作,并在整个数字生态中互操作。[1]如今,NIST 网站上该中心的页面使用的名称是 Center for Advancing Innovation and Standards for Super Intelligence(CAISSI)。[5]
CAISI 将与 NIST 信息技术实验室(ITL)、美国国家科学基金会及其他机构合作推进这项倡议。倡议有三大支柱。第一是由业界主导的智能体标准制定,以及美国在国际标准组织中的领导地位。第二是由社区主导的智能体开源协议。第三是智能体安全与身份研究。[1]
公告提到了两项征求意见。第一项是 CAISI 于 1 月 12 日发布的 AI 智能体安全信息征询书,意见截止日期为 3 月 9 日。征询书重点关注 AI 模型输出与软件系统功能结合时产生的风险。这类风险包括间接提示词注入(把指令藏在智能体处理的内容中)和数据投毒(篡改模型学习所用的数据)。征询书还询问了在部署中应如何限制和监控智能体的访问权限。[1, 3]
第二项是 ITL 下属的国家网络安全卓越中心(NCCoE)于 2 月 5 日发布的概念文件,意见截止日期为 4 月 2 日。文件就如何把身份标准和最佳实践应用于 AI 智能体征求意见。文件包含一系列详细问题,涉及智能体的识别、授权、审计和不可否认性。[1, 2]不可否认性是指智能体的行为事后无法抵赖。
NCCoE 的项目网站现在显示,这份概念文件收到了 600 多份回复。据该网站介绍,NCCoE 正在设立一个关于智能体 AI 身份与授权的项目。网站称,项目的最终交付成果将是 NIST 特别出版物 1800 系列中的一份实践指南,并附有在 NCCoE 实验室中构建的示例实现。[4]
来源
- Announcing the "AI Agent Standards Initiative" for Interoperable and Secure Innovation
- New Concept Paper on Identity and Authority of Software Agents
- CAISI Issues Request for Information About Securing AI Agent Systems
- NCCoE Agentic AI Identity and Authorization Project Resource Hub
- Center for Advancing Innovation and Standards for Super Intelligence (CAISSI)
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
