据 Fortune 报道，OpenAI 前政策研究员 Miles Brundage 于 2026 年 1 月 15 日正式宣布成立 AI Verification and Evaluation Research Institute（AVERI）。[3]AVERI 是美国的一家非营利机构，倡导对前沿 AI 开发者（开发能力最强的 AI 系统的公司）开展外部审计。它目前还在制定审计标准。[1, 3]机构成立之际，Brundage 与 47 位合著者发表了一篇论文。[2, 3]论文将前沿 AI 审计定义为：由第三方严格核实开发者的安全与安保声明，并依据相关标准评估其系统和做法。按照这一定义，审计建立在深入、安全地访问非公开信息的基础上。[1]

论文提出四个 AI 保障等级（AAL），用来说明一项审计的结论能提供多大程度的可信度。[1]AAL-1 审计覆盖单个系统，通常历时数周，审计方仍在很大程度上依赖公司自己的说法。AAL-2 审计历时数月，增加了灰盒系统访问，即可以部分访问系统内部。它还增加了安全论证（safety case）等内部文件，以及对多个职能部门员工的访谈。AAL-2 采用的方法包括抽样复现内部评测，以及构建模型的统计特征，以确认受审模型与实际部署的模型相符。[2]两个更高的等级进一步增加白盒访问（可以检查模型权重等内部信息）和范围更广的持续监测。AAL-4 还力求发现主动欺骗，所用工具包括篡改可检测日志和基于硬件的远程证明。在这种远程证明中，芯片会签署证据，说明自身的身份、配置和运行状态。[2]

作者建议以 AAL-1 作为前沿 AI 的基准，并把 AAL-2 作为最先进开发者的近期目标。他们表示，AAL-3 和 AAL-4 目前在技术上和组织上都还不可行。[1]论文指出，要让这两个等级变得可行，需要克服三项挑战：确认审计方获得了完整的信息，做到持续监测，以及让审计方在不泄露敏感信息的前提下检查这些信息。论文列出的研究重点包括训练证明（proof-of-training）技术、变更检测基础设施和模型指纹识别。[2]

来源

  1. Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI CompaniesAVERI · 2026年1月15日
  2. Frontier AI Auditing: Toward Rigorous Third-Party Assessment of Safety and Security Practices at Leading AI Companies (arXiv:2601.11699v4)arXiv · 2026年2月7日
  3. Exclusive: Former OpenAI policy chief creates nonprofit institute, calls for independent safety audits of frontier AI modelsFortune · 2026年1月15日

核查或更正本页

更正
提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致，但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算，并列入站点清单。

b8eb27866fca5a010a67dd4f5d9e052306e8a90050ca74c189e611b994145341

查看源文件 · 清单