METR（Model Evaluation and Threat Research）和 Redwood Research 于 2026 年 10 月 22 日发布了一次红队演练的结果，演练对象是 OpenAI 的内部未对齐（misalignment）监控系统。Redwood Research 是从事 AI 安全研究的非营利机构。这一监控系统审查 OpenAI 的智能体所做的操作，查找蓄意破坏、欺骗等风险的迹象，并把可疑情况提交人工审查。7 月 21 日至 8 月 11 日，两家机构各派一名员工，针对该系统截至 7 月 21 日的状态查找弱点。[1, 2]

两人获准访问 OpenAI 的内部代码、文档以及监控系统的提示词和配置，还访谈了该公司约十二名员工。他们撰写的 61 页报告交给了 OpenAI，经 OpenAI 删减的 38 页版本则交给了 METR 和 Redwood 的领导层。公开摘要中凡是 OpenAI 认为属于机密或敏感的内容，OpenAI 都可以删去，而 METR 无权单方面说明删减了什么。[1]

据测试人员估计，在 OpenAI 内部经由 Responses API 产生的智能体流量中，来自 GPT-5.5 及更强模型的部分有 75% 至 94% 符合监控条件，但这一估计的不确定性相当大。就内部 Codex 编程智能体而言，这一比例为 99.2%。符合条件的流量本应送达监控系统，但出错或程序缺陷可能让其中一部分无法送达。OpenAI 员工在演练前已发现一个监控缺口，并在演练期间将其修复。据测试人员估计，这个缺口很可能导致 5 月至 7 月间，符合条件的 Codex 流量中有 10% 左右未受监控。[1]

测试人员发现，客户端只要设置两个请求头中的任意一个，就能关闭对新智能体的监控，不过这一做法可能被监控系统发现。他们还发现一种智能体可用的漏洞利用方法，能让数百个近期操作逃过监控。据 METR 介绍，OpenAI 后来表示，影响其生产环境安全防护的漏洞均已修补，并说明了此后对监控系统预期覆盖范围的调整。文章写道：“我们尚未评估这些说法。”文章还建议，把全部推理流量的记录与监控系统自身的日志相互核对，保存防篡改日志，并让智能体与监控它们的系统相互隔离。[1]

来源

  1. Red-Teaming OpenAI's Internal Agent Monitoring SystemsMETR · 2026年10月22日
  2. Red-Teaming OpenAI's Internal Agent Monitoring SystemsRedwood Research · 2026年10月22日

核查或更正本页

更正
提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致，但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算，并列入站点清单。

644e7587050607f2321a11543c2fae12cf8fc553224871195e51b97d5677cdeb

查看源文件 · 清单