2026 年 11 月 10 日,研究人员 Jacob Davies 和 Theo Bearman 提交了一篇论文,建议开发者披露相关指标,以追踪先进 AI 系统的思维链推理是否仍可供监测。思维链(chain-of-thought,CoT)监测通过检查模型的推理过程来监测其行为。作者认为,这些指标有助于追踪监测能力面临的威胁,并促进各方协调以保留这种能力。[1]

论文摘要提出五项指标,分别对应 CoT 监测所依赖的五个环节。第一项涉及第三方对 CoT 的访问以及基础架构规格;作者称,它也为外部核查其余指标提供基础。其余指标涉及 CoT 的质量,包括自然性和忠实性,以及监测的有效性,包括检出能力和提升效果。摘要没有说明各项指标的具体测量方法。[1]

作者称,他们审查了 Anthropic、OpenAI 和 Google DeepMind 的公开披露。摘要称,没有一家开发者披露完整的五项指标,但每项指标都至少有一家开发者报告过。作者表示,目前的披露很大程度上依赖开发者自己的评估,因此建议在获得更深入访问权限的情况下,重新开展跨开发者审计,由驻场评估人员或独立核查机构执行。[1]

主图: Jacob Davies, Theo Bearman · CC BY 4.0。

来源

  1. Transparency Disclosures for Chain-of-Thought MonitorabilityarXiv · 2026年11月10日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

f22ed342b5e70acecb26fb586b0fa81b3da877665f5ae28b6b12f581bb42a7ab