2026 年 11 月 10 日,研究人员 Jacob Davies 和 Theo Bearman 提交了一篇论文,建议开发者披露相关指标,以追踪先进 AI 系统的思维链推理是否仍可供监测。思维链(chain-of-thought,CoT)监测通过检查模型的推理过程来监测其行为。作者认为,这些指标有助于追踪监测能力面临的威胁,并促进各方协调以保留这种能力。[1]
论文摘要提出五项指标,分别对应 CoT 监测所依赖的五个环节。第一项涉及第三方对 CoT 的访问以及基础架构规格;作者称,它也为外部核查其余指标提供基础。其余指标涉及 CoT 的质量,包括自然性和忠实性,以及监测的有效性,包括检出能力和提升效果。摘要没有说明各项指标的具体测量方法。[1]
作者称,他们审查了 Anthropic、OpenAI 和 Google DeepMind 的公开披露。摘要称,没有一家开发者披露完整的五项指标,但每项指标都至少有一家开发者报告过。作者表示,目前的披露很大程度上依赖开发者自己的评估,因此建议在获得更深入访问权限的情况下,重新开展跨开发者审计,由驻场评估人员或独立核查机构执行。[1]
主图: Jacob Davies, Theo Bearman · CC BY 4.0。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
