---
title: "Anthropic 提出 AI 安全评估建议"
dek: "Anthropic 介绍了其设计和评分安全评估的方法，并提醒读者，评估分数取决于测试场景、运行环境和测量方式。"
---

Anthropic 于 2026 年 11 月 13 日发布了构建 AI 安全评估的建议。公司认为，模型安全声明是否可靠，取决于评估能否准确衡量相关行为。Anthropic 表示，其评估会为部署和防护措施决策提供依据；题目形式、选项顺序等细节也可能改变结果。[^1]

Anthropic 介绍了多轮评估的做法：领域专家设定模拟用户的目标和策略，另一个 Claude 模型生成后续用户发言，再由评分模型依据特定风险领域的评分标准评判对话。公司表示，只要其中一轮被判为不恰当，整段对话在恰当回应率指标中就算不合格。公司还建议在同一领域同时测试有害和无害请求，以衡量模型对有害请求的配合以及对无害请求的过度拒绝。[^1]

Anthropic 表示，评估环境应与目标部署环境相匹配，包括工具访问权限和系统提示词。公司建议用人工标注校准评分器，测试模型或评分标准变化对结果的影响，并对评分故障发出提示。Anthropic 还建议在不能访问互联网的沙箱中运行安全评估，并进行实时监控；公司表示，在自身发生相关事件后，已暂时停止许多允许模型访问互联网的评估。[^1]

:::analysis
这一问题涉及评估层（T6）、模型层（T3）和运行时层（T2）：分数取决于测试和评分器、被评估的模型，以及运行环境。用户和运营者应检查自身的评估场景、评分器和环境，确认它们是否匹配要评估的行为和部署情况；单凭公布的分数，仍需信任这些选择。可识别性同样重要：如果服务某位用户的确切模型版本和配置都有记录且可供核查，该用户就能判断自己是否使用过被评估的系统。来源没有说明用户可以获得这样的记录。[^1]
:::

:::checked
我们于 2026 年 11 月 18 日阅读了 Anthropic 的《[Building strong safety evaluations](https://www.anthropic.com/research/building-strong-safety-evaluations)》保存文本，该文发布于 2026 年 11 月 13 日。[^1]我们没有测试 Anthropic 的评估系统，也没有独立核实其做法或结果。我们取得的保存文本在讨论预注册时结束，因此无法评估页面后续内容。
:::
