Anthropic 于 2026 年 10 月 15 日表示,已开始向 METR 的一个团队开放其所称的“类似员工的访问权限”。METR 是一家评测前沿 AI 模型的非营利机构。文章开头先提到,Anthropic 在 9 月承诺加强第三方评估,又提到公司签署了 White House Accord on Super Intelligence。签署企业在这份协议中承诺与独立审计方或评测方合作。[1]
据 Anthropic 介绍,六名 METR 员工配有公司硬件和办公空间,能访问的内部工具和系统与公司自己的风险评估团队大致相当。Anthropic 鼓励自己的员工像对待同事一样与他们分享信息。少数明确划定的类别除外,例如客户数据、律师与委托人之间受特权保护的材料,以及模型架构信息。[1]
Anthropic 称,METR 将发布自己的分析,内容涉及 Anthropic 的风险水平、事件或做法。公司表示自己无权否决发布,但可以要求删减预先划定类别的内容,例如重现机密知识产权的内容。哪些信息属于这些类别由 Anthropic 决定。不过,METR 保留权利,可以就自己获得的访问权限和信息作出某些陈述。该团队受可强制执行的协议约束,METR 的其他员工与该团队的工作相隔离。[1]
文章称,这是三个访问层级中的第三级。在第一级,评测方获得哪些访问权限由 Anthropic 决定,发布内容也须经其批准。在第二级,评测方获得更多信息。他们无须批准即可发布,还可以一并说明自己认为 Anthropic 要求的删减是否合理。[1]
在 Anthropic 的其他评测方中,SecureBio 正在审阅 Anthropic 8 月版 Risk Report 中关于化学和生物武器的章节。[1]10 月 20 日,METR 就该报告中关于未对齐(misalignment)的部分发布了评审。这份评审的作者在新安排出台前就已接受委托,并不具备新安排所述的访问权限。按照他们的委托条款,Anthropic 可以否决发布。METR 表示,评审未经任何删减。[2]
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
