Andrew Trask 及合作者于 2026 年 11 月 9 日向 arXiv 提交了预印本 Double Blind Evals: Resolving the Dual Confidentiality Dilemma in AI Safety Auditing。论文报告了一项试点,目标是在不向模型所有者透露评估提示词的同时,保护专有模型权重和推理代码的机密性。[1]
摘要描述了双方的保密需求:评估方希望提示词保持秘密,避免有意或无意的数据泄漏,延长基准的使用寿命;模型所有者则希望权重和推理代码留在自己的安全基础设施内。作者提出使用安全飞地,并将其描述为在硬件层面对 RAM 中的数据进行加密的机制。[1]
作者称,试点使用 AILuminate 私有基准语料中的一部分,评估了 Google DeepMind 的 Gemini 2.5 Flash Lite。摘要列出的组件包括 Google Cloud Platform 上的 NVIDIA H100 安全飞地,以及 OpenMined 的 PySyft。作者声称,该方案为提示词保密提供密码学保证,同时保护权重和推理代码,并将试点称为首例。这些均为作者的主张;保存的摘要没有给出评估分数、详细威胁模型或独立验证结果。[1]
[1]: Double Blind Evals: Resolving the Dual Confidentiality Dilemma in AI Safety Auditing。arXiv,2026 年 11 月 9 日。https://arxiv.org/abs/2611.12604
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策