---
title: "论文探讨 AI 智能体所写程序的安全认证极限"
dek: "一篇预印本指出，在论文设定的模型中，依靠有限且可由机器核验的证据，门控程序无法依据某些安全规则判定所有程序。"
---

一篇于 2026 年 11 月 9 日提交至 arXiv 的预印本指出，面对某些行为规则，门控程序无法仅凭有限且可由机器核验的证据，对 AI 助手编写的所有程序作出完整判定。作者 Tomas Perez-Acle 研究的门控程序仅根据代码决定程序是否可以运行。[^1]

摘要讨论了三项要求：绝不执行被禁止的操作、绝不让输出依赖秘密信息，以及最终始终给出回答。摘要称，对于禁止性规则，运行过程可以暴露违规行为，但有限的观察无法永久确认一个安全程序不会违规。对于保密性和最终响应，摘要称，在所设定的有限证据条件下，合规与不合规都无法始终得到确认。[^1]

作者还表示，设定时间上限可以使问题变得可判定，但可能需要运行程序直到接近整个时限结束。摘要提出了一个范围较窄的替代方案：建立一份可核验的清单，包含门控程序必须放行的所有程序，且不包含任何必须拒绝的程序。摘要还报告了针对随机程序和自指对抗程序的模拟，但保存的摘要没有提供足够细节，无法独立评估模拟设计或结果。[^1]

:::analysis
这一问题位于智能体层（T5）：它涉及门控程序如何决定是否执行智能体编写的代码。用户或核验者应检查自己使用的门控程序执行哪些规则、采用什么证据，以及其判定是否属于论文所述模型的范围；摘要本身不能确认实际部署系统具备这些条件。可识别性同样重要：如果为某个用户提供服务的确切版本和配置有记录且可供核查，该用户就能判断自己是否受到影响该版本和配置的已识别问题波及。运营方应核查这些记录及门控程序的实际行为；该来源没有推荐任何修复版本。[^1]
:::

:::checked
为这份于 2026 年 11 月 20 日准备的预览，我们阅读了保存的 Perez-Acle 论文 arXiv 摘要页面，包括提交历史。我们没有阅读论文全文，没有独立核验数学论证或模拟，也没有测试门控系统。[^1]
:::

主图： Tomas Perez-Acle · CC BY 4.0。
