---
title: "研究提出：可靠智能体需要硬性约束与学习所得的规则"
dek: "一篇 arXiv 预印本报告称，在其实验中，将动作执行关卡与学习所得的判断规则结合，减少了未经授权的操作。保存的摘要支持转述这些结果，但不能独立确认其有效性。"
---

Frederick Roth 于 2026 年 10 月 31 日向 arXiv 提交的预印本 *Dependable Agents Need Hard and Fuzzy Rules* 提出，可靠的智能体需要同时具备可执行的硬性限制和学习所得的判断规则。摘要描述了一种置于动作提议与执行之间的关卡，并以模型规则处理无法精确表述的判断问题。[^1]

摘要称，研究通过外部人员编写的 1,340 个测试回合，在采购、权限委托和数据访问三个领域评估了硬性约束层。让模型自行决定时，采购任务中最多有 340 个回合中的 151 个执行了未经授权的操作，权限委托任务中则为 470 个中的 269 个。据报告，关卡没有执行任何未经授权的操作，对 183,204 个提议的穷举搜索也得到一致结果。不过，在另一项由外部人员编写所有者规则、再由程序将规则映射为关卡约束的测试中，出现了两次违规，发生位置属于研究事先记录的边界。[^1]

在判断能力方面，摘要介绍了 Concept Programming：向模型教授具名规则，再用未见过的措辞衡量错误。一个学过四条规则的小模型标记出了 96 次违规采购中的 95 次，同时也标记了 108 个合法请求中的 4 个。与关卡结合后，192 个违规请求中有 1 个未被拦截，而该次测试中的精确限制仍全部得到执行。摘要称，通过提示词引导的前沿模型表现相近。[^1]

:::analysis
这些主张位于 T6 评估层（evaluations）、T5 智能体层（agents）和 T2 运行时层（runtime）：实验评估智能体决策及动作执行边界的关卡，用户仍需信任实际部署与测试设置一致。运营方应核查自身系统的规则到关卡映射、精确限制和判断错误，尤其是已记录的映射边界；保存的摘要没有推荐任何修复版本。这里涉及的可核查属性是可识别性：如果服务用户的确切版本和配置有记录且可检查，用户就能判断自己是否曾接触相关系统设置，但这些记录本身不能确立行为正确性。这些是我们据此提出的部署核查建议，并非摘要已经确立的能力。[^1]
:::

:::checked
我们于 2026 年 11 月 5 日阅读了所提供的 *Dependable Agents Need Hard and Fuzzy Rules* 的 arXiv 摘要页保存文本，其中标明提交版本为 v1。我们没有阅读全文、检查代码或测试系统。此次核查仅确立保存的摘要报告了哪些内容，没有独立复现其结果，也没有确立部署安全性。[^1]
:::

[^1]: Frederick Roth，*Dependable Agents Need Hard and Fuzzy Rules*，arXiv，2026 年 10 月 31 日。https://arxiv.org/abs/2611.01043
