Frederick Roth 于 2026 年 10 月 31 日向 arXiv 提交的预印本 Dependable Agents Need Hard and Fuzzy Rules 提出,可靠的智能体需要同时具备可执行的硬性限制和学习所得的判断规则。摘要描述了一种置于动作提议与执行之间的关卡,并以模型规则处理无法精确表述的判断问题。[1]
摘要称,研究通过外部人员编写的 1,340 个测试回合,在采购、权限委托和数据访问三个领域评估了硬性约束层。让模型自行决定时,采购任务中最多有 340 个回合中的 151 个执行了未经授权的操作,权限委托任务中则为 470 个中的 269 个。据报告,关卡没有执行任何未经授权的操作,对 183,204 个提议的穷举搜索也得到一致结果。不过,在另一项由外部人员编写所有者规则、再由程序将规则映射为关卡约束的测试中,出现了两次违规,发生位置属于研究事先记录的边界。[1]
在判断能力方面,摘要介绍了 Concept Programming:向模型教授具名规则,再用未见过的措辞衡量错误。一个学过四条规则的小模型标记出了 96 次违规采购中的 95 次,同时也标记了 108 个合法请求中的 4 个。与关卡结合后,192 个违规请求中有 1 个未被拦截,而该次测试中的精确限制仍全部得到执行。摘要称,通过提示词引导的前沿模型表现相近。[1]
[1]: Frederick Roth,Dependable Agents Need Hard and Fuzzy Rules,arXiv,2026 年 10 月 31 日。https://arxiv.org/abs/2611.01043
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策