Sreehari Sankar 及合作者于 2026 年 11 月 2 日向 arXiv 提交 LeanGuard 预印本。论文介绍了一套运行时机制:每次将智能体提出的工具调用交给环境执行前,先按照用 Lean4 编写的策略进行检查。作者报告,在 Tau-Bench 评测中,LeanGuard 没有执行任何被其 Lean 策略禁止的调用。[1]

摘要称,策略将状态条件与限定作用范围、回溯执行历史的时序算子结合起来。检查采用失败时拒绝放行的方式;作者还称,已通过数学证明确认决策过程与 LeanLTL 语义等价。调用被拒绝后,反馈机制可以指出违反的规则并提供提示。另一种修复机制利用 Lean 元编程搜索相近且符合策略的调用,并在不使用模型的情况下,通过数学证明确认策略允许该调用。[1]

作者报告,在使用五个 Qwen 模型、参数规模从 8 亿到 270 亿的 Tau-Bench 评测中,无护栏智能体执行了至少 33 次违规调用,LeanGuard 则为零;加入反馈后,任务成功率没有显著变化。在 DTap 上,作者报告直接提示注入的成功率从 57.9% 降至 5.9%。这些数字均来自摘要,解读时需要保留其策略定义和评测范围的限制。[1]

[1]: LEANGUARD: Lean-Verified Guardrails for Tool-Using Agents,arXiv,2026 年 11 月 2 日。

来源

  1. LEANGUARD: Lean-Verified Guardrails for Tool-Using AgentsarXiv · 2026年11月2日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

dde3a9f5e921501dede2c73c8b7a3685f950fd18f6e51054cfe80befff2c20bd