Sreehari Sankar 及合作者于 2026 年 11 月 2 日向 arXiv 提交 LeanGuard 预印本。论文介绍了一套运行时机制:每次将智能体提出的工具调用交给环境执行前,先按照用 Lean4 编写的策略进行检查。作者报告,在 Tau-Bench 评测中,LeanGuard 没有执行任何被其 Lean 策略禁止的调用。[1]
摘要称,策略将状态条件与限定作用范围、回溯执行历史的时序算子结合起来。检查采用失败时拒绝放行的方式;作者还称,已通过数学证明确认决策过程与 LeanLTL 语义等价。调用被拒绝后,反馈机制可以指出违反的规则并提供提示。另一种修复机制利用 Lean 元编程搜索相近且符合策略的调用,并在不使用模型的情况下,通过数学证明确认策略允许该调用。[1]
作者报告,在使用五个 Qwen 模型、参数规模从 8 亿到 270 亿的 Tau-Bench 评测中,无护栏智能体执行了至少 33 次违规调用,LeanGuard 则为零;加入反馈后,任务成功率没有显著变化。在 DTap 上,作者报告直接提示注入的成功率从 57.9% 降至 5.9%。这些数字均来自摘要,解读时需要保留其策略定义和评测范围的限制。[1]
[1]: LEANGUARD: Lean-Verified Guardrails for Tool-Using Agents,arXiv,2026 年 11 月 2 日。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策