---
title: "Soteria 作者报告以形式化验证规划和运行时约束保护大模型智能体"
dek: "一篇研究论文提出，在调用工具前依据规范检查智能体计划，并在执行期间实施约束。基准测试结果由作者报告。"
---

研究人员在 2026 年 11 月 13 日提交 arXiv 的一篇论文中介绍了 Soteria。这一框架面向大语言模型（LLM）智能体，结合了经过形式化验证的规划和运行时约束。作者关注多步工具调用中的一种矛盾：阻止不安全操作可以避免违反策略，却可能使智能体无法完成任务。[^1]

根据论文摘要，智能体首先生成结构化计划，并在调用任何工具前，根据规范对计划进行形式化验证。执行期间，经过验证的计划既用于引导符合规范的操作，也用于在不安全操作被阻止时帮助智能体恢复执行。摘要提到了分层规划，但没有详细说明验证过程或运行时约束机制。[^1]

作者报告称，在多个工具使用基准测试中，Soteria 的平均任务成功率达到最佳基线的 1.7 倍，且没有违反策略规范。这些是作者针对所测基准报告的结果，并非对所有任务或部署的独立结论。摘要没有列出基准测试，也未提供足以评估比较结果的细节。[^1]

:::analysis
这一主张涉及智能体层（T5）和运行时层（T2）：前者负责计划和工具调用决策，后者实施执行约束。验证者若要依赖作者所称的行为，需要检查实际部署中的规范、计划验证和约束机制；仅凭摘要无法确认这些细节。可识别性同样重要：如果为用户提供服务的确切版本和配置被记录且可供核查，用户就能判断自己是否使用过该部署。用户和运营者应检查这些记录，以及自身系统中的规范和约束机制；来源没有推荐任何修复版本。[^1]
:::

:::checked
我们于 2026 年 11 月 19 日阅读了保存的 arXiv 摘要页面，内容为论文 *Soteria: Formally Verified Planning with Runtime Enforcement for Safe LLM Agents* 的第 1 版。[^1] 我们没有阅读论文全文，也没有测试该系统、其基准测试或任何部署。保存的页面地址为 https://arxiv.org/abs/2611.17880。
:::

主图： Mike He, Ankush Desai, Sharad Malik, Aarti Gupta · CC BY 4.0。
