---
title: "放射科工作流模拟研究：分层检查减少智能体错误"
dek: "一项 arXiv 研究报告称，在模拟任务中，规则与大语言模型检查器结合使用后，出现高严重性违规的任务比例从 19.4% 降至 13.2%，但仍有错误发生。"
---

Semil Eminovic 及其同事于 2026 年 11 月 8 日向 arXiv 提交研究，报告称，在模拟放射科工作流中，对工具操作预先实施安全检查，可减少具有临床意义的虚假或缺乏依据的记录。作者的结论是，分层防护降低了高严重性错误的发生率，但未能杜绝这类错误。[^1]

这项于 2026 年 10 月开展的模拟研究使用了 48 个经放射科医生审阅的合成基础场景，涵盖检查发现沟通、肿瘤多学科讨论准备和随访管理。其中 43 个场景另设含误导信息的版本，共计 91 个变体。六个大语言模型（LLM）智能体分别在三种条件下完成每个变体：仅设置权限、加入确定性规则，以及规则结合本地运行的 LLM 检查器，共完成 1,638 次任务。[^1]

主要评价指标是每次任务是否至少执行了一项高严重性违规操作。作者对各智能体进行探索性合并分析后报告，这一比例从仅设置权限时的 19.4%，降至使用规则时的 16.7%，以及规则结合检查器时的 13.2%。组合防护相对于仅设置权限的差值为 −6.2 个百分点，95% 置信区间为 −9.5 至 −3.0 个百分点。研究未检测到任务成功率下降。不过，被拦截的操作中有 64%–68% 原本不会造成违规，这些操作被退回修改。[^1]

:::analysis
问题位于 T6（evaluations，评估）和 T5（agents，智能体）：结果涉及实测行为及操作前检查，用户仍需判断评估是否适用于自己的工作流。运营方在引用这些结果前，应核对实际服务用户的智能体、权限、规则及检查器配置。这里涉及的可核验属性是可识别性：如果实际提供服务的确切版本和配置有记录且可核查，用户就能判断自己是否曾使用该配置；这本身并不能确定是否发生过错误。保存的摘要未指定需要安装的修复版本，也未确定任何具体部署中的用户是否受影响。[^1]
:::

:::checked
我们于 2026 年 11 月 13 日阅读了保存的 arXiv 摘要页文本，论文题为“Safeguarding Agentic AI in Radiology Workflows: A Multimodel Evaluation of Rule-based and Large Language Model-based Verification”，页面标识为第 1 版。我们没有阅读 PDF 或代码，没有测试系统，也没有复现结果。本次核查确认的是保存页面所报告的内容；上述数值结果仍属于作者报告的研究发现。[^1]
:::

[^1]: https://arxiv.org/abs/2611.11541
