Semil Eminovic 及其同事于 2026 年 11 月 8 日向 arXiv 提交研究,报告称,在模拟放射科工作流中,对工具操作预先实施安全检查,可减少具有临床意义的虚假或缺乏依据的记录。作者的结论是,分层防护降低了高严重性错误的发生率,但未能杜绝这类错误。[1]

这项于 2026 年 10 月开展的模拟研究使用了 48 个经放射科医生审阅的合成基础场景,涵盖检查发现沟通、肿瘤多学科讨论准备和随访管理。其中 43 个场景另设含误导信息的版本,共计 91 个变体。六个大语言模型(LLM)智能体分别在三种条件下完成每个变体:仅设置权限、加入确定性规则,以及规则结合本地运行的 LLM 检查器,共完成 1,638 次任务。[1]

主要评价指标是每次任务是否至少执行了一项高严重性违规操作。作者对各智能体进行探索性合并分析后报告,这一比例从仅设置权限时的 19.4%,降至使用规则时的 16.7%,以及规则结合检查器时的 13.2%。组合防护相对于仅设置权限的差值为 −6.2 个百分点,95% 置信区间为 −9.5 至 −3.0 个百分点。研究未检测到任务成功率下降。不过,被拦截的操作中有 64%–68% 原本不会造成违规,这些操作被退回修改。[1]

[1]: https://arxiv.org/abs/2611.11541

来源

  1. Safeguarding Agentic AI in Radiology Workflows: A Multimodel Evaluation of Rule-based and Large Language Model-based VerificationarXiv · 2026年11月8日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

94dfd0f261e37b672fa842f9b576fd817f879eedadad3d2b7651e1a9a35448ea