Microsoft Research 于 2026 年 11 月 10 日披露,名为 Lazarus 的模型后门技术无需重新训练,只需改写不到 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时输出恶意命令。公告称,修改后的模型在触发前仍可表现正常,并通过常规评测。[1]

据介绍,攻击需要模型检查点的写入权限。休眠神经元被改造成触发条件检测器,激活后强制模型输出特定词元,进而组成命令。文章以日期跨入 2027 年为触发条件示例。拥有终端访问权限的智能体可能按既有权限执行这些命令。微软称,账号、流水线或存储遭入侵,也可能使内部开发的模型面临风险,问题并不限于开放权重模型。[1]

微软表示,Foundry 在引入开放权重模型时,会将其关联到原始发布者,并在经过严重漏洞扫描的微软容器中运行模型。这些措施能够保护可信实验室模型的说法,仍属于厂商声明。文章承认,可信提供方自身遭入侵仍是剩余风险。利用智能体扫描权重、构建红队测试工具的工作正在开发或探索中;模型签名与来源审计则属于计划中的措施。[1]

[1]: Microsoft Research,《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》,2026 年 11 月 10 日。https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/

来源

  1. Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agentswww.microsoft.com · 2026年11月10日

核查或更正本页

验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致,但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算,并列入站点清单。

3e41bea6bd557fd759a59bfa7d64c3a7b424617e5200ba572f8009b85dc093dd