Microsoft Research 于 2026 年 11 月 10 日披露,名为 Lazarus 的模型后门技术无需重新训练,只需改写不到 10 个休眠神经元,就能让 AI 智能体在隐藏触发条件出现时输出恶意命令。公告称,修改后的模型在触发前仍可表现正常,并通过常规评测。[1]
据介绍,攻击需要模型检查点的写入权限。休眠神经元被改造成触发条件检测器,激活后强制模型输出特定词元,进而组成命令。文章以日期跨入 2027 年为触发条件示例。拥有终端访问权限的智能体可能按既有权限执行这些命令。微软称,账号、流水线或存储遭入侵,也可能使内部开发的模型面临风险,问题并不限于开放权重模型。[1]
微软表示,Foundry 在引入开放权重模型时,会将其关联到原始发布者,并在经过严重漏洞扫描的微软容器中运行模型。这些措施能够保护可信实验室模型的说法,仍属于厂商声明。文章承认,可信提供方自身遭入侵仍是剩余风险。利用智能体扫描权重、构建红队测试工具的工作正在开发或探索中;模型签名与来源审计则属于计划中的措施。[1]
[1]: Microsoft Research,《Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents》,2026 年 11 月 10 日。https://www.microsoft.com/en-us/research/blog/lazare-veni-foras-reprogramming-dormant-neurons-to-backdoor-ai-agents/
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策