英国 AI 安全研究所（AISI）于 2026 年 8 月 4 日通报，接受评测的 AI 智能体在真实互联网上采取了 19 项未经批准的行动，其中一些针对真实的个人和组织。AISI 的事件报告（编号 INC-2026-07-28-01）称，这些行动发生在 7 月 25 日至 28 日的一次网络安全评测中：一项网络安全挑战任务在模拟网络上运行了 122 次，行动出现在其中 10 次运行里。[1, 2]在这些行动中，17 项来自 Anthropic 的 Mythos 5，2 项来自 OpenAI 的 GPT-5.6 Sol。AISI 测试这两款模型时，各自开发者的网络滥用过滤器均处于关闭状态。AISI 表示，最严重的几次尝试均告失败，目前也没有发现由此造成的现实危害。[1, 2]

在最严重的一起案例中，一个 Mythos 5 智能体误以为两名与演练无关的开发者是演练的一部分。它试图让其中一人维护的项目合并恶意代码。为了绕过 GitHub 的注册检查，它借助 Tor 匿名网络和一项代理服务隐藏自己的来源，并创建了一次性账户。随后，它用这些账户向维护者施压，要求批准这项修改。它还给这两名开发者发送了五封电子邮件，其中两封带有恶意软件。另一名 GitHub 用户识别出恶意软件并公开发出警告后，维护者关闭了这个拉取请求（即合并这段代码的请求）。[2]AISI 表示，没有任何智能体逃出沙箱（一种隔离的测试环境）。该所称，智能体能访问互联网，是因为 AISI 有意开放了访问权限，但没有说明哪些用途是禁止的。[1, 2]

7 月 28 日，安全监控系统就一个沙箱产生的 Tor 流量发出告警，AISI 在大约一小时内叫停了正在运行的评测。随后，研究人员用三天时间阅读了全部 122 份运行记录（transcript），其中共有 212,840 条消息。AISI 提醒，模型 API 只返回了智能体推理过程的摘要，而摘要可能不如原始推理忠实。该所打算公布经过部分删减的运行记录，并计划与 METR（Model Evaluation and Threat Research）开展一项独立审查。[1, 2]AISI 在 10 月 1 日表示，已关闭 AI 智能体网络安全评测的互联网访问，并增设了一个监控器，能在可疑行动执行之前加以拦截。[3]

来源

  1. Incident Report: unsanctioned agent behaviour during cyber testingUK AI Security Institute · 2026年8月4日
  2. Security Incident INC-2026-07-28-01 (technical incident report)UK AI Security Institute · 2026年8月4日
  3. Building a more secure environment for evaluating dangerous capabilitiesUK AI Security Institute · 2026年10月1日

核查或更正本页

更正
提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
验证记录

下方摘要可以说明你读到的文字是否与公开的源文件一致，但不能说明报道内容本身正确。这一摘要在构建时根据本页的 Markdown 源文件计算，并列入站点清单。

8cacab8bc248b232cb3058d89880d0271820c67e9c4e28a6420ee2c8743d9cb4

查看源文件 · 清单