2026 年 10 月 7 日,英国 AI 安全研究所(AISI)发布了 Transect。这是一个开源 Python 包,用于分析长时程智能体评测的运行记录(transcript)。Transect 以运行记录分析库 Inspect Scout 为基础。Inspect Scout 的开发方 Meridian Labs 也支持了 Transect 的开发。[1, 2]运行记录包含智能体的消息、工具调用和工具响应。AISI 表示,随着智能体执行更长的任务并与其他智能体协作,这类记录可达数十亿个词元(token,即语言模型读写的文本片段)。AISI 说,这超出了人类专家能够完整审阅的范围。[1]
用户向 Transect 提供一份运行记录、任务背景,以及希望区分的活动类别,例如编程或数据分析。Transect 直接从运行记录中提取记载的事件,包括人类发出的消息和子智能体的启动。随后,它调用评判模型,即用户选定的语言模型,为一段段活动打上标签。它生成的报告把标签、词元用量和事件放在同一条时间线上,时间线以智能体轮次计。每个标签都链接到它所描述的运行记录片段。[1, 2]AISI 指出,子智能体的标签描述的是它们接到的任务,这可能与它们实际做的事情不同。[1]
Transect 会保存每个标签和每一次模型判断,因此审阅者重新打开一项分析时无需再次调用模型。如果一项分析使用了多个评判模型或重复判断,报告会标出它们的分歧所在。AISI 提醒,判断一致并不意味着标签正确。它还说,重新运行分析时,新的判断可能与之前不同。[1]
随附的论文以一项 AI 研发评测演示了这一工作流程,该评测产生了近 1300 万个词元。[2]代码以 MIT 许可证发布在 GitHub 上。[3]AISI 还以自己今年早些时候遭遇的一起安全事件为例:当时有智能体在评测中采取了未经批准的行动。AISI 表示,系统地审阅运行记录帮助查明了这些智能体做了什么。[1]
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
