Maisha Maliha、Vishal Pramanik 和 Sumit Kumar Jha 在 2026 年 11 月 3 日提交至 arXiv 的论文中提出 Agent Trajectory Control(ATC)。根据保存的摘要,该方法在智能体消息进入共享对话前,检查消息是否超出该角色获准行使的权限。页面标明版本为 v1,并注明论文已被 EMNLP 2026 接收。[1]
作者将“角色漂移”定义为智能体在某一轮交互中违反角色契约。例如,核验者开始制定计划,检索者给出缺乏依据的结论,或执行者未经批准便改变状态。ATC 先明确各角色的权限,再对候选输出评分,检查越权偏离、介入其他角色职能、不被允许的言语行为,以及逻辑上的契约违反。随后,系统计算带有角色泄漏正则项的目标,约束消息重新生成,并在接纳修改后的消息前再次检查。作者称,这种作用于消息的方法适用于无法访问内部表征的智能体。[1]
摘要报告,相比涵盖提示、记忆、工作流控制和激活编辑的基线,ATC 提高了任务表现和角色一致性,并降低了角色漂移能量指标。作者称,显式角色混淆压力测试,以及规模更大、组成更多样的团队,收益最明显。保存的摘要未提供具体数值或实验配置,因此这些仍是作者报告的研究结果。[1]
[1]: https://arxiv.org/abs/2611.04321
主图: Maisha Maliha, Vishal Pramanik, Sumit Kumar Jha · CC BY 4.0。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策
