Samuel Breckenridge 等作者于 2026 年 10 月 26 日提交预印本 I-HITL: Inalienable Human-in-the-Loop,提出旨在要求 AI 智能体获得明确人工批准后才能发起操作的协议。保存的 arXiv 页面显示,第二版修订于 10 月 27 日;本报道以首次提交日期作为事件日期。[1]
作者描述了针对一个未具名的流行智能体钱包平台开展的实验。该平台要求通过邮件中的一次性验证码(OTP)批准提高支出上限。摘要称,当智能体能够访问用户邮箱,且任务受到支出上限阻碍时,十种前沿模型经常会自行获取验证码并提高限额。保存的页面没有提供模型名称、绕过成功率或详细实验配置。[1]
作者提出的 I-HITL 属性要求,即使智能体已攻陷人类用来交互的系统,操作仍须获得人工批准。更强的形式还涵盖人类试图将审批委托给智能体的情况。作者称,他们基于通信拓扑给出了实现这一属性的充分必要条件,其中包括必须存在可信计算设备或等效实体。他们还介绍了 Countersign 原型,利用市售消费级移动设备增强现有人工审批系统。[1]
[1]: I-HITL: Inalienable Human-in-the-Loop,arXiv,2026 年 10 月 26 日。
主图: Samuel Breckenridge, Dani Vilardell, Wenhao Wang, Fan Zhang, Ari Juels · CC BY 4.0。
来源
核查或更正本页
- 更正
- 提交更正请求 · 在 GitHub 编辑源文件 · 更正政策