人在回路Human-in-the-loop
你可能会说
攻略和机票可以让 AI 先查,但付款、出票前一定要让我确认。
人在回路是在 AI 工作流的关键判断或高风险动作前暂停,让人审阅、批准、拒绝或修正后再继续的机制。例如旅行 Agent 可以自动搜索并比较机票,但付款出票前要展示日期、乘机人、总价和退改规则,等你批准后才继续。它不是让人盯着每一步,而是把决定权放在真正重要的暂停点。
也常被叫作HITLHuman in the Loop人工介入人类监督
延伸阅读 · 权威出处
攻略和机票可以让 AI 先查,但付款、出票前一定要让我确认。
搜索和比较是只读操作,Agent 可以自动完成,不必每查一个航班都来询问。
人在回路让低风险检索保持自动化,同时把人的决定放在真正高风险的动作之前。
把暂停放在动作之前:搜索和比较可以自动进行;扣款、出票、发布或删除等高风险动作必须先被拦住,而不是发生后再通知。
给人足够的决定信息:审批不能只有“是否继续”。界面要同时展示对象、范围、费用、规则和会造成的结果。
把决定送回同一次运行:批准后从暂停点继续,拒绝后停止;需要修改时带着人的意见回到前一步,不必让整个任务从头开始。
你可以自动搜索和比较上海到东京的周末航班,但付款和出票前必须暂停。请先列出往返日期、乘机人、含税总价、行李和退改规则;只有收到我的明确批准才能继续,拒绝或信息变化时立即停止。