human

Human-in-the-Loop 设计

你在解决什么问题

决定何时让用户确认、何时自动执行，以及如何从用户反馈中学习。

参考实现 Snippets

• snippets/human/progressive-trust.ts — 渐进信任 + 规则建议 + 反馈闭环 + 竞赛解决器 + 异步分类器

设计检查清单

• 决策矩阵：操作类型 × 权限模式 → 行为
• 渐进信任：首次审批 → 规则建议 → 后续自动
• 双向反馈：accept+text / reject+text，注入对话上下文
• 拒绝跟踪：连续 3 次或总计 20 次 → 回退交互
• 异步分类器非阻塞 + 200ms 恩惠期
• 多决策源竞赛（用户/Hook/分类器/远程）首个 claim 获胜
• Plan 模式需显式审批
• 每个决策携带完整溯源

常见错误

错误	后果	正确做法
只有 allow/deny	太松或太紧	三态 + 规则建议
反馈文本丢弃	用户重复说	注入对话上下文
无拒绝跟踪	分类器反复被拒	自适应回退
无恩惠期	启动误触	200ms grace period