Human-in-the-Loop 设计

格式：设计人类审核 AI 输出的工作流。

什么时候需要人工审核：

• AI 的决定影响真实的人（贷款审批、招聘筛选）
• AI 的错误代价很高（医疗建议、法律文书）
• AI 学习初期（数据不足，准确率低）

练习：设计以下场景的 Human-in-the-Loop 流程：

场景：AI 内容审核系统

全自动（高置信度）：
  AI 置信度 > 95% "安全" → 自动通过
  AI 置信度 > 95% "违规" → 自动删除 + 通知用户

人工审核（低置信度）：
  AI 置信度 50-95% → 进入人工审核队列
  AI 置信度 < 50% → 优先人工审核

用户申诉：
  被删除的内容 → 用户可申诉 → 人工重新审核