人在回路（Human-in-the-loop）

AI知见编辑部 · 使用进阶 · 持续更新

一句话说清

AI流程里故意留几个"必须人点头"的关卡——机器跑得快，但关键决策人来拍板。

全自动系统的诱惑很大：既然AI能跑完，何必让人插手？答案是"错误成本"。AI发错一条内部消息是笑话，发错一封给客户的报价是事故，转错一笔钱是灾难。人在回路就是根据错误成本设置关卡：成本低的环节全自动，成本高的环节必须人审。

这套思想来自航空业：自动驾驶飞机几十年了，但起飞降落的关键决策始终给飞行员留着。设计AI工作流时照搬这个逻辑：列出流程里每个环节，问自己"这一步错了最坏会怎样"——能一笑而过的，交给AI；会伤筋动骨的，加人工审批节点。

反面教材也要知道：有些公司为了"效率"把人工关卡全撤了，结果AI客服乱承诺折扣、AI审核误封大量账号，上新闻后才连夜加回人工审核。效率诚可贵，闸门不能拆——尤其是对外、对钱、对名声的环节。

AI帮你写好群发邮件但发送前要经你审，这就是人在回路。它决定了AI是助手还是隐患。

不会。AI把"从零到一"做了，人从"创作者"变"审核者"，花的时间是原来的十分之一。效率保留九成，风险砍掉九成，这是最优解。

三个"对外"：对外发布的文字（品牌形象）、对外承诺的数字（合同报价）、对外操作的钱（转账退款）。这三个地方出事，AI不会替你道歉。