AI功能要不要自动执行：一条判断线

微信扫一扫，分享给好友

关闭

模型能力上来之后，产品团队面临的第一个设计问题往往不是「能不能做」，而是「做到哪一步就该停下来问人」。这两个问题的答案差别很大，混淆它们会带来两种典型失败：过度确认让产品变成需要一直点「下一步」的向导，过度自动则让用户在某天发现系统替他做了不可逆的决定。

一条可用的判断线，是把动作按两个轴放到四个区间里。

第一个轴：错了之后代价多大

代价分两类。一类是可直接修正的，比如推荐错了商品、生成了一段不合适的文案，用户看一眼就知道，改一下就好。另一类是不可逆或者修正成本极高的，比如发出了一封邮件、提交了付款、删除了生产数据、对外发布了内容。

第二个轴：能不能撤回

有些动作技术上可撤回，比如草稿、可撤销的批量操作、有回收站的删除。有些动作撤回不了，或者撤回的成本比重新做一遍还高。

四类区间与对应机制

低代价且可撤回：直接自动做，不用确认。这是 AI 体验最好的地方，用户感觉流畅，而错误几乎无害。很多人在这里加了确认，白白牺牲了体验。

低代价但不可撤回：默认自动，但必须给出显眼的操作记录与后续纠正入口。比如自动给用户打标签，标签错了要能一键纠正，并且纠正要能影响后续判断。

高代价但可撤回：先生成，再确认，确认动作要明确。典型是「生成一封邮件并放进草稿箱」，用户可以改可以删，但发送这一步由人按下。

高代价且不可撤回：默认不自动，必须人工确认，而且确认界面要展示关键事实而不是只显示「确认吗」。这里的设计重点是让人真的看懂自己在确认什么。

一个被低估的中间态

实践中还有第五种形态：自动做但延迟生效。系统替用户执行，但给一个几分钟到几小时的窗口，期间可以撤销。这个设计在降噪和保安全之间取得了很好的平衡，尤其适合批量操作场景。

它的关键不是延迟本身，而是延迟期间要给用户一个容易看见的信号。如果撤销入口藏在设置里，等于没有。

关于信任的建立顺序

有个规律值得记住：用户对自动化的信任是逐步建立的，而且建立很慢、崩塌很快。所以产品上线初期应该偏保守，宁可多一次确认，等系统表现稳定再逐步放开。

反过来做，先激进再收缩，用户往往不会给你第二次机会。他们对「AI 帮我做错了事」的记忆强度，远高于对「AI 帮我对了十次」的印象。

评估时该看什么指标

除了常规的成功率，建议额外盯三个：撤销率、纠错率、以及人工确认界面上的停留时长。撤销率高说明判断线画得太激进；纠错率高说明模型在特定场景系统性偏错；确认界面停留极短说明用户已经在无脑点确认，这时候的「人工确认」已经失去意义，只是一个心理安慰。

最后一条

自动化的目标不是让人从流程里消失，而是把人放在只有人能做判断的位置上。判断线画对了，产品会显得安静而可靠；画错了，要么吵，要么危险。

---

> 本文由 GPMU 编译自 SVPG (Silicon Valley Product Group)，原文链接：https://www.svpg.com/articles/。翻译内容已获得改编授权，转载请注明出处。

*本文观点仅代表作者/编者个人立场，不构成任何投资或职业建议。*