AI 在线聊天要先划边界才管用:哪些问题 AI 可以单独回答,哪些先回答一部分再转人工,哪些直接交给人。示例月份里,55% 的聊天可以放心自动化,但初版以 8.0% 的错误率没通过 5% 的错误答案预算。
读完你会知道
- 按量、风险和你的文档能不能回答,给问题分类
- 上线前给每个区定错误答案上限;92% 正确仍然没通过 5% 的上限
- 设计转人工,让坐席拿到对话、原因和访客背景
什么是 AI 在线聊天,它和聊天机器人、纯人工聊天有什么区别?
AI 在线聊天,是 AI 先回答访客、或与坐席并行回答,并在该转人工时把会话交给人的网站聊天。「在线」二字很关键:人始终在回路里,设计上要回答的问题是两者之间的界线画在哪里。
把三种设置分开会有帮助,因为文章里这些名称用得很随意:
| 设置 | 谁来回答 | 优点 | 风险 |
|---|---|---|---|
| 纯人工在线聊天 | 坐席 | 判断、共情、能执行操作 | 成本,以及夜间的覆盖 |
| 规则型聊天机器人 | 脚本流程 | 可预期 | 脱离脚本就失灵 |
| AI 在线聊天 | AI 先答,转人工时由人接手 | 能覆盖大量重复问题 | 信心十足的错误答案 |
与脚本机器人的对比,见聊天机器人与在线客服;AI 在客服侧的角色,见 AI 客服代理;客服聊天机器人是什么,见客服聊天机器人。本文讲这些页面留白的一个设计决定,主张是:打开 AI 之前,先决定哪些问题它可以自己回答,哪些必须交给人。 先把边界写下来的团队,得到的是一个能为之辩护的机器人;先打开 AI 的团队,是从投诉里发现边界的。
第一步:怎样按量、风险和可回答性给问题分类?
从真实对话出发,而不是从你希望 AI 能做什么出发。取一个月的聊天,把每个归入一个类别,再给每个类别三项事实:
- 量: 占会话的比例。
- 能否根据你的资料回答: 不用查客户的记录,仅凭你已有的文档,能不能写出正确答案?
- 答错的风险: 低(耽误一点时间或白点一下)、中(一个要花钱或花时间的错误承诺),或高(涉及金钱、安全、法律或账户后果)。
第二项是团队最常漏掉的。订单状态的问题很常见,感觉可以自动化,但答案在 AI 读不到的系统里。如果你的聊天 AI 只根据文档生成文字,那「我的订单到哪了?」它就答不了,不管看上去多容易。
第二步:哪些问题属于自动、辅助和人工这三个区?
三个区把分好类的清单变成规则:
| 区 | 规则 | 会发生什么 |
|---|---|---|
| 自动 | 能根据你的资料回答,且风险低 | AI 回答;访客随时可以要求转人工 |
| 辅助 | 部分能回答,或风险中等 | AI 回答事实部分,然后转人工;或由坐席修改草稿 |
| 仅人工 | 需要做决定、需要查记录,或风险高 | 直接给坐席 |
把涉及金钱的决定、投诉、法律和安全话题,以及任何需要查记录的问题,放进仅人工区。客户一说「退款」「取消」「律师」「被扣了两次」,AI 就该停止回答,由人接手。把营业时间、政策和操作类问题放进自动区。
| 区 | 规则 | 会发生什么 |
|---|---|---|
| 自动 | 能根据你的资料回答,且风险低 | AI 回答;访客随时可以要求转人工 |
| 辅助 | 部分能回答,或风险中等 | AI 回答事实部分后转人工,或由坐席修改草稿 |
| 仅人工 | 需要做决定、需要查记录,或风险高 | 直接给坐席 |
涉及金钱、投诉、法律、安全和查记录的,放在人工区。
示例:边界对一个月的聊天做了什么?
示例数据:一个月 1,000 个会话。
| 类别 | 会话 | 能根据文档回答? | 答错的风险 | 区 |
|---|---|---|---|---|
| 营业时间、配送和政策事实 | 300 | 能 | 低 | 自动 |
| 产品操作类问题 | 250 | 能 | 低 | 自动 |
| 订单状态 | 200 | 不能,需要查记录 | 中 | 仅人工 |
| 账单和退款 | 120 | 部分,需要做决定 | 高 | 仅人工 |
| 售前和价格 | 90 | 部分 | 中 | 辅助 |
| 投诉、法律、安全 | 40 | 不能 | 高 | 仅人工 |
自动区有 300 + 250 = 550 个会话,占当月的 55%。其余 450 个仍由人处理,其中辅助区的 90 个先由 AI 打个头。
再算价值。假设一个会话人工要花 6 分钟,清理一次错误答案要花 15 分钟。如果 AI 在自动区答对 92%:550 × 0.92 = 506 个正确答案,44 个错误。省下的时间是 506 × 6 ÷ 60 = 50.6 小时;清理是 44 × 15 ÷ 60 = 11.0 小时;净省 39.6 小时。
这是个不错的数字,却有一个糟糕的细节:550 个里有 44 个错,是 8.0%。
一个月聊天按区的占比
示例,1,000 个会话能接受多少错误答案?上线前先定预算
在试用之前、而不是在首次投诉之后,给每个区定下允许的错误答案率:
| 区 | 最高错误答案率 | 原因 |
|---|---|---|
| 自动,低风险 | 5% | 一个错误答案要花几分钟清理 |
| 辅助,中风险 | 每条回复都由人复核 | 一个错误承诺要花钱 |
| 仅人工 | 不适用 | AI 不回答 |
对照这条规则,初版不通过:8.0% 高于 5%。要修的是文档,不是模型。把测试里答错的内容重写之后,假设准确率达到 96%:550 × 0.96 = 528 个正确,22 个错误(4.0%,在预算内),省时 528 × 6 ÷ 60 = 52.8 小时,清理 22 × 15 ÷ 60 = 5.5 小时,净省 47.3 小时。通过的版本既更安全,也更有价值。
这个上限不只是内部选择。Moffatt 诉加拿大航空案里,仲裁庭认定公司要为其网站聊天机器人给客户的错误信息负责。透明度方面也有规则:欧盟 AI 法案第 50 条规定了在人们与 AI 系统交互时要告知的义务。以上是一般性信息,不是法律意见;聊天里要明确说明正在回答的是 AI。
转人工应该怎么做?
转人工是兜底保障,设计时要和设计答案一样认真:
| 触发条件 | 规则示例 |
|---|---|
| 资料里没有匹配 | AI 说明要把聊天转给人,并且照做 |
| 访客要求找人 | 立即转接;不要争辩 |
| 敏感措辞 | 「退款」「取消」「投诉」「律师」路由到仅人工区 |
| 轮次太多 | AI 回答约三轮仍未解决,就转人工 |
| 不在工作时间 | 收集邮箱和问题,作为离线留言 |
然后检查坐席收到了什么:完整对话、转人工的原因,以及访客的背景。如果坐席要让访客把问题再说一遍,不管 AI 之前做得多好,这次转接都算失败。
怎样分五步上线 AI 在线聊天?
- 先写好或整理好自动区的资料: 一个问题、一个答案、一个最后核对的日期。
- 用你历史里的 50 个真实问题测试; 数一数答对、转人工和答错的,对照预算。
- 从窄处开始: 先让 AI 只在没有坐席在线时回答,错误答案率稳住之后,再放宽到首次回复。
- 第一个月每周复盘每一次转接, 并修好每次背后的资料。
- 每月重新量: 自动回答占比、错误答案率、按原因分的转接。
AI 在线聊天的常见误区
- 没写边界就打开。 你会从投诉里学到边界。
- 把订单状态算作能自动化。 AI 读不到你的订单,就答不了。
- 看正确答案,不看错误答案。 示例里,92% 正确仍然没通过 5% 的预算。
- 隐瞒这是 AI。 要说清楚,既为了信任,也为了透明度规则。
- 转接丢了上下文。 坐席让访客从头再说,会把节省的时间全部抹掉。
- 让资料过期。 一条过时的政策答案,就是一个信心十足的错误答案。
在 TapCub 里这条边界怎么设置?
下面是示例里的网店,把三个区放进 TapCub 在线客服的做法。TapCub 的 AI 只生成回复;它不查订单、不改订单、不发邮件,所以订单状态留在了人工区。
- 把自动区写成知识。 在 客服 › 知识库 里,为事实和政策添加问答条目:问题匹配时,答案原样发出,不耗 AI 调用。为操作类话题添加文档;它们会被切成约 600 字的段落,用全文索引检索,再起草成回答。
- 上线前测试。 知识库里的 Playground 测试回答,不耗额度。把你的 50 个问题放进去跑,把错误答案数对照预算。
- 选择模式。 客服 › 聊天设置 › AI 接待 有三种模式:关闭、仅坐席全离线时、AI 先答(坐席接手、人工回复或访客要求人工时停止)。先从中间那个开始。
- 掌控转接。 资料不够时,会话会转给 客服 › 客服工作台 里的坐席,并标注原因,例如没有知识匹配、模型答不了、访客要求、达到轮次上限。把最常见的问答置顶成 FAQ:打开它不会建会话、不耗额度,只有点 没解决 或要求找人才会建。
- 衡量。 客服 › 客服报表 显示知识库命中率、解决率和首次响应(只算人工回复)。
AI 调用怎么计数,见AI 聊天调用如何计数;怎么设置,见设置 AI 聊天回复。TapCub 不替你决定边界;这些区由你来设。
常见问题
什么是 AI 在线聊天?
AI 在线聊天是 AI 先回答访客、或与坐席并行回答,并在该转人工时把会话交给人的网站聊天。人始终在回路里。关键的设计选择是:哪些问题 AI 单独回答,哪些交给人。
哪些问题应该让 AI 聊天自己回答?
能够根据你已有的文档给出正确答案、而且答错代价小的问题:营业时间、政策、配送事实和操作步骤。涉及金钱的决定、投诉、法律、安全,以及任何需要查记录的问题,应该交给人。
AI 在线聊天需要多准确?
上线前给每个区定一个错误答案的上限。对低风险问题,合理的上限是错误率至多 5%。示例里,92% 的准确率以 8% 的错误率没通过;修好资料后,96% 以 4% 的错误率通过了。
一定要告诉访客他们在和 AI 对话吗?
通常需要,而且无论如何都是好做法。欧盟 AI 法案第 50 条规定了在人们与 AI 系统交互时要告知的义务,其他地区也有披露规则。以上是一般性信息,不是法律意见,请核对你自己的要求。
AI 在线聊天能查订单或办理退款吗?
除非它连接了这些系统并被允许操作,否则不能。在 TapCub 里,AI 只生成回复;它不改订单、不发邮件、不调用别的系统,所以查订单和退款属于坐席。
资料来源
- Civil Resolution Tribunal of British Columbia. Moffatt v. Air Canada, 2024 BCCRT 149:公司被认定要为其网站聊天机器人的错误信息负责。核对于 2026-11-19。
- 欧盟. Regulation (EU) 2024/1689(AI 法案):第 50 条,关于与人交互的 AI 系统的透明度义务。核对于 2026-11-19。
- 美国国家标准与技术研究院. AI Risk Management Framework:识别和管理 AI 风险的框架。核对于 2026-11-19。
这篇文章对你有帮助吗?
我们会根据反馈修改和补充这篇内容。
提交没有成功,请稍后再试。
谢谢你的反馈,我们会据此改进这篇内容。你已经反馈过这篇了,谢谢。

