企业做 AI 客服,为什么先建 RAG 知识库而不是直接接大模型?
直接接大模型做客服,最常见的三个问题是一本正经胡说、答非所问、不懂企业业务。RAG 知识库解决的正是这三件事。本文说明原理、所需资料清单与适用时机。
结论:直接接大模型做客服,等于让一个没读过你公司资料的聪明人上岗。它表达流畅,但不知道你的产品、价格、流程和边界。RAG(检索增强生成)的作用,就是先把企业知识喂给它,再让它开口。
直接接大模型会遇到的三个问题
- 一本正经胡说。模型会为了「把话说圆」而编造产品参数、办理流程、售后政策。
- 答非所问。用户问「海口地区怎么开票」,模型给出一段通用税务常识,而不是你的开票流程。
- 不随业务更新。模型的知识停留在训练时间点,你新上线的产品它天然不知道。
RAG 做了什么?
RAG 的流程可以拆成四步:
- 知识入库:把产品手册、FAQ、合同模板、内部制度、历史工单整理成结构化文本。
- 切片与向量化:把长文档切成适合检索的片段,转成向量存入知识库。
- 检索:用户提问时,先从知识库找出最相关的几段内容。
- 生成:把检索结果作为依据交给大模型,要求它「只根据这些内容回答」。
这样做的直接好处是:答案可溯源、可更新、可审计。模型不再自由发挥,而是在你的知识范围内说话。
建知识库需要准备什么?
| 资料类型 | 用途 | 常见问题 |
|---|---|---|
| 产品与服务手册 | 回答是什么、包含什么、不包含什么 | 版本混乱,缺少失效标注 |
| 价格与政策 | 回答报价区间、优惠、退改规则 | 口径不统一,销售与客服说法不同 |
| 流程说明 | 回答怎么办、多久、找谁 | 只写了步骤,没写异常处理 |
| 历史问答与工单 | 覆盖真实用户问法 | 没有归档,散落在聊天记录里 |
经验上,一个业务线先整理 50 到 100 个高质量问答对,效果往往好过一次性导入几千页无结构文档。
什么时候适合上 AI 客服?
- 咨询量大、问题重复度高(售前咨询、售后报修、政策咨询);
- 知识相对稳定,但人工培训成本高;
- 有人愿意维护知识库,能按周或按月更新。
反过来,如果业务规则天天变、连内部都没有统一口径,先做流程梳理比做 AI 更划算。
上线后要盯的三件事
- 拒答率:知识库里没有答案时,AI 应当明确说不知道并转人工,而不是硬编。
- 命中率:用户问题有多少能在知识库中检索到对应片段。
- 转人工率:持续偏高说明知识覆盖不足,需要补内容而不是换模型。
象限互联为企业搭建 RAG 知识库与 AI 客服,支持对接现有系统与业务数据。查看企业 RAG 知识库方案,或致电 0898-36693780 转技术咨询。