RAG 知识库实战：让 AI 客服答得准、答得稳

RAG 不是"文档+向量检索"那么简单

很多团队以为 RAG 就是"上传文档 → 切块 → 向量化 → 检索"，结果上线后发现召回率不到 60%，AI 回答经常答非所问。

问题出在三个环节：分块策略、检索方案、重排序。

1. 分块策略：粒度决定召回质量

反例：按固定 500 字符切分，结果一个退款政策被切成两个块，每块都不完整。

最佳实践：

• •按 Markdown 标题层级切分，保留语义边界
• •块大小 500-1000 字符（中文 250-500 字）
• •相邻块保留 100 字符重叠
• •每个块携带标题路径作为元数据

typescript
// 知心的分块策略
{
  chunkSize: 800,
  chunkOverlap: 100,
  splitBy: 'heading', // 按标题切分
  keepHeadingPath: true, // 保留标题路径
}

2. 检索方案：向量 + 关键词的混合检索

纯向量检索擅长语义匹配，但对专有名词、产品型号、错误码这类精确匹配弱。

纯关键词检索（BM25）擅长精确匹配，但语义理解弱。

最佳实践：用 RRF（Reciprocal Rank Fusion）融合两路结果。

final_score = 0.6 * vector_score + 0.4 * bm25_score

3. 重排序：Cross-Encoder 精排 Top-K

向量检索返回的 Top-20 候选，再用 Cross-Encoder 对 (query, chunk) 对精排，取 Top-5 注入 LLM。

这一步在知心实测中将Top-5 命中率从 72% 提升到 89%。

4. 评估指标

RAG 不能凭感觉调优，必须建立量化评估体系：

• •召回率 Recall@K：Top-K 中是否包含正确答案
• •准确率 Precision@K：Top-K 中正确答案的占比
• •MRR：正确答案的平均排名
• •幻觉率：AI 回答中编造内容的比例

每周用标注数据集跑一次评估，确保迭代有数据支撑。

结语

RAG 是个系统工程，分块、检索、重排序、评估缺一不可。把每一步做扎实，AI 客服才能真正落地。