项目面试题：RAG 知识问答系统

• 切分参数：子块 300、父块 1200、重叠 50；检索用子块，喂模型给父块

• 结论：子块用于精准召回，父块为模型生成提供完整上下文；

设置召回topK=10,召回太多噪音大，太少可能答不全

切分基于 LangChain 递归切分器改造：自定义中文分隔符优先级（段落、换行、标点符号），标点保留句尾保语义，超长块递归降级再切；另做表格表头回填，防止切断丢失列名上下文。

BGE-M3 支持混合检索的核心是：一次输入生成三组向量——稠密向量、稀疏向量和多向量。

我使用稠密 + 稀疏双路召回：

• 稠密向量走 IVF_FLAT 索引做语义检索（主力权重 1.0），负责泛化理解用户问法

• 稀疏向量走倒排索引（Inverted Index）做关键词匹配（辅助权重 0.7），负责术语精确匹配防止漂移

• 最后用 WeightedRanker 加权融合两路结果

• BM25：基于词频精确匹配，适合 FAQ 快查

• embedding：基于语义向量，能理解同义问法

本项目用 BM25 先匹配高频 FAQ，未命中再走 embedding 的 RAG 检索。

为什么需要：向量粗召回（双塔模型）精度有限；rerank 做精排提升相关性

模型与算法：bge-reranker-large（交叉编码器CrossEncoder），query 与文档拼接后逐 token 深度交互打分，中文效果好

两阶段设计：

1. 粗召回：BGE-M3+Milvus 快速召回 10 个候选（IVF_FLAT + 倒排索引）
2. 精排：GPU 批量 rerank（无 GPU 时自动降级 CPU），取前 2 个父块进 Prompt

优化思路：粗筛控制候选数 + GPU 批量推理 → 兼顾效果、速度、token 成本

目标：检索策略路由 + 答案生成。

检索不足时由 router 选择上下文改写、子查询、回溯问题等策略再次召回；仍不足则按问题类型兜底——通用常识问题允许回答，企业知识问题必须拒答。

主要使用 RAGAS 做系统级评估，需要构造测试数据集（常用 CSV 格式）。

四大核心指标

1. 检索质量

   • context_recall：上下文召回率，必要信息是否都被召回

   • context_precision：上下文精度，召回文档的相关性和排序

2. 生成质量

   • faithfulness（忠实度）：答案是否由上下文推导而来，检测幻觉

   • answer_relevancy（相关性）：答案与问题的匹配度

💡 常见问题定位：

• faithfulness 低 → 容易产生幻觉

• context_recall 低 → 信息遗漏严重

• answer_relevancy 低 → 回答偏离意图

• context_precision 低 → 检索结果冗余

• 验证集：从真实提问抽样，覆盖高频和边缘问题，配上标准答案跑 RAGAS 打分

• badcase：从线上回答里挑错的，按检索不准、答案跑偏归类回流优化

影响不大：

• 截断很少触发，多层处理，最后异常膨胀时才会截

• 截断的也是不重要的排序靠后的内容

Milvus 有 FLAT、IVF 系列、HNSW、DISKANN 等索引。

• 稠密向量：用 IVF_FLAT，数据量不大时它在召回率和查询速度间平衡好、参数简单

• 稀疏向量：配套用倒排索引，支持混合检索

要点补充（备追问）：数据量大或要更高召回可换 HNSW，但内存占用和构建成本更高。

Milvus 索引
├── FLAT            ← 独立的、最朴素的暴力搜索
├── IVF 系列        ← 一个"家族"，前缀相同，后缀不同
│   ├── IVF_FLAT    ← IVF + 簇内精确计算
│   ├── IVF_SQ8     ← IVF + 8bit 标量量化
│   └── IVF_PQ      ← IVF + 乘积量化
├── HNSW
└── DISKANN

• 检索时：先去重、再用重排序模型只留最相关的两条，减少冲突源

• 上下文：附上文档更新时间，并在 Prompt 里明确约束：内容冲突时优先采用较新版本的资料

• PyMuPDF：轻量快速，纯本地解析文本，还能按需提取大图做 OCR

• MinerU：深度学习版式分析，依赖模型和 GPU，适合复杂排版

本项目 PDF 结构简单，选 PyMuPDF 更高效灵活。

• 没召回：是切块或 embedding 问题

• 召回了但答错：是生成问题

遇到两个问题：

• 口语化查询召回不准：用查询改写多路召回解决

• 单路向量召回噪声大：加混合检索加重排优化

• 查询改写

• 混合检索

• 重排序

• Prompt 侧：强约束——只准依据检索上下文回答，不足就明确说未找到，并引用真实文档名溯源

• 检索侧：混合检索加重排，保证上下文与问题一致

1. 输入校验：过滤可疑指令（本项目已做无效查询拦截）
2. 隔离：系统提示词与用户输入隔离，限定仅基于检索内容作答
3. 白名单：约束输出格式