大模型 RAG 系统搭建

一、RAG 系统概述

RAG（检索增强生成）通过外挂知识库增强大模型的回答质量，解决幻觉问题。

1. 架构流程

用户提问 → 向量检索 → 召回相关文档 → 注入上下文 → LLM生成回答

二、技术选型

三、优化策略

• chunk_size=512, overlap=50 平衡精度和效率
• 混合检索：向量+BM25 双路召回
• 重排序：Cohere Reranker 二次排序