RAG 入门到进阶：给你的大模型接上“企业知识库”

发布于 2026-07-10 · 约11分钟读完 · RAG / 知识库 / 企业落地

RAG（Retrieval-Augmented Generation，检索增强生成）解决的是大模型的两个硬伤：知识截止和私有数据盲区。思路很朴素：提问时先从知识库检索相关片段，连同问题一起交给模型生成答案。

一个最小可用的 RAG 系统只有四步：文档切分（Chunking）、向量化入库（Embedding + 向量数据库）、相似度检索（Retrieval）、拼接生成（Generation）。用开源组件一天就能搭出原型。

但原型到可用之间隔着五个坑。第一个坑是切分策略：按固定长度切会把表格、段落拦腰截断。正确做法是按语义边界切分，并为每个片段保留标题层级等上下文信息。

第二个坑是检索质量。纯向量检索对专业术语、型号编号不敏感，混合检索（向量 + 关键词 BM25）再加一层重排序（Rerank），是当前的工程标配。

第三个坑是“检索不到却硬答”。必须在提示词中明确：若检索内容无法回答问题，应直接说明而非编造。同时把引用来源附在答案后，方便人工核验。

第四个坑是忽视评估。建议早期就构建 50-100 条真实问答对作为评估集，分别度量“检索命中率”和“答案忠实度”，每次调参都用数据说话。

第五个坑是文档治理。RAG 的效果上限由知识库质量决定：过期文档、版本冲突、扫描件 OCR 错误，都会直接传导为错误答案。建库前的清洗与入库后的更新机制，比算法选型更重要。

进阶方向包括：查询改写（把口语化提问改写成检索友好形式）、多轮对话的指代消解、以及表格与图文的混合检索。建议先把基础链路的评估做到 85% 以上，再逐步叠加这些增强。

本篇用到的工具