08d · RAG 进阶方向
⏱ 22 分钟 | ⭐ 前三页都做扎实了再看这页
🎯 一句话
GraphRAG、Agentic RAG、Self-RAG、CRAG 都在解决基础版 RAG 的某个具体缺陷。 ⚠️ 它们不是「更好的 RAG」,是「针对某类问题的 RAG」 —— 在切分、重排、评估都还没做扎实之前上这些,只会让系统更难排查。
🕸️ 进阶方向:GraphRAG / Agentic RAG / Self-RAG / CRAG
⭐ 每一行都写了代价 —— 这些方向的资料通常只讲好处,而真正决定要不要上的是右边那一列。
| 方向 | 解决什么 | 代价 |
|---|---|---|
| GraphRAG | 用实体、关系与社区等结构支持跨文档问题 | 抽取和摘要增加索引成本;更新策略取决于实现,不能承诺固定的 10–100 倍成本 |
| Agentic RAG | 让 Agent 自己决定检索几次、检索什么(智能体教程的循环 + RAG) | 延迟和 token 从"一次检索"变成"若干轮";必须有显式步数上限,否则会绕圈 |
| Self-RAG | 让模型自己判断"这次要不要检索"和"检回来的有没有用":训练时就往输出里加入反思标记(要不要检索 / 相不相关 / 有没有被支持),生成时按标记走分支 | ⚠️ 要微调模型才能产生这些标记,通用 API 模型用不了原版;仅用提示词模拟不等于实现原论文,质量差距要测量 |
| CRAG(Corrective RAG) | 给召回结果加一个轻量评估器打分:好 → 直接用;差 → 回退到网络搜索;不确定 → 两者混合。本质是"检索质量的兜底闸门" | 多一个评估器(延迟 + 成本);回退到外部搜索意味着答案可能来自不可控来源,企业内网场景要谨慎 |
| 多模态 RAG | 检索图片、表格、图表(第 10 章) | 可比较 OCR/描述文本索引或多模态表示;解析、存储与验证成本依方案而变 |
| 长上下文 vs RAG | 比较直接放入材料与检索后提供证据 | 小而稳定的资料可能直接放入;大规模、频繁更新、权限与溯源需求下再评估检索,两者也可结合 |
🔑 Self-RAG 和 CRAG 其实是同一个念头的两种实现:都在给 RAG 加一道「这次检索到底靠不靠谱」的判断。 区别是 Self-RAG 把判断力训进模型里(要微调),CRAG 把判断力放在模型外面(一个可插拔的评估器)。
如果失败集中在坏证据未被识别,可以先实验外置评估器。但仍要校准阈值、错误率、搜索权限与回退路径;不是加个分数就完成 CRAG。与 08c 分段诊断配合,验证它是否修复当前失败。
🔗 想再深一层,去哪一套
| 去哪 | 为什么 |
|---|---|
| 智能体工程教程 11 · 检索与RAG | ⭐ Agentic RAG 的正题:让 Agent 自己决定检索几轮、检索什么,那是智能体那一套的工程问题 |
| Claude博客资料库 · 上下文检索 | 上下文向量 + 上下文 BM25 的 top-20 失败率相对下降 49% 实验原文;与仅加上下文向量的 35% 分开 |
| 09 · 推理范式 | Self-RAG 的「先判断这次检索靠不靠谱」和推理范式里的自我反思是同一类机制 |
📦 深挖的话要学什么
按失败发生的位置选择下一站。下面保留解析、切分、检索、生成和评测的全部主题,不把“站内提到过”写成“已经讲透”。
文档还没进入索引:先查解析
- 下一站:智能体工程 11b · 文档入库与数据治理。
- 看什么:PDF 文本层、表格、扫描件 OCR、版面顺序与 Markdown 转换,如何逐项对照原文。
- 边界:站内已有文本与可选 PDF 实践;OCR、复杂版面识别是扩展任务,不能误写为“站内一个字都没有”,也不能声称已经实现。
有资料却切丢条件:再查切分
- 下一站:08 · RAG 与 文档入库 11b。
- 看什么:块大小、语义边界、上下文补全及其成本。
- 继续深挖:Late Chunking 与语义切分阈值需要单独实验;以证据完整性和检索结果验收,不只看块长。
向量表示不适合任务
- 下一站:08b · Embedding 选型。
- 补数据:标注体系 09、标注预算 12。
- 保留的进阶主题:领域微调、跨语言检索、MRL 截断。它们需要各自数据和实验,不是仅换一个维度参数。
候选中找不到正确证据
- 下一站:智能体工程 11 · 检索与 RAG,实验见 11c · 检索评测与调优。
- 看什么:BM25 与向量检索、型号词、RRF 融合;向量库选择配合 推荐算法 10。
- 继续深挖:BM25 的 tf-idf、k1、b 与 SPLADE 学习式稀疏检索。先保留各路候选,才能判断改动修复了哪种漏召回。
证据召回了,却排不到前面
- 下一站:08b · 重排 的 Cross-Encoder、ColBERT、LLM 路线。
- 进阶主题:ColBERTv2 残差压缩、ColPali 页面截图后期交互,需要对应论文与实现。
- 验收:候选是否本来就包含答案,重排后是否保住正确证据;避免让重排为解析或召回错误背锅。
问题本身不明确
- 下一站:08c · RAG 评估,再到 11d · 生成引用与查询诊断。
- 看什么:改写、扩展、HyDE、路由、多跳和多轮指代。HyDE 背景也见 检索与 RAG 11。
- 检查点:保留原问题中的实体、日期和否定词;假想答案只是检索线索,不是事实证据。
答案有引用,却仍然不对
- 下一站:11d · 生成引用与查询诊断;输出审核配合 16c · 接进真实产品。
- 区分三件事:引用存在、当前有权访问、答案被引用支持。结构校验通过不能证明语义正确。
- 继续深挖:幻觉检测、拒答与 LLMLingua 式上下文压缩。流式输出还要核验审核发生的时机;示例中的 3.2 秒不是所有系统的固有延迟。
怎样证明改动真的有效
- 下一站:08c 的分段指标、智能体评测 14、评测集也是数据 13。
- 看什么:自己的测试集、端到端与分段评估、评分器校准;RAGAS 的指标不能替代人工定义“答对”。
- 工具取舍:TruLens、DeepEval、promptfoo 的版本能力另查文档;框架这层皮 16b 帮你分清工具代劳与自己仍需负责的事。
需要关系图或额外检索循环时
- 回到本页对照:GraphRAG / Agentic RAG / Self-RAG / CRAG。
- 进阶主题:实体关系抽取、知识图谱、增量索引与更新策略。GraphRAG 的实现应看它自己的项目文档。
- 区分用途:Kaggle 19 的物品关系图不能直接当作 GraphRAG 抽取教程;入库 11b 已有文档版本、删除与撤权实践,也不等于实现了图更新。
前置按任务补:可以先用无模型的检索实验理解证据链;接 API 时补调用和权限,训练或部署专用模型时再核对 GPU 需求。
⚖️ 要不要深挖
| 你的情况 | 建议 |
|---|---|
| 要做企业知识库/客服/文档问答 | ✅ 必须,且优先级最高 |
| 需要基于私有资料给出可更新、可追溯的答案 | 优先比较检索与直接提供上下文;若需求是行为或格式适配,再评估微调 |
| 只做通用对话应用 | 🟡 知道基础即可 |
| 想快速产出可用成果 | ✅ 这块见效最快 |
🔑 我的判断:如果只能深挖一块,从纯实用角度这块排第一: - 落地场景最多(企业知识库是当前最主流的 AI 落地形态) - 迁移余地最大(做过推荐/搜索的话,那套知识直接复用;没做过也是全表门槛最低的几块之一) - 可以从小型资料集起步;可用程度由质量、权限和维护验收决定,不按一周承诺 - 可先用无模型或托管实验入门;是否需要 GPU 与额外数学取决于实现和深度
唯一的竞争者是第 2 章 Transformer 原理——那个是认知价值最高,这个是实用价值最高。
✅ 检查点
- Self-RAG 和 CRAG 在解决同一件什么事?两者的区别是什么?工程上先做哪个?
- 为什么说这一页的方案都该放在最后考虑?
👀 答案
- 两者都包含对检索质量的判断。Self-RAG 使用训练出的反思标记;CRAG 使用检索评估与纠正策略。是否先做外置评估器,取决于失败样例、校准成本和回退来源,不能仅凭“无需改模型”直接上线。
- 因为它们各自只解决一类特定缺陷,而可靠资料、检索与评测是基础;混合检索和重排是否需要应由失败样本决定。地基没打好就上进阶方案,出了问题你分不清是哪一层的锅 —— 排查成本反而更高。
进阶 RAG 回顾
⚡ 走神救援
先记住这几件事
- 进阶 RAG 方案分别针对多跳、一轮检索不够或证据质量不稳等具体问题。
- 先把切分、检索、重排与评测做好,再增加新的判断循环。
- 明确新增组件修复什么失败样例,并用同一评测集验证收益。
下一节 👉 09-推理范式.md