🏠 总目录📚 本教程 08d · RAG 进阶方向 ← →

大模型全景导论 / 08d

当前失败点需要的是解析修复,还是更复杂的RAG?

从解析、切分、向量、检索失败证据进入Graph/Agentic/Self-RAG/CRAG的适用范围。

📑 本页目录(点开跳转)

08d · RAG 进阶方向

⏱ 22 分钟 | ⭐ 前三页都做扎实了再看这页


🎯 一句话

GraphRAG、Agentic RAG、Self-RAG、CRAG 都在解决基础版 RAG 的某个具体缺陷。 ⚠️ 它们不是「更好的 RAG」,是「针对某类问题的 RAG」 —— 在切分、重排、评估都还没做扎实之前上这些,只会让系统更难排查。


🕸️ 进阶方向:GraphRAG / Agentic RAG / Self-RAG / CRAG

⭐ 每一行都写了代价 —— 这些方向的资料通常只讲好处,而真正决定要不要上的是右边那一列。

方向 解决什么 代价
GraphRAG 用实体、关系与社区等结构支持跨文档问题 抽取和摘要增加索引成本;更新策略取决于实现,不能承诺固定的 10–100 倍成本
Agentic RAG 让 Agent 自己决定检索几次、检索什么(智能体教程的循环 + RAG) 延迟和 token 从"一次检索"变成"若干轮";必须有显式步数上限,否则会绕圈
Self-RAG 让模型自己判断"这次要不要检索"和"检回来的有没有用":训练时就往输出里加入反思标记(要不要检索 / 相不相关 / 有没有被支持),生成时按标记走分支 ⚠️ 要微调模型才能产生这些标记,通用 API 模型用不了原版;仅用提示词模拟不等于实现原论文,质量差距要测量
CRAG(Corrective RAG) 给召回结果加一个轻量评估器打分:好 → 直接用;差 → 回退到网络搜索;不确定 → 两者混合。本质是"检索质量的兜底闸门" 多一个评估器(延迟 + 成本);回退到外部搜索意味着答案可能来自不可控来源,企业内网场景要谨慎
多模态 RAG 检索图片、表格、图表(第 10 章) 可比较 OCR/描述文本索引或多模态表示;解析、存储与验证成本依方案而变
长上下文 vs RAG 比较直接放入材料与检索后提供证据 小而稳定的资料可能直接放入;大规模、频繁更新、权限与溯源需求下再评估检索,两者也可结合

🔑 Self-RAG 和 CRAG 其实是同一个念头的两种实现:都在给 RAG 加一道「这次检索到底靠不靠谱」的判断。 区别是 Self-RAG 把判断力训进模型里(要微调),CRAG 把判断力放在模型外面(一个可插拔的评估器)。

如果失败集中在坏证据未被识别,可以先实验外置评估器。但仍要校准阈值、错误率、搜索权限与回退路径;不是加个分数就完成 CRAG。与 08c 分段诊断配合,验证它是否修复当前失败。


🔗 想再深一层,去哪一套

去哪 为什么
智能体工程教程 11 · 检索与RAG ⭐ Agentic RAG 的正题:让 Agent 自己决定检索几轮、检索什么,那是智能体那一套的工程问题
Claude博客资料库 · 上下文检索 上下文向量 + 上下文 BM25 的 top-20 失败率相对下降 49% 实验原文;与仅加上下文向量的 35% 分开
09 · 推理范式 Self-RAG 的「先判断这次检索靠不靠谱」和推理范式里的自我反思是同一类机制

📦 深挖的话要学什么

按失败发生的位置选择下一站。下面保留解析、切分、检索、生成和评测的全部主题,不把“站内提到过”写成“已经讲透”。

文档还没进入索引:先查解析

  • 下一站:智能体工程 11b · 文档入库与数据治理。
  • 看什么:PDF 文本层、表格、扫描件 OCR、版面顺序与 Markdown 转换,如何逐项对照原文。
  • 边界:站内已有文本与可选 PDF 实践;OCR、复杂版面识别是扩展任务,不能误写为“站内一个字都没有”,也不能声称已经实现。

有资料却切丢条件:再查切分

  • 下一站:08 · RAG 与 文档入库 11b。
  • 看什么:块大小、语义边界、上下文补全及其成本。
  • 继续深挖:Late Chunking 与语义切分阈值需要单独实验;以证据完整性和检索结果验收,不只看块长。

向量表示不适合任务

候选中找不到正确证据

证据召回了,却排不到前面

  • 下一站:08b · 重排 的 Cross-Encoder、ColBERT、LLM 路线。
  • 进阶主题:ColBERTv2 残差压缩、ColPali 页面截图后期交互,需要对应论文与实现。
  • 验收:候选是否本来就包含答案,重排后是否保住正确证据;避免让重排为解析或召回错误背锅。

问题本身不明确

答案有引用,却仍然不对

  • 下一站:11d · 生成引用与查询诊断;输出审核配合 16c · 接进真实产品。
  • 区分三件事:引用存在、当前有权访问、答案被引用支持。结构校验通过不能证明语义正确。
  • 继续深挖:幻觉检测、拒答与 LLMLingua 式上下文压缩。流式输出还要核验审核发生的时机;示例中的 3.2 秒不是所有系统的固有延迟。

怎样证明改动真的有效

  • 下一站:08c 的分段指标、智能体评测 14、评测集也是数据 13。
  • 看什么:自己的测试集、端到端与分段评估、评分器校准;RAGAS 的指标不能替代人工定义“答对”。
  • 工具取舍:TruLens、DeepEval、promptfoo 的版本能力另查文档;框架这层皮 16b 帮你分清工具代劳与自己仍需负责的事。

需要关系图或额外检索循环时

  • 回到本页对照:GraphRAG / Agentic RAG / Self-RAG / CRAG。
  • 进阶主题:实体关系抽取、知识图谱、增量索引与更新策略。GraphRAG 的实现应看它自己的项目文档。
  • 区分用途:Kaggle 19 的物品关系图不能直接当作 GraphRAG 抽取教程;入库 11b 已有文档版本、删除与撤权实践,也不等于实现了图更新。

前置按任务补:可以先用无模型的检索实验理解证据链;接 API 时补调用和权限,训练或部署专用模型时再核对 GPU 需求。


⚖️ 要不要深挖

你的情况 建议
要做企业知识库/客服/文档问答 ✅ 必须,且优先级最高
需要基于私有资料给出可更新、可追溯的答案 优先比较检索与直接提供上下文;若需求是行为或格式适配,再评估微调
只做通用对话应用 🟡 知道基础即可
想快速产出可用成果 ✅ 这块见效最快

🔑 我的判断:如果只能深挖一块,从纯实用角度这块排第一: - 落地场景最多(企业知识库是当前最主流的 AI 落地形态) - 迁移余地最大(做过推荐/搜索的话,那套知识直接复用;没做过也是全表门槛最低的几块之一) - 可以从小型资料集起步;可用程度由质量、权限和维护验收决定,不按一周承诺 - 可先用无模型或托管实验入门;是否需要 GPU 与额外数学取决于实现和深度

唯一的竞争者是第 2 章 Transformer 原理——那个是认知价值最高,这个是实用价值最高。


✅ 检查点

  1. Self-RAG 和 CRAG 在解决同一件什么事?两者的区别是什么?工程上先做哪个?
  2. 为什么说这一页的方案都该放在最后考虑?
👀 答案
  1. 两者都包含对检索质量的判断。Self-RAG 使用训练出的反思标记;CRAG 使用检索评估与纠正策略。是否先做外置评估器,取决于失败样例、校准成本和回退来源,不能仅凭“无需改模型”直接上线。
  2. 因为它们各自只解决一类特定缺陷,而可靠资料、检索与评测是基础;混合检索和重排是否需要应由失败样本决定。地基没打好就上进阶方案,出了问题你分不清是哪一层的锅 —— 排查成本反而更高。

进阶 RAG 回顾

⚡ 走神救援

先记住这几件事

  • 进阶 RAG 方案分别针对多跳、一轮检索不够或证据质量不稳等具体问题。
  • 先把切分、检索、重排与评测做好,再增加新的判断循环。
  • 明确新增组件修复什么失败样例,并用同一评测集验证收益。

下一节 👉 09-推理范式.md

原始资料:Self-RAG · CRAG(核对:2026-10-18;外链仅供追溯,正文可离线阅读)。

打卡记录保存在你的浏览器里,首页能看到总进度