📑 本页目录（点开跳转）
00 · 怎么用这份导论
⏱ 32 分钟 ｜ 先读这个，能省你后面的纠结（⭐ 只想赶紧开始的话，看「🚦 你现在要解决的是哪个问题」那一节就够）
🎯 一句话
这不是教你做某件事的教程，而是帮你看清整个地图、然后决定往哪走的导览。
🤔 为什么需要一份"导论"
对照
大模型领域的真实处境：
· 名词密度极高：RLHF、LoRA、KV Cache、投机解码、MoE、RoPE、vLLM…
· 每个名词背后都是一个能学一个月的方向
· 而且它们【互相依赖】——不知道 KV Cache 就不懂长上下文为什么贵
⚠️ 直接一头扎进任何一个，你会不断撞到"这个我还没学"的墙
这份导论要做的事：
因果链
🔑 一句关于 ADHD 的实话： 面对一个庞大的领域，最消耗人的不是学习本身，而是"我该从哪开始"这个悬而未决的问题。 这份导论的最大价值就是把那个问题关掉。
🧭 它和你其他教程的关系
这份导论是索引，不是终点。 每一章后面都有一个深挖它的教程：
| 想深挖 | 去这份教程 | 对应本导论 |
|---|---|---|
| Transformer 到底怎么算 | 机器学习与深度学习基础 | 主线 2 · 模型怎样看懂一句话 |
| 这些方法为什么能 work | 机器学习的数学原理 | 15 · 数学地基 |
| 对齐那一步的完整流程 | 强化学习基础 | 主线 4 · 它怎样从续写机变助手、12 · 对齐 ⭐ |
| 怎么用模型搭出 Agent | 智能体工程教程 | 09 · 推理范式、13 · LLMOps |
| 推理优化的硬件底座 | AI基础设施 | 06 · 推理优化、06d · 降延迟与指标、07 · 本地部署与生态 ⭐ |
| RAG 里的向量检索 | 推荐算法 | 08 · RAG 最小闭环、08b · 重排与选型 |
| 模型上线之后会怎样 | 模型上线之后 | 13 · LLMOps ⭐ |
| 评测与调优的手艺 | Kaggle竞赛方法论 | 11 · 评测体系、11b · 私有评测集 |
| 合规背后的技术手段 | 密码学与信息安全 | 14 · 合规与伦理 |
| 一手资料原文 | Claude博客资料库 | 全书 |
⚠️ 这张表在变：写这份导论时，其中好几个方向还被标成「没人挖的方向」， 现在 AI基础设施和强化学习基础都补上了。发现某一章你想再深入，先回来看这张表。
⭐ 右边那一列写的是目录里的原话，不是章号。 底层已经理成一条「主线 1–5」， 后半程也按 8–15 分钟一页拆过，所以会出现 06d、08b、11b 这种带字母后缀的续页 —— 照着这一列的文字在左侧目录里找即可。
定位差异：
| 深挖教程（智能体/推荐/ML基础…） | 本导论 | |
|---|---|---|
| 深度 | 能照着做出来 | 只求「知道有这么回事」 |
| 每页 | 25–35 分钟 | 8–30 分钟（主线更短，深水区分成了几页） |
| 代码 | 大量，要动手 | 极少，看懂即可 |
| 目的 | 学会一件事 | 做出一个选择 |
⚠️ 所以读这份导论时，不要试图"学会"任何东西。 读完你会有很多"我大概知道但说不清楚"的感觉——那是正确的状态。
📏 每章的固定结构
为了让你能快速比较这些方向，每页都长一样：
| 区块 | 作用 |
|---|---|
| 🎯 一句话 | 这个方向到底在解决什么 |
| 🧠 核心概念 | 3–5 个必须知道的名词，配图 |
| 🔗 和你已知的关系 | 它和你学过的东西怎么接上 |
| 📦 深挖的话要学什么 | ⭐ 决策依据——列出真正深入需要的知识清单 |
| ⚖️ 要不要深挖 | 我的直接建议 + 适合什么人 |
| ✅ 检查点 / ⚡ 走神救援 | 和其他教程一致 |
🔑 看的时候重点扫「📦 深挖要学什么」和「⚖️ 要不要深挖」两栏——这两个决定你的选择。 中间的「核心概念」看不懂可以跳过，你现在不需要懂，只需要知道它存在。
🚦 你现在要解决的是哪个问题
⭐ 带着具体问题来的，不用从第一页读起，也不用先看完地图 —— 在下表里找到你那一行，只读那一行。
它按你手上正卡着的问题分，不按技术名词分。每行三样东西：从哪页进去、最短能走通的路线、 ⭐ 这条路上可以先不读什么 —— 最后一列和前两列一样重要，在导论里，知道能跳过什么和知道该读什么是同一件事。
| 你现在要解决的问题 | 第一站 | 最短能走通的路线 | ⭐ 这条路上可以先不读 |
|---|---|---|---|
| 想让 AI 用上自己的文档 / 知识库 | 08 · RAG 最小闭环 | 08 → 08b 重排与选型 → 08c RAG 怎么评估 → 13 LLMOps → 14 合规与伦理 | 08d 进阶方向（GraphRAG / Agentic RAG / Self-RAG / CRAG）一律放到最后。08d 自己开篇就写着：切分、重排、评估是所有 RAG 共同的地基，地基没打好就上进阶方案，出了问题你分不清是哪一层的锅 |
| API 太贵 / 显存不够 / 数据不能出内网 | 06 · 推理优化 | 06 → 06d 降延迟与指标 → 07 本地部署 → 13 LLMOps | ⚠️ 06b 解码策略 和 06c 解码参数怎么调 不是 06 的必修续集。它们只在输出飘、复读、JSON 偶尔崩、结果不可复现的时候才进 —— 那是另一类问题，和省钱没关系 |
| 想看懂模型为什么能生成回答 | 主线 1 · 文字怎样进入模型 | 主线 1 → 主线 2 · 模型怎样看懂一句话 → 主线 3 · 模型怎样逐词生成 → 主线 4 · 从续写机变助手 → 主线 5 · 变成你的助手 | 四个专题 A–D（训练为什么更稳 / SwiGLU / RoPE / MoE）都是按需专题，不挡在主线前面。它们回答的是「现代模型比初版 Transformer 改了什么」，先把主线五页走完再说 |
| 要做图像 / 语音 / 视频产品 | 10 · 多模态：视觉理解 | 先看 10 建立「万物皆 token」这个共同思想，再按你做的东西挑一页：图文对齐、要自己训 VLM → 10d CLIP 与对比学习；文生图 → 10b 图像生成；语音、视频 → 10c 语音与视频 | 这三页互不依赖，挑一页看就行。做语音的不必先读完 VLM 和扩散模型 —— 10b 和 10c 开头都写着「这一页可以直接看」 |
⏱ 四条路线大概多长（按各页 ⏱ 徽章加总，徽章会随内容微调，这里只给量级）： 文档与知识库 约 2 小时；成本与私有化 约 1 小时 40 分； 看懂原理 51 分钟（最短的一条，也是零基础最该先走的）；多模态 35–45 分钟（看你挑哪一页）。
⚠️ 路线以外的页不是「不重要」，是「不在这条路上」 —— 09 推理范式、 11 评测体系、12 对齐、15 数学地基 都是撞上对应问题时再回来看的；真要挨个方向打分做决定，那是 16 · 你该挖哪一块 的活。
💡 说不上自己要解决什么？ 那这张表帮不上忙，往下翻两节 —— 🗺️ 全书 33 页速览 给整张地图，⏱️ 四种读法 按你此刻的阅读状态给读法。 ⭐ 两张表的分界很干脆：手上有具体问题用上面这张，还说不上要解决什么用下面那张。
🗺️ 全书 33 页速览
33 页分成五层。从下往上是依赖顺序，从上往下是学习顺序。⭐ 带字母后缀的是同一主题的续页，遇到相应问题时再看。
- 主线 01 文字怎样进入模型
- 主线 02 模型怎样看懂一句话
- 主线 03 模型怎样逐词生成
- 主线 04 它怎样从续写机变助手
- 主线 05 怎样把模型变成你的助手
- 选读专题 训练稳定 / SwiGLU / RoPE / MoE
- 06 推理优化：省显存 06d 降延迟与指标
- 06b 解码策略 06c 解码参数怎么调
- 07 本地部署与开源生态
- 08 RAG 最小闭环 08b 重排与选型
- 08c RAG 怎么评估 08d RAG 进阶方向
- 09 推理范式（CoT / ReAct / 测试时扩展）
- 10 多模态：视觉理解 10d CLIP 与对比学习
- 10b 图像生成 10c 语音与视频
- 11 评测体系：榜单 11b 私有评测集
- 12 对齐 12b 越狱与纵深防御
- 13 LLMOps 14 合规与伦理
- 15 数学（只补必需的）
💡 这张图的读法：从下往上是依赖顺序，从上往下是学习顺序。
对照
做应用的人：从【上层】开始，缺什么补什么 ⭐ 大多数人该走这条
想搞懂本质的人：从【底层主线 01】开始，先看文字怎样进入模型
⏱️ 四种读法
这张表分的是另一件事：上面那张「🚦 你现在要解决的是哪个问题」按问题分， 这一张按你此刻的阅读状态分 —— 你还没有具体问题，只是想知道该怎么把这 33 页读下去。
| 你的情况 | 读法 | 时间 |
|---|---|---|
| 只想快速选方向 | 01（地图）→ 16（决策）→ 挑 2–3 页细看 | ⭐ 约 1.5–2 小时（01+16 就是 40 分钟，那 2–3 章另算） |
| 想建立完整认知 | 全景地图 → 主线五页 → 其余方向 | ⚠️ 全部 33 页约 10.7 小时（分 5–6 天）。⭐ 跳过四个「专题」和全部带字母后缀的续页只要 6.1 小时 —— 那是推荐的第一遍走法 |
| 有明确目标了 | 直接跳对应章节看「📦 深挖要学什么」 | 15 分钟 |
| 只想搞懂那几个到处出现的名词 | 全景地图 → 文字怎样进入模型 → 模型怎样看懂一句话 → 数学地基 | 约 65 分钟 |
💡 ADHD 提示：33 页一次读完会累。 建议一天读 4 章，读完在第 16 章的打分表里给个分（0–5 分，「我想学这个吗」）， 三天后看总分，答案自然浮出来——比你现在硬想要准得多。
🧩 读之前该有什么基础
结果对照
💡 卡在数学上时：直接翻第 15 章，那里只有 8 个知识点，够用。
⚠️ 一条重要免责
大模型领域变化极快。这份导论里：
- 原理和方法论（Transformer 怎么工作、LoRA 为什么有效、RAG 的难点在哪）→ 长期有效
- 具体的工具名、模型名、性能数字 → 半年就可能过期，只当量级感
看到具体数字时，记住它表达的是「大概这个量级」而不是「当前准确值」。
💡 一个判断信息是否过期的实用标准： 如果一段话在讲"为什么"，它大概率还有效；如果在讲"用哪个库、哪个模型最强"，去查最新的。
✅ 检查点
- 这份导论和深挖教程的目的分别是什么？
- 读这份导论时，"很多东西大概知道但说不清楚"是问题吗？
- 每章重点该扫哪两栏？
- 那张 15 方向的图，从下往上和从上往下分别代表什么？做应用的人该怎么走？
- ADHD 友好的读法建议是什么？
- 怎么判断导论里的某段信息是否过期？
- 「🚦 你现在要解决的是哪个问题」和「⏱️ 四种读法」这两张表分别按什么分？什么时候用哪张？
- 走「API 太贵 / 显存不够 / 数据不能出内网」这条路线时，06b 和 06c 什么时候才需要读？
- 想让 AI 用上自己的文档，这条路线上哪一页要放到最后？为什么？
👀 答案
- 深挖教程的目的是学会一件事（能照着做出来）；本导论的目的是做出一个选择（知道有这么回事就够）。
- 不是问题，那正是正确的状态。导论不要求你"学会"任何东西。
- 「📦 深挖要学什么」和「⚖️ 要不要深挖」——这两栏决定你的选择。中间的核心概念看不懂可以跳。
- 从下往上是依赖顺序，从上往下是学习顺序。做应用的人从上层开始，缺什么补什么（大多数人该走这条）；想搞懂本质的从底层主线 01 开始。
- 一天读 4 章，每读完就在第 16 章打分表里给分（0–5 分「我想学这个吗」），三天后看总分——比现在硬想要准得多。
- 讲"为什么"的大概率还有效；讲"用哪个库、哪个模型最强"的去查最新的。
- 前者按你手上正卡着的那个问题分（要接自己的文档 / API 太贵 / 想看懂原理 / 要做多模态），给的是一条最短能走通的路线；后者按你此刻的阅读状态分（只想快速选方向 / 想通读 / 已经有目标 / 只想搞懂名词），给的是读法和时间。手上有具体问题用前者，还说不上要解决什么用后者。
- 只在输出飘、复读、JSON 偶尔崩、结果不可复现的时候读 —— 它们不是 06 的必修续集，那是另一类问题，和省钱没关系。这条路线的必经页是 06 → 06d → 07 → 13，合计约 1 小时 40 分。
- 08d 进阶方向（GraphRAG / Agentic RAG / Self-RAG / CRAG）。因为切分、重排、评估是所有 RAG 共同的地基，地基没打好就上进阶方案，出了问题你分不清是哪一层的锅。必经路线是 08 → 08b → 08c → 13 → 14，合计约 2 小时。
🛑 开始吧
⚡ 走神救援
先记住这几件事
- 这份导论帮助你选择下一步，不要求先读完整个目录。
- 知识库、成本与部署、模型原理、多模态各有独立入口，从当前目标进入。
- 相关专题可以按需补充；做出选择、跑出一个可观察的结果后就可以停。