00 · 怎么用这份导论
导论覆盖的主题
本导论覆盖文档问答、推理与部署、模型原理以及多模态四个主题。课程路线列出相关章节。第 16 节进一步说明怎样结合基础、资源与目标选择学习方向。
🎯 一句话
导论的目标是让你能说清:我想解决什么问题、为什么选这条路线、第一步看哪里。 不要求你先学完所有技术,也不以“似懂非懂”作为合格标准。
🤔 为什么需要一份“导论”
RLHF、LoRA、KV Cache、投机解码、MoE、RoPE 看起来都重要,但它们处理的问题不同。把每个词都当成先修,会让入口越来越远。
本导论提供三种帮助:
- 定位: 这个词属于训练、推理、应用还是评测。
- 理解: 先用一个例子解释它解决的问题,再给术语。
- 选择: 当前要学哪一块,哪些可以先跳过。
注意力中断后,可以用“本页跳读”回到具体小节,也可以主动记下位置;位置记录不代表掌握进度。
🧭 它和你其他教程的关系
这份导论负责选择与理解,深挖教程负责实现和验证。以下是已有的补充入口,不要求先读完:
| 想深挖 | 去这份教程 | 对应本导论 |
|---|---|---|
| Transformer 到底怎么算 | 机器学习与深度学习基础 | 02 · Transformer 原理 |
| 这些方法为什么能 work | 机器学习的数学原理 | 15 · 数学地基 |
| 对齐那一步的完整流程 | 强化学习基础 | 04 · 训练三阶段、12 · 对齐 ⭐ |
| 怎么用模型搭出 Agent | 智能体工程教程 | 09 · 推理范式、13 · LLMOps |
| 推理优化的硬件底座 | AI基础设施 | 06 · 推理优化、06d · 降延迟与指标、07 · 本地部署与生态 ⭐ |
| RAG 里的向量检索 | 推荐算法 | 08 · RAG 最小闭环、08b · 重排与选型 |
| 模型上线之后会怎样 | 模型上线之后 | 13 · LLMOps ⭐ |
| 评测与调优的手艺 | Kaggle竞赛方法论 | 11 · 评测体系、11b · 私有评测集 |
| 合规背后的技术手段 | 密码学与信息安全 | 14 · 合规与伦理 |
| 一手资料原文 | Claude博客资料库 | 全书 |
带字母的章节是相邻主题的补充页,不都属于同一条必修顺序。请按真实章号和页面标题找入口,不把“主线第几站”误当成文件章号。
| 要判断什么 | 本导论 | 深挖教程 |
|---|---|---|
| 读完的结果 | 解释一个问题,选择下一站 | 实现、运行、排错或推导 |
| 代码怎么读 | 看清用途与输入输出,必要时运行例子 | 逐步动手,核对结果 |
| 页面长度 | 不设硬上限,按问题分段 | 同样不按分钟数强制拆页 |
| 卡住时 | 先看例子或补充入口 | 回到对应基础,再继续任务 |
📏 每章的阅读顺序
不是每页都要套同一种卡片。可以优先找这几类信息:
| 入口 | 你要得到什么 |
|---|---|
| 一句话 / 当前问题 | 现在为什么看这一节 |
| 图与例子 | 看哪种关系,能观察到什么 |
| 具体机制 / 公式 | 解释刚才的例子,按需展开 |
| 深入需要什么 / 适用边界 | 是否值得继续,缺什么基础 |
| 检查点与回顾 | 能否复述关键判断,下一步去哪 |
| 走神救援 | 只用短要点恢复上下文 |
公式看不懂时,可以先核对例子。仍然无法解释当前结论,就补这个缺口;不用把一整套数学当作入口门槛。
🧭 四条路线的后续与可选页
文档与业务知识库
主路线:08 RAG → 11 评测 → 13 LLMOps → 14 合规与伦理。
先验证系统找到了正确证据,并忠实使用它。再考虑上线监控、权限与风险。
- 候选里已有正确资料但排得靠后:补08b 重排与选型。
- 不知道改善是否真实:补08c RAG 评测。
- 基线暴露出更复杂的检索需求后,再看08d GraphRAG / Agentic RAG / Self-RAG / CRAG。
成本、显存与内网部署
主路线:06 推理优化 → 07 本地部署 → 13 LLMOps。
- 首字慢、生成慢、吞吐低:按指标补06d 延迟与三个指标。
- 输出飘、复读或格式不稳:另开06b 解码策略,需要实验时去06c 参数怎么调。
- 解码会影响输出长度与成本,但它不是所有部署问题的必修续集。
模型原理
主路线:02 Transformer → 03 Tokenizer 与上下文 → 04 训练三阶段 → 05 微调与 LoRA。
02 用输入与输出建立模块概念;03 再补文字如何变成 token。如果在 02 就卡在 token,随时跳到 03 查。
02b–02f 是按问题进入的专题,不是五道必过关卡:
- 02b 训练稳定:Pre-LN、RMSNorm。
- 02e SwiGLU、02f RoPE:分别看前馈层与位置信息。
- 02c Decoder-only:补因果遮罩与逐词生成。
- 02d MoE:容量扩展旁支,不是前面几项的下一阶段。
多模态
从10 多模态进入,先区分任务,不把“万物皆 token”当成所有模态共用同一种处理方式。
- 图文匹配、图文表征:10d CLIP 与对比学习。
- 图像生成:10b 图像生成。
- 语音或视频:10c 语音与视频。
选与目标相关的一支就可以;做语音不必先学完整套扩散模型。
🗺️ 全书 35 篇内容速览
这是主题分组,不是必须自下而上的依赖树。 35 篇包括入口页 00 和选择页 16,不包括目录首页。
| 主题 | 章节与要解决的问题 |
|---|---|
| 导览与选择 | 00 使用方法;01 全景定位;16 方向选择 |
| 模型原理 | 02 Transformer;03 Tokenizer;04 训练;05 微调;05b 数据到验收 |
| 原理选读 | 02b 稳定训练;02c Decoder-only;02d MoE;02e SwiGLU;02f RoPE |
| 推理与部署 | 06 推理优化;06b 解码;06c 参数实验;06d 延迟指标;07 部署;07b 开源生态 |
| 知识库 | 08 RAG;08b 重排;08c 评测;08d 进阶 |
| 复杂任务 | 09 推理范式:CoT、ReAct、测试时计算扩展 |
| 多模态 | 10 视觉理解;10b 图像生成;10c 语音视频;10d 图文对齐 |
| 评测、安全与运行 | 11 评测;11b 私有集;12 对齐;12b 越狱防御;13 LLMOps;14 合规伦理 |
| 数学工具 | 15 按需查阅向量、形状、概率、损失与更新 |
完整逐页链接都在导论目录。入口的四条路线是选择题,不是四份都要完成的作业。
⏱️ 四种读法
这一节按阅读状态分;上面的四条路线按要解决的问题分。
| 当前状态 | 下一步 | 核对结果 |
|---|---|---|
| 想快速选方向 | 01 全景,再去16 选择 | 能说明要学习的主题及理由 |
| 想逐步建立全貌 | 按主题分组读,每次只解决当前一类问题 | 能复述每个主题的主要问题 |
| 已有具体目标 | 用四条路线直接进入 | 完成该路线的一个观察或判断 |
| 只想查一个名词 | 先定位主题,再打开对应小节 | 能说明它在当前问题中的作用 |
页上的分钟数只能参考,不是任务期限。无需一天读四章,也不要求几天后必须做出最终决定。
🧩 读之前该有什么基础
不要求先写过 PyTorch、推过矩阵导数或读过论文。 用过对话产品会更容易理解例子,但不是硬门槛。
先区分三个词:
- 模型: 输入内容后产生预测的一套参数与计算。
- 训练: 用数据和目标调整参数。
- 推理: 用已有参数处理一次输入,通常不在这一步更新权重。
需要补神经网络、反向传播或注意力时,去ML 基础目录的 07–08、13–14;卡在公式时按问题查15 数学地基。
⚠️ 一条重要免责
原理也有适用范围,不能只因为它在解释“为什么”就默认永远成立。
- 数学关系:检查假设、变量与适用条件。
- 实验数字:检查数据、基线、配置和测量日期。
- 工具、模型、榜单与价格:使用前核对当时的一手资料。
- 生产与合规判断:本导论只能提供问题入口,不能替代具体评估。
没有来源与条件的数字,不应拿来做采购、性能或质量承诺。
✅ 检查点
- 导论与深挖教程分别希望你完成什么?
- “说不清楚”是否应直接视为读懂了?
- 看一页时,怎样连接结论、例子与适用边界?
- 主题分组是否意味着必须按依赖顺序通读?
- 注意力中断后可以怎样回来?
- 怎样判断某个数字或结论是否仍适用?
- 目标路线与四种读法有什么不同?
- 成本/部署路线何时才需要补解码参数?
- 知识库路线为何不一开始就叠加所有进阶技术?
展开核对
- 导论帮助解释当前问题并选第一站;深挖教程帮助实现与验证。
- 不应;可以暂时跳过细节,但要能说明当前例子与结论。
- 先找它解决的问题,再看可观察例子,最后检查条件和继续入口。
- 不是。按读者目标进入,缺哪块再补。
- 用本页跳读、保存的位置或走神救援恢复,不把已读位置当成已掌握。
- 查假设、测量条件、日期与一手资料;不只看它是否在讲“为什么”。
- 前者按任务目标分路,后者按阅读状态给方法。
- 输出质量或解码行为需要诊断时;不是每个资源问题都要先学解码。
- 先在基线上定位失败,才能判断复杂改法增加的是价值还是排查成本。
本节回顾
先记住这几件事
- 知识库、成本与部署、模型原理和多模态各有相应课程路线。
- 专题按需补,不必先读完整个目录。
- 选择下一步之前,说明当前结论和它的适用条件。