🏠 总目录📚 本教程 00 · 怎么用这份导论 →

大模型全景导论 / 00

这份导论覆盖哪些问题?

本章说明知识库、部署、模型原理与多模态所需的基础和相关章节。

区分各主题所需的基础与可选专题。

📑 本页目录(点开跳转)

00 · 怎么用这份导论

导论覆盖的主题

本导论覆盖文档问答、推理与部署、模型原理以及多模态四个主题。课程路线列出相关章节。第 16 节进一步说明怎样结合基础、资源与目标选择学习方向。

🎯 一句话

导论的目标是让你能说清:我想解决什么问题、为什么选这条路线、第一步看哪里。 不要求你先学完所有技术,也不以“似懂非懂”作为合格标准。

🤔 为什么需要一份“导论”

RLHF、LoRA、KV Cache、投机解码、MoE、RoPE 看起来都重要,但它们处理的问题不同。把每个词都当成先修,会让入口越来越远。

本导论提供三种帮助:

  1. 定位: 这个词属于训练、推理、应用还是评测。
  2. 理解: 先用一个例子解释它解决的问题,再给术语。
  3. 选择: 当前要学哪一块,哪些可以先跳过。

注意力中断后,可以用“本页跳读”回到具体小节,也可以主动记下位置;位置记录不代表掌握进度。

🧭 它和你其他教程的关系

这份导论负责选择与理解,深挖教程负责实现和验证。以下是已有的补充入口,不要求先读完:

想深挖 去这份教程 对应本导论
Transformer 到底怎么算 机器学习与深度学习基础 02 · Transformer 原理
这些方法为什么能 work 机器学习的数学原理 15 · 数学地基
对齐那一步的完整流程 强化学习基础 04 · 训练三阶段、12 · 对齐 ⭐
怎么用模型搭出 Agent 智能体工程教程 09 · 推理范式、13 · LLMOps
推理优化的硬件底座 AI基础设施 06 · 推理优化、06d · 降延迟与指标、07 · 本地部署与生态 ⭐
RAG 里的向量检索 推荐算法 08 · RAG 最小闭环、08b · 重排与选型
模型上线之后会怎样 模型上线之后 13 · LLMOps ⭐
评测与调优的手艺 Kaggle竞赛方法论 11 · 评测体系、11b · 私有评测集
合规背后的技术手段 密码学与信息安全 14 · 合规与伦理
一手资料原文 Claude博客资料库 全书

带字母的章节是相邻主题的补充页,不都属于同一条必修顺序。请按真实章号和页面标题找入口,不把“主线第几站”误当成文件章号。

要判断什么 本导论 深挖教程
读完的结果 解释一个问题,选择下一站 实现、运行、排错或推导
代码怎么读 看清用途与输入输出,必要时运行例子 逐步动手,核对结果
页面长度 不设硬上限,按问题分段 同样不按分钟数强制拆页
卡住时 先看例子或补充入口 回到对应基础,再继续任务

📏 每章的阅读顺序

不是每页都要套同一种卡片。可以优先找这几类信息:

入口 你要得到什么
一句话 / 当前问题 现在为什么看这一节
图与例子 看哪种关系,能观察到什么
具体机制 / 公式 解释刚才的例子,按需展开
深入需要什么 / 适用边界 是否值得继续,缺什么基础
检查点与回顾 能否复述关键判断,下一步去哪
走神救援 只用短要点恢复上下文

公式看不懂时,可以先核对例子。仍然无法解释当前结论,就补这个缺口;不用把一整套数学当作入口门槛。

🧭 四条路线的后续与可选页

文档与业务知识库

主路线:08 RAG → 11 评测 → 13 LLMOps → 14 合规与伦理。

先验证系统找到了正确证据,并忠实使用它。再考虑上线监控、权限与风险。

成本、显存与内网部署

主路线:06 推理优化 → 07 本地部署 → 13 LLMOps。

模型原理

主路线:02 Transformer → 03 Tokenizer 与上下文 → 04 训练三阶段 → 05 微调与 LoRA。

02 用输入与输出建立模块概念;03 再补文字如何变成 token。如果在 02 就卡在 token,随时跳到 03 查。

02b–02f 是按问题进入的专题,不是五道必过关卡:

多模态

从10 多模态进入,先区分任务,不把“万物皆 token”当成所有模态共用同一种处理方式。

选与目标相关的一支就可以;做语音不必先学完整套扩散模型。

🗺️ 全书 35 篇内容速览

这是主题分组,不是必须自下而上的依赖树。 35 篇包括入口页 00 和选择页 16,不包括目录首页。

主题 章节与要解决的问题
导览与选择 00 使用方法;01 全景定位;16 方向选择
模型原理 02 Transformer;03 Tokenizer;04 训练;05 微调;05b 数据到验收
原理选读 02b 稳定训练;02c Decoder-only;02d MoE;02e SwiGLU;02f RoPE
推理与部署 06 推理优化;06b 解码;06c 参数实验;06d 延迟指标;07 部署;07b 开源生态
知识库 08 RAG;08b 重排;08c 评测;08d 进阶
复杂任务 09 推理范式:CoT、ReAct、测试时计算扩展
多模态 10 视觉理解;10b 图像生成;10c 语音视频;10d 图文对齐
评测、安全与运行 11 评测;11b 私有集;12 对齐;12b 越狱防御;13 LLMOps;14 合规伦理
数学工具 15 按需查阅向量、形状、概率、损失与更新

完整逐页链接都在导论目录。入口的四条路线是选择题,不是四份都要完成的作业。

⏱️ 四种读法

这一节按阅读状态分;上面的四条路线按要解决的问题分。

当前状态 下一步 核对结果
想快速选方向 01 全景,再去16 选择 能说明要学习的主题及理由
想逐步建立全貌 按主题分组读,每次只解决当前一类问题 能复述每个主题的主要问题
已有具体目标 用四条路线直接进入 完成该路线的一个观察或判断
只想查一个名词 先定位主题,再打开对应小节 能说明它在当前问题中的作用

页上的分钟数只能参考,不是任务期限。无需一天读四章,也不要求几天后必须做出最终决定。

🧩 读之前该有什么基础

不要求先写过 PyTorch、推过矩阵导数或读过论文。 用过对话产品会更容易理解例子,但不是硬门槛。

先区分三个词:

  • 模型: 输入内容后产生预测的一套参数与计算。
  • 训练: 用数据和目标调整参数。
  • 推理: 用已有参数处理一次输入,通常不在这一步更新权重。

需要补神经网络、反向传播或注意力时,去ML 基础目录的 07–08、13–14;卡在公式时按问题查15 数学地基。

⚠️ 一条重要免责

原理也有适用范围,不能只因为它在解释“为什么”就默认永远成立。

  • 数学关系:检查假设、变量与适用条件。
  • 实验数字:检查数据、基线、配置和测量日期。
  • 工具、模型、榜单与价格:使用前核对当时的一手资料。
  • 生产与合规判断:本导论只能提供问题入口,不能替代具体评估。

没有来源与条件的数字,不应拿来做采购、性能或质量承诺。

✅ 检查点

  1. 导论与深挖教程分别希望你完成什么?
  2. “说不清楚”是否应直接视为读懂了?
  3. 看一页时,怎样连接结论、例子与适用边界?
  4. 主题分组是否意味着必须按依赖顺序通读?
  5. 注意力中断后可以怎样回来?
  6. 怎样判断某个数字或结论是否仍适用?
  7. 目标路线与四种读法有什么不同?
  8. 成本/部署路线何时才需要补解码参数?
  9. 知识库路线为何不一开始就叠加所有进阶技术?
展开核对
  1. 导论帮助解释当前问题并选第一站;深挖教程帮助实现与验证。
  2. 不应;可以暂时跳过细节,但要能说明当前例子与结论。
  3. 先找它解决的问题,再看可观察例子,最后检查条件和继续入口。
  4. 不是。按读者目标进入,缺哪块再补。
  5. 用本页跳读、保存的位置或走神救援恢复,不把已读位置当成已掌握。
  6. 查假设、测量条件、日期与一手资料;不只看它是否在讲“为什么”。
  7. 前者按任务目标分路,后者按阅读状态给方法。
  8. 输出质量或解码行为需要诊断时;不是每个资源问题都要先学解码。
  9. 先在基线上定位失败,才能判断复杂改法增加的是价值还是排查成本。

本节回顾

先记住这几件事

  • 知识库、成本与部署、模型原理和多模态各有相应课程路线。
  • 专题按需补,不必先读完整个目录。
  • 选择下一步之前,说明当前结论和它的适用条件。

👉 导论覆盖的主题 | 仍想先看全景

打卡记录保存在你的浏览器里,首页能看到总进度