🏠 总目录📚 本教程 00 · 怎么用这份教程
📑 本页目录(点开跳转)

00 · 怎么用这份教程

28 分钟 | 🧭 读完这一章,能省下好几个小时的白读


🎯 一句话

其他板块教你把模型做好,这一套教你把它变成一个别人能用的东西。

⭐ 判断一件事属不属于这个板块,就问一句: 它是不是「模型已经好了,但少了它产品就上不了线」的那类问题?


👤 一、这套适合谁

你的情况 建议
模型/Agent 跑通了,但不知道怎么让别人用上 正中靶心
想做一个自己的 AI 小产品并真的上线 第 1 章两小时就有产出
是后端,被派去做 AI 功能 ✅ ⭐ 重点看 04、05、12 —— AI 应用和你熟悉的 Web 应用差别全在那三章
是算法,想搞懂工程同事在忙什么 ✅ 读 02 章解剖 + 12 章成本护栏就够了
想训模型 / 调 prompt ⛔ 用不上,去 大模型全景导论智能体工程教程

需要的前置:会写 Python、知道 HTTP 请求响应大概是怎么回事。 ⭐ 不需要:前端框架经验、Docker 经验、数据库调优经验 —— 这些用到的部分都会现场讲。


⏱ 二、要花多少时间(真实数字)

全部正文约 11.8 小时(含你正在读的这一章)。

章节 时长 说明
先上线一个 01–02 1.1 小时 只想尝一口就读 01
后端骨架 03–05 2.3 小时 ⭐⭐ 核心中的核心
数据层 06–07 1.2 小时 关系库 + 向量库
用户 08 0.7 小时 认证与多租户隔离
前端 09–10 1.3 小时 ⭐ 不教框架,重点在 10 章接流式
异步与规模 11–12 1.5 小时 ⭐⭐ 12 章可能是全板块最值钱的一章
上线 13–16 3.3 小时 密钥 / 容器 / 可观测 / 检查单

⚠️ 这些数字是按 170 字/分钟量出来的。这个板块代码多,读代码比读文字慢, 所以实际可能更久 —— 标少了比不标更糟,你会中途弃坑而且从此不信这个数。


🗺️ 三、四条读法

🚀 路线 A:我要做一个能上线的东西(推荐,约 6.5 小时)

01 两小时上线 → 03 后端骨架 → 04 调用层 → 05 流式输出
   → 06 数据库 → 08 认证与多租户 → 12 成本护栏 ⭐⭐ → 14 部署 → 16 检查单

⭐ 这条线跳过了前端(09/10)和向量检索(07)——先让主干跑通,那两块按需再补。

🔧 路线 B:我已经有个能跑的,想让它扛得住(约 4 小时)

02 解剖(对照查缺)→ 11 长任务与队列 → 12 成本护栏 ⭐⭐
   → 15 可观测性 → 16 上线前检查单

第 16 章的每一条都给了「怎么验证」,可以直接当体检表用。

🎨 路线 C:后端已经会了,只缺前端那一段(约 1.5 小时)

09 最小可用前端 → 10 把流式接到界面上 ⭐⭐

⭐ 如果你本来就写前端,直接从 10 章开始 —— 09 章讲的是「后端怎么做出不丢人的界面」。

📚 路线 D:完整走一遍(12 小时)

00 → 01 → … → 17。适合从零到一做一个真产品。

🔨 想动手

👉 17 · 实战与挑战项目 —— ⭐ 这个板块的验收标准和别的板块不同: 不是「跑通了」,是「别人能用」。每个项目都带一份能当场验证的验收清单, 其中项目 ①(完整聊天应用)那条最狠:把链接发给一个朋友,他不问你任何问题就能用起来。

📖 上线前

👉 16 · 上线前检查单 —— 照着过一遍,每条都能当场验证


⭐⭐ 四、贯穿全板块的一条主线

这些零件没有一个是 AI 特有的 —— 后端、数据库、认证、队列、部署, 普通 Web 应用全都要。但 AI 应用让其中四件事格外难:

难在哪 具体是什么 在哪几章
流式 响应长且慢,不流式就没人用;而流式一开,错误处理、断连、渲染全部变复杂 05 · 10
⭐⭐ 成本 每个请求真的花钱。一个 bug 能一夜烧掉预算 04 · 12 · 15
超时 比普通 API 慢一个量级,默认的超时/重试/连接池配置全都不适用 03 · 04 · 06
不确定性 同样输入不同输出 —— 缓存、测试、复现全变难 04 · 15b · 15

⭐⭐ 这四条是最容易翻车的地方,后面每一章都会回扣它们。 看到某处觉得「这不就是普通后端吗」,那多半是对的 —— AI 只是让这四件事从「需要注意」变成了「主要矛盾」

⚠️ 但别把这句话读成「普通 Web 的部分我都讲了」 —— 那不成立,而且不成立得很系统。 每个零件除了「被这四件事咬到的那一面」,还有它本来的规矩:接口该怎么划、 浏览器替你把守着哪条线、一个会被翻到第一万页的列表该怎么分页。少了它们,产品同样上不了线。

所以本板块分两层主编号的章讲这个零件被那四件事咬到的那一面; 带字母后缀的章补上它本来的规矩 —— 03b 接口的形状 · 03c 幂等与条件请求 · 06b 列表接口与分页 · 07b 文件上传与对象存储 · 08b 同源策略与 CORS · 08c CSRF 与 XSS · 08d OAuth2 与 OIDC · 08e JWT · 15b 怎么测不确定的系统。 💡 赶时间可以先跳过后缀章把主干跑通,回头再补 —— 路线 A 就是这么排的。


🧰 五、技术栈的立场(先说清楚,免得误会)

主栈钉死:Python + FastAPI + PostgreSQL/pgvector + 原生 JS 前端。

⚠️ 站里 智能体工程教程 16b 写过 「框架会过期而原理不会,一行 API 都不写」—— 那说的是 Agent 框架,立场是对的。 但全栈不给代码没法学。 所以这里的折中是:

做法 为什么
每段代码前先讲「为什么是这个形状」 形状不过期,API 会。你换到别的框架,找的就是同一个形状的东西
每章末尾一张「换个栈怎么对应」表 覆盖 Node 和 Go。目的不是教那两个栈,是让你看出哪些是概念、哪些只是这个框架的叫法
🗓️ 会过期的东西单独标 版本号、平台控制台路径 —— 尽量给「怎么自己查最新的」

💡 怎么用那张对应表:如果你不写 Python,先看表确认概念对得上,再回正文读原理 —— 代码当伪码看就行。


🧩 六、每章长什么样

元素 作用 怎么用
时间徽章 决定现在要不要开始 只有 20 分钟就别开 45 分钟的章
🎯 一句话 全章压成一句 只看这一句就走,是被允许的
💻 代码 自带 import、能复制到空文件跑 ⚠️ 需要数据库/真实 API 的会明确标注「未实跑,因为需要 X」
🔄 换个栈怎么对应 Node / Go 的对照 不写 Python 的人从这里进
检查点 折叠答案,只考正文讲过的 答不上来就回去翻
🛑 可以停在这里 明确的退出点 停在这里不算失败,是设计好的
走神救援 ⭐ 全章压成一段带数字 隔几天回来只读这一段就能接上

⚠️ 和 💀 的区别:⚠️ 是坑(容易搞错),💀 是真会出事的后果(丢数据、烧钱、泄露)。


🔗 七、它在全站的位置

⭐⭐ 四个板块接成一条完整的产品线,各管一段:

板块 管什么
模型之前 数据这一关 数据从哪来、准不准、能不能信
模型本身 大模型全景导论 怎么训、怎么调、怎么评
包成产品 本板块 后端 / 流式 / 存储 / 认证 / 队列 / 部署
上线之后 模型上线之后 监控、漂移、AB、重训、归因

另外三条容易搞混的分界

那一套 它管什么 ⭐ 分界
智能体工程教程 16c 结构化输出、流式、护栏的设计 ⭐ 那边讲「为什么要流式、护栏怎么设计」,本板块 05/10 讲「流式的工程链路和它的坑
AI基础设施 20 推理引擎横评(vLLM/SGLang…) ⭐ 那边是「推理引擎怎么选」,本板块是「应用怎么调它
模型上线之后 15 模型指标、漂移、AB ⭐⭐ 本板块 15 章管「服务健不健康」,那一套管「模型准不准」。两件事,两套指标

🚦 现在就开始

建议:先花 34 分钟读第 1 章,跟着做。 读完你手上会有一个能把链接发给朋友的东西 —— 虽然它缺一大堆(那一章末尾列了清单, 每条都标了在第几章补)。

那张清单就是这个板块的路线图。

下一节 👉 01-第一天-两小时上线.md

🧭 已经知道自己要什么? 直接跳: 全景解剖 → 02-一个AI产品的解剖.md | 流式 → 05-流式输出.md | 别把钱烧光 → 12-限流配额与成本护栏.md | 上线体检 → 16-上线前检查单.md


✅ 检查点

  1. 判断一件事属不属于这个板块,该问哪一句?
  2. ⭐ 贯穿全板块的那四件「AI 让它变难」的事分别是什么?
  3. 这个板块和《智能体工程教程 16c》的分界在哪?
  4. 15 章的可观测性和《模型上线之后》管的是同一件事吗?
  5. 为什么这里给具体代码,而 16b 章说「一行 API 都不写」?两者矛盾吗?
  6. 如果你不写 Python,该怎么用这套教程?
  7. 只想做一个能上线的东西,走哪条路线?它跳过了什么?
👀 答案
  1. 「它是不是『模型已经好了,但少了它产品就上不了线』的那类问题?」 是就写在这里,不是就链到对应板块。
  2. ⭐⭐ 流式(响应长且慢,不流式没人用,而一开流错误处理/断连/渲染全变复杂)、成本每个请求真的花钱,一个 bug 能一夜烧掉预算)、超时(比普通 API 慢一个量级,默认的超时/重试/连接池配置全不适用)、不确定性(同样输入不同输出,缓存/测试/复现全变难)。这四条就是本板块和任何普通 Web 教程的全部差别。
  3. ⭐ 那一章讲「为什么要流式、护栏怎么设计」(设计层面),本板块 05/10 讲「流式的工程链路和它的坑」(实现层面)。
  4. 不是。 ⭐⭐ 本板块 15 章管「服务健不健康」(延迟、错误率、成本),那一套管「模型准不准」(漂移、指标退化、AB)。两件事,两套指标。
  5. 不矛盾。 16b 说的是 Agent 框架(LangChain 那类)会过期,立场正确;而全栈不给代码没法学。⭐ 折中是:每段代码前先讲「为什么是这个形状」(形状不过期,API 会)+ 每章附 Node/Go 对应表(让你看出哪些是概念、哪些只是这个框架的叫法)+ 🗓️ 标注会过期的东西。
  6. 先看每章末尾那张「换个栈怎么对应」表确认概念对得上,再回正文读原理 —— 代码当伪码看就行。
  7. 路线 A:01 → 03 → 04 → 05 → 06 → 08 → 12 → 14 → 16,约 6.5 小时。跳过了前端(09/10)和向量检索(07) —— 先让主干跑通,那两块按需再补。

🛑 可以停在这里

走神救援

这套教程的定位一句话:其他板块教你把模型做好,这一套教你把它变成一个别人能用的东西。 判断一件事属不属于这里,就问「它是不是『模型已经好了,但少了它产品就上不了线』的那类问题」。全部正文约 11.8 小时(含本章),分七段:先上线(01–02,1.1h)、⭐⭐后端骨架(03–05,2.3h,核心中的核心)、数据层(06–07,1.2h)、用户(08,0.7h)、前端(09–10,1.3h)、异步与规模(11–12,1.5h)、上线(13–16,3.3h)。⚠️ 这些数字按 170 字/分钟量出来,而这个板块代码多、读代码比读文字慢,实际可能更久 —— 标少了比不标更糟四条读法:⭐ 路线 A(推荐) 我要做个能上线的东西:01→03→04→05→06→08→12 成本护栏→14→16,约 6.5 小时,跳过前端和向量检索先让主干跑通;路线 B 已有能跑的想让它扛住:02 对照查缺→11→12→15→16,⭐ 第 16 章每条都给了「怎么验证」可直接当体检表;路线 C 只缺前端:09→10(⭐ 本来就写前端的直接从 10 章开始);路线 D 完整走一遍 12 小时。⭐⭐ 贯穿全板块的主线:这些零件(后端、数据库、认证、队列、部署)没有一个是 AI 特有的,普通 Web 应用全都要 —— 但 AI 应用让四件事格外难:⭐流式(响应长且慢,不流式没人用,而一开流错误处理/断连/渲染全变复杂,见 05/10)、⭐⭐成本每个请求真的花钱,一个 bug 能一夜烧掉预算,见 04/12/15)、超时(比普通 API 慢一个量级,默认的超时/重试/连接池配置全不适用,见 03/04/06)、不确定性(同样输入不同输出,缓存/测试/复现全变难,见 04/15)。这四条就是本板块和任何一本普通 Web 教程的全部差别 —— 看到某处觉得「这不就是普通后端吗」,那多半是对的,真正的差别只在这四个地方,而它们恰好最容易翻车技术栈立场:主栈钉死 Python/FastAPI/Postgres+pgvector/原生 JS。⚠️ 站里 16b 章写过「框架会过期而原理不会,一行 API 都不写」—— 那说的是 Agent 框架,立场对;但全栈不给代码没法学,所以折中是 ⭐ 每段代码前先讲「为什么是这个形状」形状不过期,API 会)、⭐ 每章末尾一张「换个栈怎么对应」表(覆盖 Node/Go,目的不是教那两个栈,是让你看出哪些是概念、哪些只是这个框架的叫法)、🗓️ 标注会过期的东西。💡 不写 Python 的人:先看那张表确认概念对得上,再回正文读原理,代码当伪码看。全站位置:⭐⭐ 四个板块接成一条产品线 —— 数据这一关(模型之前)→ 建模板块 → 本板块(包成产品)→ 模型上线之后(上线之后)。三条容易混的分界:智能体 16c 讲流式/护栏的设计、本板块 05/10 讲工程链路和坑AI基础设施 20 是「推理引擎怎么选」、本板块是「应用怎么调它」;⭐⭐ 本板块 15 章管「服务健不健康」、《模型上线之后》管「模型准不准」——两件事,两套指标建议先花 34 分钟读第 1 章跟着做,读完手上就有一个能把链接发给朋友的东西;⭐ 那一章末尾列的「这一版缺什么、在第几章补」就是整个板块的路线图。

打卡记录保存在你的浏览器里,首页能看到总进度