📑 本页目录(点开跳转)
00 · 怎么用这份教程
⏱ 28 分钟 | 🧭 读完这一章,能省下好几个小时的白读
🎯 一句话
其他板块教你把模型做好,这一套教你把它变成一个别人能用的东西。
⭐ 判断一件事属不属于这个板块,就问一句: 它是不是「模型已经好了,但少了它产品就上不了线」的那类问题?
👤 一、这套适合谁
| 你的情况 | 建议 |
|---|---|
| 模型/Agent 跑通了,但不知道怎么让别人用上 | ✅ 正中靶心 |
| 想做一个自己的 AI 小产品并真的上线 | ✅ 第 1 章两小时就有产出 |
| 是后端,被派去做 AI 功能 | ✅ 重点看 04、05、12 —— AI 应用和熟悉的 Web 应用差别主要在那三章 |
| 是算法,想搞懂工程同事在忙什么 | ✅ 读 02 章解剖 + 12 章成本护栏就够了 |
| 想训模型 / 调 prompt | ⛔ 用不上,去 大模型全景导论 或 智能体工程教程 |
需要的前置:会写 Python、知道 HTTP 请求响应大概是怎么回事。 不需要前端框架经验、Docker 经验或数据库调优经验;用到时会现场讲。
⏱ 二、要花多少时间(真实数字)
全部正文约 11.8 小时(含你正在读的这一章)。
| 段 | 章节 | 时长 | 说明 |
|---|---|---|---|
| 先上线一个 | 01–02 | 1.1 小时 | 只想尝一口就读 01 |
| 后端骨架 | 03–05 | 2.3 小时 | 核心部分 |
| 数据层 | 06–07 | 1.2 小时 | 关系库 + 向量库 |
| 用户 | 08 | 0.7 小时 | 认证与多租户隔离 |
| 前端 | 09–10 | 1.3 小时 | 不教框架,重点在 10 章接流式 |
| 异步与规模 | 11–12 | 1.5 小时 | 12 章是高风险部分 |
| 上线 | 13–16 | 3.3 小时 | 密钥 / 容器 / 可观测 / 检查单 |
⚠️ 这些数字按 170 字/分钟量出。这个板块代码多,读代码比读文字慢,实际可能更久;时间标得太少反而会让人中途弃坑。
🗺️ 三、四条读法
🚀 路线 A:我要做一个能上线的东西(推荐,约 6.5 小时)
信息关系
这条线跳过前端(09/10)和向量检索(07),先让主干跑通,再按需补上。
🔧 路线 B:我已经有个能跑的,想让它扛得住(约 4 小时)
信息关系
第 16 章的每一条都给了验证方式,可以直接当体检表用。
🎨 路线 C:后端已经会了,只缺前端那一段(约 1.5 小时)
信息关系
如果你本来就写前端,可直接从 10 章开始;09 章讲的是后端怎样做出够用的界面。
📚 路线 D:完整走一遍(12 小时)
00 → 01 → … → 17。适合从零到一做一个真产品。
🔨 想动手
👉 17 · 实战与挑战项目 —— 这个板块的验收标准不是「跑通了」,而是「别人能用」。每个项目都带一份可当场验证的验收清单;完整聊天应用要求把链接发给朋友后,对方不提问也能用起来。
📖 上线前
👉 16 · 上线前检查单 —— 照着过一遍,每条都能当场验证。
⭐ 四、贯穿全板块的一条主线
这些零件没有一个是 AI 特有的 —— 后端、数据库、认证、队列、部署, 普通 Web 应用全都要。但 AI 应用让其中四件事格外难:
| 难在哪 | 具体是什么 | 在哪几章 |
|---|---|---|
| ⭐ 流式 | 响应长且慢,不流式就没人用;而流式一开,错误处理、断连、渲染全部变复杂 | 05 · 10 |
| ⭐ 成本 | 每个请求真的花钱。一个 bug 能一夜烧掉预算 | 04 · 12 · 15 |
| 超时 | 比普通 API 慢一个量级,默认的超时/重试/连接池配置全都不适用 | 03 · 04 · 06 |
| 不确定性 | 同样输入不同输出 —— 缓存、测试、复现全变难 | 04 · 15b · 15 |
⭐ 这四条是最容易翻车的地方,后面每一章都会回扣它们。 看到某处觉得「这不就是普通后端吗」,那多半是对的 —— AI 只是让这四件事从「需要注意」变成了「主要矛盾」。
⚠️ 但别把这句话读成「普通 Web 的部分我都讲了」 —— 那不成立,而且不成立得很系统。 每个零件除了「被这四件事咬到的那一面」,还有它本来的规矩:接口该怎么划、 浏览器替你把守着哪条线、一个会被翻到第一万页的列表该怎么分页。少了它们,产品同样上不了线。
⭐ 所以本板块分两层:主编号的章讲这个零件被那四件事咬到的那一面; 带字母后缀的章补上它本来的规矩 —— 03b 接口的形状 · 03c 幂等与条件请求 · 06b 列表接口与分页 · 07b 文件上传与对象存储 · 08b 同源策略与 CORS · 08c CSRF 与 XSS · 08d OAuth2 与 OIDC · 08e JWT · 15b 怎么测不确定的系统。 💡 赶时间可以先跳过后缀章把主干跑通,回头再补 —— 路线 A 就是这么排的。
🧰 五、技术栈的立场(先说清楚,免得误会)
主栈钉死:Python + FastAPI + PostgreSQL/pgvector + 原生 JS 前端。
⚠️ 站里 智能体工程教程 16b 写过 「框架会过期而原理不会,一行 API 都不写」—— 那说的是 Agent 框架,立场是对的。 但全栈不给代码没法学。 所以这里的折中是:
| 做法 | 为什么 |
|---|---|
| ⭐ 每段代码前先讲「为什么是这个形状」 | 形状不过期,API 会。你换到别的框架,找的就是同一个形状的东西 |
| ⭐ 每章末尾一张「换个栈怎么对应」表 | 覆盖 Node 和 Go。目的不是教那两个栈,是让你看出哪些是概念、哪些只是这个框架的叫法 |
| 🗓️ 会过期的东西单独标 | 版本号、平台控制台路径 —— 尽量给「怎么自己查最新的」 |
💡 怎么用那张对应表:如果你不写 Python,先看表确认概念对得上,再回正文读原理 —— 代码当伪码看就行。
🧩 六、每章长什么样
| 元素 | 作用 | 怎么用 |
|---|---|---|
| ⏱ 时间徽章 | 决定现在要不要开始 | 只有 20 分钟就别开 45 分钟的章 |
| 🎯 一句话 | 全章压成一句 | ⭐ 只看这一句就走,是被允许的 |
| 💻 代码 | 自带 import、能复制到空文件跑 | ⚠️ 需要数据库/真实 API 的会明确标注「未实跑,因为需要 X」 |
| 🔄 换个栈怎么对应 | Node / Go 的对照 | 不写 Python 的人从这里进 |
| ✅ 检查点 | 折叠答案,只考正文讲过的 | 答不上来就回去翻 |
| 🛑 可以停在这里 | 明确的退出点 | 停在这里不算失败,是设计好的 |
| ⚡ 走神救援 | ⭐ 全章压成一段带数字 | 隔几天回来只读这一段就能接上 |
⭐ ⚠️ 和 💀 的区别:⚠️ 是坑(容易搞错),💀 是真会出事的后果(丢数据、烧钱、泄露)。
🔗 七、它在全站的位置
⭐ 四个板块接成一条完整的产品线,各管一段:
| 段 | 板块 | 管什么 |
|---|---|---|
| 模型之前 | 数据这一关 | 数据从哪来、准不准、能不能信 |
| 模型本身 | 大模型全景导论 等 | 怎么训、怎么调、怎么评 |
| ⭐ 包成产品 | 本板块 | 后端 / 流式 / 存储 / 认证 / 队列 / 部署 |
| 上线之后 | 模型上线之后 | 监控、漂移、AB、重训、归因 |
另外三条容易搞混的分界:
| 那一套 | 它管什么 | ⭐ 分界 |
|---|---|---|
| 智能体工程教程 16c | 结构化输出、流式、护栏的设计 | ⭐ 那边讲「为什么要流式、护栏怎么设计」,本板块 05/10 讲「流式的工程链路和它的坑」 |
| AI基础设施 20 | 推理引擎横评(vLLM/SGLang…) | ⭐ 那边是「推理引擎怎么选」,本板块是「应用怎么调它」 |
| 模型上线之后 15 等 | 模型指标、漂移、AB | ⭐ 本板块 15 章管「服务健不健康」,那一套管「模型准不准」。两件事,两套指标 |
🚦 现在就开始
建议:先花 34 分钟读第 1 章,跟着做。 读完你手上会有一个能把链接发给朋友的东西 —— 虽然它缺一大堆(那一章末尾列了清单, 每条都标了在第几章补)。
⭐ 那张清单就是这个板块的路线图。
下一节 👉 01-第一天-两小时上线.md
🧭 已经知道自己要什么? 直接跳: 全景解剖 → 02-一个AI产品的解剖.md | 流式 → 05-流式输出.md | 别把钱烧光 → 12-限流配额与成本护栏.md | 上线体检 → 16-上线前检查单.md
✅ 检查点
- 判断一件事属不属于这个板块,该问哪一句?
- ⭐ 贯穿全板块的那四件「AI 让它变难」的事分别是什么?
- 这个板块和《智能体工程教程 16c》的分界在哪?
- 15 章的可观测性和《模型上线之后》管的是同一件事吗?
- 为什么这里给具体代码,而 16b 章说「一行 API 都不写」?两者矛盾吗?
- 如果你不写 Python,该怎么用这套教程?
- 只想做一个能上线的东西,走哪条路线?它跳过了什么?
👀 答案
- 「它是不是『模型已经好了,但少了它产品就上不了线』的那类问题?」 是就写在这里,不是就链到对应板块。
- 流式(响应长且慢,不流式没人用,而一开流错误处理/断连/渲染全变复杂)、成本(每个请求真的花钱,一个 bug 能一夜烧掉预算)、超时(比普通 API 慢一个量级,默认的超时/重试/连接池配置全不适用)、不确定性(同样输入不同输出,缓存/测试/复现全变难)。这四条就是本板块和任何普通 Web 教程的全部差别。
- 那一章讲「为什么要流式、护栏怎么设计」(设计层面),本板块 05/10 讲「流式的工程链路和它的坑」(实现层面)。
- 不是。 本板块 15 章管「服务健不健康」(延迟、错误率、成本),那一套管「模型准不准」(漂移、指标退化、AB)。两件事,两套指标。
- 不矛盾。 16b 说的是 Agent 框架(LangChain 那类)会过期,立场正确;而全栈不给代码没法学。折中是:每段代码前先讲「为什么是这个形状」(形状不过期,API 会)+ 每章附 Node/Go 对应表(让你看出哪些是概念、哪些只是这个框架的叫法)+ 🗓️ 标注会过期的东西。
- 先看每章末尾那张「换个栈怎么对应」表确认概念对得上,再回正文读原理 —— 代码当伪码看就行。
- 路线 A:01 → 03 → 04 → 05 → 06 → 08 → 12 → 14 → 16,约 6.5 小时。跳过了前端(09/10)和向量检索(07) —— 先让主干跑通,那两块按需再补。
🛑 可以停在这里
⚡ 走神救援
⭐ 这套教程的定位一句话:其他板块教你把模型做好,这一套教你把它变成一个别人能用的东西。
判断一件事属不属于这里,就问:它是不是「模型已经好了,但少了它产品就上不了线」的那类问题。
⭐ 贯穿全板块的主线:后端、数据库、认证、队列、部署这些零件没有一个是 AI 特有的,普通 Web 应用全都要。但 AI 应用让四件事格外难——流式(响应长且慢,不流式没人用,而一开流错误处理、断连、渲染全变复杂)、成本(每个请求真的花钱,一个 bug 能一夜烧掉预算)、超时(比普通 API 慢一个量级,默认的超时、重试、连接池配置全不适用)、不确定性(同样输入不同输出,缓存、测试、复现全变难)。
⭐ 这四条就是本板块和任何一本普通 Web 教程的全部差别。 看到某处觉得「这不就是普通后端吗」——那多半是对的,真正的差别只在这四个地方,而它们恰好最容易翻车。
四条读法:想做个能上线的东西就走 01→03→04→05→06→08→12→14→16,先让主干跑通、跳过前端和向量检索;已有能跑的想让它扛住就走 02 对照查缺→11→12→15→16;只缺前端从 09 或 10 开始;完整走一遍约 12 小时。⚠️ 时长按 170 字/分钟量出,而这个板块代码多、读代码更慢,实际可能更久。
技术栈立场:主栈钉死一套并给可跑代码,但每段代码前先讲「为什么是这个形状」(形状不过期,API 会),每章末尾给一张「换个栈怎么对应」的表。
⭐ 全站位置:数据这一关(模型之前)→ 建模板块 → 本板块(包成产品)→ 模型上线之后(上线之后),四个板块接成一条产品线。