第 1 章教学材料包:扩散模型基础¶
定位:面试学习,不是工程实现课。
不要求写完整 DDPM、不要求训练模型、不要求复现论文。
要求:能推导、能解释、能比较、能用 90 秒回答,并接住两层追问。
1. 这一包材料解决什么问题¶
第 1 章对应 6 道高频题:
- D2:能不能用非高斯噪声?
- D5:推演 DDPM 公式;
- D6:GAN 和 Diffusion 的区别;
- D9:实现 DDPM 需要什么条件;
- D10:为什么加噪幅度不一致?
- A3:重参数技巧。
这 6 道题看起来分散,实际上是一条链:
生成模型全景(为什么需要 Diffusion)
↓
前向过程(怎么加噪、为什么能一步采样)
↓
反向过程(怎么去噪、DDPM 在优化什么)
↓
变体与边界(高斯是不是必须、Flow 是什么)
↓
面试表达(90 秒 + 追问)
学完这一包,你不是“背过 DDPM”,而是能站在白板前,从 \(q(x_t\mid x_{t-1})\) 一路写到采样公式,并解释每一步为什么成立。
2. 材料清单¶
| 文件 | 是什么 | 为什么需要 | 学完能做什么 |
|---|---|---|---|
| 01-生成模型全景与扩散直觉 | 概念讲义 | 先建立坐标系,避免把 Diffusion 当成孤立技巧 | 比较 GAN/VAE/Flow/Diffusion,回答“为什么扩散成为主流” |
| 02-前向过程与噪声日程 | 推导 + 数值例子 | D5 的前半段、D10 的全部、A3 的扩散用法 | 推导闭式边缘,解释 SNR 和噪声 schedule |
| 03-反向过程与DDPM损失 | 核心推导 | D5 的后半段、D9 的理论闭环 | 推导后验、ELBO、噪声预测和采样 |
| 04-扩散变体与非高斯噪声 | 边界拓展 | D2 的完整回答,D3/A11 的 Flow 铺垫 | 解释“可以换噪声,但为什么默认高斯” |
| 05-章节面试题库 | 面试演练 | 把知识压缩成 90 秒答案和追问 | 应对本章 6 题及延伸问法 |
| 06-章节练习与答案 | 纸面练习 | 用输出检查是否真的理解,不写代码 | 手算、推导、概念辨析、面试复述 |
| 07-讲师手册 | 授课脚本 | 让这节课可讲、可控制节奏 | 按 90 分钟组织课堂、板书、提问、验收 |
| 08-材料设计理由 | 设计说明 | 解释每个材料为什么存在、边界在哪 | 判断是否要增删、调整深度或换案例 |
3. 建议学习顺序¶
自学版(约 6–8 小时)¶
- 读 01,画一张生成模型对比表;
- 读 02,自己推一遍 \(q(x_t\mid x_0)\),做数值例子;
- 读 03,白板推后验和 ELBO;
- 读 04,回答“高斯是不是必须”;
- 做 06 的练习,对答案;
- 用 05 做 90 秒回答;
- 用 08 检查自己是否理解材料边界。
授课版(4 节 × 90 分钟)¶
- 第 1 节:01 + 02 前半;
- 第 2 节:02 后半 + 03 前半;
- 第 3 节:03 后半;
- 第 4 节:04 + 05 + 模拟面试。
详细节奏见 07-讲师手册。
面试前复习版(60 分钟)¶
- 看 公式速查 的 1–4 节;
- 看 05 的“核心 6 题”;
- 用 06 的“白板题”手写一遍;
- 录一段 10 分钟自述。
4. 本章不做什么¶
为了避免把学习课变成工程课,本章刻意不做:
- 不写完整 DDPM 训练/采样代码;
- 不训练 toy 模型;
- 不实现 U-Net;
- 不跑 FID;
- 不要求复现论文结果。
代码只在“帮助理解”的层面出现:例如 5 行伪代码说明训练循环,不要求运行。真正的工程实现放在可选扩展,不影响面试主线。
原因:面试考的是“你能不能解释和推导”,不是“你能不能复现”。完整代码会占用大量时间,却不一定提升面试表达。
5. 本章验收清单¶
- [ ] 能用一张表比较 GAN/VAE/Flow/Diffusion;
- [ ] 能写出 \(q(x_t\mid x_{t-1})\) 和 \(q(x_t\mid x_0)\);
- [ ] 能推导 \(q(x_{t-1}\mid x_t,x_0)\) 的均值和方差;
- [ ] 能写出 ELBO 分解并解释每一项;
- [ ] 能解释为什么预测 \(\epsilon\) 等价于学习 score;
- [ ] 能解释 \(\beta_t\)、\(\bar\alpha_t\)、SNR 的关系;
- [ ] 能说出 3 种非高斯扩散;
- [ ] 能回答“DDPM 和 VAE/Flow 的关系”;
- [ ] 能用 90 秒回答 D5、D6、D10;
- [ ] 能接住“为什么后验是高斯”“为什么 \(t=T\) 是标准高斯”等追问。
6. 对应面试题¶
| 题目 | 主材料 | 辅助材料 |
|---|---|---|
| D2 非高斯噪声 | 04 | 05、06 |
| D5 DDPM 推导 | 02、03 | 07 板书 |
| D6 GAN vs Diffusion | 01 | 05 |
| D9 实现条件 | 03 | 05 |
| D10 噪声幅度 | 02 | 06 |
| A3 重参数 | 02 | 01、03 |
7. 设计原则(先看这一句)¶
每一份材料都必须回答三个问题:面试官为什么问?学完能做什么?不学它会缺什么?
详细版见 08-材料设计理由。