跳转至

第 1 章教学材料包:扩散模型基础

定位:面试学习,不是工程实现课。
不要求写完整 DDPM、不要求训练模型、不要求复现论文。
要求:能推导、能解释、能比较、能用 90 秒回答,并接住两层追问。


1. 这一包材料解决什么问题

第 1 章对应 6 道高频题:

  • D2:能不能用非高斯噪声?
  • D5:推演 DDPM 公式;
  • D6:GAN 和 Diffusion 的区别;
  • D9:实现 DDPM 需要什么条件;
  • D10:为什么加噪幅度不一致?
  • A3:重参数技巧。

这 6 道题看起来分散,实际上是一条链:

生成模型全景(为什么需要 Diffusion)
        ↓
前向过程(怎么加噪、为什么能一步采样)
        ↓
反向过程(怎么去噪、DDPM 在优化什么)
        ↓
变体与边界(高斯是不是必须、Flow 是什么)
        ↓
面试表达(90 秒 + 追问)

学完这一包,你不是“背过 DDPM”,而是能站在白板前,从 \(q(x_t\mid x_{t-1})\) 一路写到采样公式,并解释每一步为什么成立。


2. 材料清单

文件 是什么 为什么需要 学完能做什么
01-生成模型全景与扩散直觉 概念讲义 先建立坐标系,避免把 Diffusion 当成孤立技巧 比较 GAN/VAE/Flow/Diffusion,回答“为什么扩散成为主流”
02-前向过程与噪声日程 推导 + 数值例子 D5 的前半段、D10 的全部、A3 的扩散用法 推导闭式边缘,解释 SNR 和噪声 schedule
03-反向过程与DDPM损失 核心推导 D5 的后半段、D9 的理论闭环 推导后验、ELBO、噪声预测和采样
04-扩散变体与非高斯噪声 边界拓展 D2 的完整回答,D3/A11 的 Flow 铺垫 解释“可以换噪声,但为什么默认高斯”
05-章节面试题库 面试演练 把知识压缩成 90 秒答案和追问 应对本章 6 题及延伸问法
06-章节练习与答案 纸面练习 用输出检查是否真的理解,不写代码 手算、推导、概念辨析、面试复述
07-讲师手册 授课脚本 让这节课可讲、可控制节奏 按 90 分钟组织课堂、板书、提问、验收
08-材料设计理由 设计说明 解释每个材料为什么存在、边界在哪 判断是否要增删、调整深度或换案例

3. 建议学习顺序

自学版(约 6–8 小时)

  1. 读 01,画一张生成模型对比表;
  2. 读 02,自己推一遍 \(q(x_t\mid x_0)\),做数值例子;
  3. 读 03,白板推后验和 ELBO;
  4. 读 04,回答“高斯是不是必须”;
  5. 做 06 的练习,对答案;
  6. 用 05 做 90 秒回答;
  7. 用 08 检查自己是否理解材料边界。

授课版(4 节 × 90 分钟)

  • 第 1 节:01 + 02 前半;
  • 第 2 节:02 后半 + 03 前半;
  • 第 3 节:03 后半;
  • 第 4 节:04 + 05 + 模拟面试。

详细节奏见 07-讲师手册。

面试前复习版(60 分钟)

  1. 看 公式速查 的 1–4 节;
  2. 看 05 的“核心 6 题”;
  3. 用 06 的“白板题”手写一遍;
  4. 录一段 10 分钟自述。

4. 本章不做什么

为了避免把学习课变成工程课,本章刻意不做:

  • 不写完整 DDPM 训练/采样代码;
  • 不训练 toy 模型;
  • 不实现 U-Net;
  • 不跑 FID;
  • 不要求复现论文结果。

代码只在“帮助理解”的层面出现:例如 5 行伪代码说明训练循环,不要求运行。真正的工程实现放在可选扩展,不影响面试主线。

原因:面试考的是“你能不能解释和推导”,不是“你能不能复现”。完整代码会占用大量时间,却不一定提升面试表达。


5. 本章验收清单

  • [ ] 能用一张表比较 GAN/VAE/Flow/Diffusion;
  • [ ] 能写出 \(q(x_t\mid x_{t-1})\) 和 \(q(x_t\mid x_0)\);
  • [ ] 能推导 \(q(x_{t-1}\mid x_t,x_0)\) 的均值和方差;
  • [ ] 能写出 ELBO 分解并解释每一项;
  • [ ] 能解释为什么预测 \(\epsilon\) 等价于学习 score;
  • [ ] 能解释 \(\beta_t\)、\(\bar\alpha_t\)、SNR 的关系;
  • [ ] 能说出 3 种非高斯扩散;
  • [ ] 能回答“DDPM 和 VAE/Flow 的关系”;
  • [ ] 能用 90 秒回答 D5、D6、D10;
  • [ ] 能接住“为什么后验是高斯”“为什么 \(t=T\) 是标准高斯”等追问。

6. 对应面试题

题目 主材料 辅助材料
D2 非高斯噪声 04 05、06
D5 DDPM 推导 02、03 07 板书
D6 GAN vs Diffusion 01 05
D9 实现条件 03 05
D10 噪声幅度 02 06
A3 重参数 02 01、03

7. 设计原则(先看这一句)

每一份材料都必须回答三个问题:面试官为什么问?学完能做什么?不学它会缺什么?

详细版见 08-材料设计理由。