Diffusion Model 学习笔记

论文链接：Denoising Diffusion Probabilistic Models。

Diffusion Model 分为两部分，前向扩散过程和后向生成过程，前向扩散过程从一张原始图像逐步加噪声变为一张纯噪声图像，后向生成过程则从随机噪声来逐步恢复出原图像。

贝叶斯公式角度

这里的符号${\mathbf{X}}_T$表示经过$\mathbf{T}$步生成的纯噪声图像，${\mathbf{X}}_0$表示原始图像，${\mathbf{Z}}_t$表示 $t$ 时刻随机采样的高斯噪声。设我们有系数${\alpha }_t$和${\beta }_t$，其中满足关系${\alpha }_t+{\beta }_t=1$，生成过程可以表示为：
$$\begin{array}{rl}{\mathbf{X}}_t& =\sqrt{{\alpha }_t}{\mathbf{X}}_{t?1}+\sqrt{1?{\alpha }_t}{\mathbf{Z}}_t\\ {\mathbf{X}}_{t?1}& =\sqrt{{\alpha }_{t?1}}{\mathbf{X}}_{t?2}+\sqrt{1?{\alpha }_{t?1}}{\mathbf{Z}}_{t?1}\\ ...& \end{array}\text{\hspace{1em}?}$$将上面的两个公式联合求解消除${\mathbf{X}}_{t?1}$：
$$\begin{array}{rl}{\mathbf{X}}_t& =\sqrt{{\alpha }_t}(\sqrt{{\alpha }_{t?1}}{\mathbf{X}}_{t?2}+\sqrt{1?{\alpha }_{t?1}}{\mathbf{Z}}_{t?1})+\sqrt{1?{\alpha }_t}{\mathbf{Z}}_t\\ & =\sqrt{{\alpha }_t{\alpha }_{t?1}}{\mathbf{X}}_{t?2}+\sqrt{{\alpha }_t(1?{\alpha }_{t?1})}{\mathbf{Z}}_{t?1}+\sqrt{1?{\alpha }_t}{\mathbf{Z}}_t\end{array}\text{\hspace{1em}?}$$其中都服从标准高斯分布，即：
$$\begin{array}{rl}\mathbf{Z}& ～\mathcal{N}(0,1)\\ \sqrt{{\alpha }_t(1?{\alpha }_{t?1})}{\mathbf{Z}}_{t?1}& ～\mathcal{N}(0,{\alpha }_t(1?{\alpha }_{t?1}))\\ \sqrt{1?{\alpha }_t}{\mathbf{Z}}_t& ～\mathcal{N}(0,1?{\alpha }_t)\end{array}\text{\hspace{1em}?}$$根据高斯分布的相加性质，有：
$$\sqrt{{\alpha }_t(1?{\alpha }_{t?1})}{\mathbf{Z}}_{t?1}+\sqrt{1?{\alpha }_t}{\mathbf{Z}}_t～\mathcal{N}(0,1?{\alpha }_t{\alpha }_{t?1})$$由此可得：
$${\mathbf{X}}_t=\sqrt{{\alpha }_t{\alpha }_{t?1}}{\mathbf{X}}_{t?2}+\sqrt{(1?{\alpha }_t{\alpha }_{t?1})}{\bar{\mathbf{Z}}}_{t?1}$$如果继续往下求解，我们可以得到：
$${\mathbf{X}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0+\sqrt{1?{\bar{\alpha }}_t}{\bar{\mathbf{Z}}}_1$$其中符号
$${\bar{\alpha }}_t=\prod _{i=1}^t{\alpha }_i$$由此可以看出，我们可以通过一步扩散能够生成任意时刻的噪声的图像，但我们的问题是如果从噪声图像恢复原始图像？能不能像上面一样一步生成，即求 $p({\mathbf{X}}_0|{\mathbf{X}}_t)$ ，答案显然是否定的，降低难度，我们能不能一步一步从噪声图像恢复到原始图像？即求 $p({\mathbf{X}}_{t?1}|{\mathbf{X}}_t)$ ，或许可以尝试一下，根据贝叶斯公式，有：
$$p({\mathbf{X}}_{t?1}|{\mathbf{X}}_t)=p({\mathbf{X}}_t|{\mathbf{X}}_{t?1})\frac{p({\mathbf{X}}_t)}{p({\mathbf{X}}_{t?1})}$$等号右边第一项我们是知道的，但分式上下的概率我们是未知的，因此我们考虑引入参数${\mathbf{X}}_0$，则等式变为：
$$p({\mathbf{X}}_{t?1}|{\mathbf{X}}_t,{\mathbf{X}}_0)=p({\mathbf{X}}_t|{\mathbf{X}}_{t?1},{\mathbf{X}}_0)\frac{p({\mathbf{X}}_t|{\mathbf{X}}_0)}{p({\mathbf{X}}_{t?1}|{\mathbf{X}}_0)}$$这个式子便可以用到上面推导的结论。其中
$$\begin{array}{rl}p({\mathbf{X}}_t|{\mathbf{X}}_{t?1},{\mathbf{X}}_0)& =\sqrt{{\alpha }_t}{\mathbf{X}}_{t?1}+\sqrt{1?{\alpha }_t}{\mathbf{Z}}_t～\mathcal{N}(\sqrt{{\alpha }_t}{\mathbf{X}}_{t?1},1?{\alpha }_t)\\ p({\mathbf{X}}_t|{\mathbf{X}}_0)& =\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0+\sqrt{1?{\bar{\alpha }}_t}\bar{\mathbf{Z}}～\mathcal{N}(\sqrt{{\bar{\alpha }}_t}{\mathbf{X}}_0,1?{\bar{\alpha }}_t)\\ p({\mathbf{X}}_{t?1}|{\mathbf{X}}_0)& =\sqrt{{\bar{\alpha }}_{t?1}}{\mathbf{X}}_0+\sqrt{1?{\bar{\alpha }}_{t?1}}\bar{\mathbf{Z}}～\mathcal{N}(\sqrt{{\bar{\alpha }}_{t?1}}{\mathbf{X}}_0,1?{\bar{\alpha }}_{t?1})\end{array}\text{\hspace{1em}?}$$根据高斯分布的表达式，既有：
p ( X t ? 1 ∣ X t , X 0 ) ∝ e x p { ? 1 2 ( ( X t ? α t X t ? 1 ) 2 1 ? α t + ( X t ? α ˉ t X 0 ) 2 1 ? α ˉ t ? ( X t ? 1 ? α ˉ t ? 1 X 0 ) 2 1 ? α ˉ t ? 1 ) } ∝ e x p { ? 1 2 ( ( α t β t + 1 1 ? α ˉ t ? 1 ) X t ? 1 2 ? ( 2 α t β t x t + 2 α ˉ t ? 1 1 ? α ˉ t ? 1 X 0 ) X t ? 1 + C ( X t , X 0 ) ) } \begin{align} p(\mathbf{X}_{t-1}|\mathbf{X}_t,\mathbf{X}_0)&\propto \mathbf{exp}\{-\frac{1}{2}\left(\frac{(\mathbf{X}_t-\sqrt{\alpha_t}\mathbf{X}_{t-1})^2}{1-\alpha_t}+\frac{(\mathbf{X}_{t}-\sqrt{\bar{\alpha}_{t}}\mathbf{X}_{0})^2}{1-\bar{\alpha}_{t}}-\frac{(\mathbf{X}_{t-1}-\sqrt{\bar{\alpha}_{t-1}}\mathbf{X}_{0})^2}{1-\bar{\alpha}_{t-1}}\right)\}\\ &\propto \mathbf{exp}\{-\frac{1}{2}\left(\left(\frac{\alpha_t}{\beta_t}+\frac{1}{1-\bar{\alpha}_{t-1}}\right)\mathbf{X}_{t-1}^2-\left(\frac{2\sqrt{\alpha_t}}{\beta_t}\mathbf{x}_t+\frac{2\sqrt{\bar{\alpha}_{t-1}}}{1-\bar{\alpha}_{t-1}}\mathbf{X}_0 \right)\mathbf{X}_{t-1}+\mathbf{C}(\mathbf{X}_t,\mathbf{X}_0) \right)\} \end{align} p(Xt?1?∣Xt?,X0?)?∝exp{?21?(1?αt?(Xt??αt? ?Xt?1?)2?+1?αˉt?(Xt??αˉt? ?X0?)2??1?αˉt?1?(Xt?1??αˉt?1? ?X0?)2?)}∝exp{?21?((βt?αt??+1?αˉt?1?1?)Xt?12??(βt?2αt? ??xt?+1?αˉt?1?2αˉt?1? ??X0?)Xt?1?+C(Xt?,X0?))}??高斯分布的的指数项为：
e x p { ? 1 2 ( 1 σ 2 x 2 ? 2 μ σ 2 x + μ 2 σ 2 ) } ， \mathbf{exp}\{-\frac{1}{2}\left( \frac{1}{\sigma_2}x^2-\frac{2\mu}{\sigma^2}x+\frac{\mu^2}{\sigma^2}\right)\}， exp{?21?(σ2?1?x2?σ22μ?x+σ2μ2?)}，由此可以反解出对应的均值和方差，方差 $\sigma$ 中的参数都是已知的，但均值 $\mu$ 跟 ${\mathbf{X}}_0$ 和 ${\mathbf{X}}_t$ 有关系，但图 ${\mathbf{X}}_0$ 正是我们需要求解的，因此我们用一步扩散公式使用${\mathbf{X}}_t$代替${\mathbf{X}}_0$，反解得到：
$$\begin{array}{rl}{\sigma }^2& =\frac{1}{\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1?{\bar{\alpha }}_{t?1}}}\\ \mu & =\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{X}}_t?\frac{{\beta }_t}{\sqrt{1?{\bar{\alpha }}_t}}{\bar{\mathbf{Z}}}_t)\end{array}\text{\hspace{1em}?}$$
现在均值和方差中只有参数 ${\bar{Z}}_t$ 是未知的，因此我们需要用神经网络来进行预测。下面是算法伪代码：

仔细看伪代码，训练过程中学的是什么？学习的就是从原始图像 ${\mathbf{X}}_0$ 一步扩散得到第 $t$ 时刻加噪声图像所加的噪声 ${\bar{\mathbf{Z}}}_t$。