扩散与流匹配

前置

• 连续时间扩散
• 流匹配

时间方向与记号

扩散和流匹配通常采用相反的时间方向。为避免负号混淆，本篇始终使用：

• $\tau \in [0,1]$：扩散时间，从数据走向噪声；
• $t=1-\tau$：流匹配时间，从噪声走向数据。

设扩散的线性高斯边缘重参数化为

$${\mathbf{y}}_{\tau }={\alpha }_{\tau }{\mathbf{x}}_1+{\sigma }_{\tau }\mathbf{ϵ},\mathbf{ϵ}\sim \mathcal{N}(0,I),{\mathbf{x}}_1\sim q,\text{\hspace{1em}(1)}$$

其中通常

$${\alpha }_0=1,{\sigma }_0=0,{\alpha }_1\approx 0,{\sigma }_1\approx 1.$$

记扩散边缘密度为 $q_{\tau }$，score 为

$$s_{\tau }(\mathbf{y})={\nabla }_{\mathbf{y}}\log q_{\tau }(\mathbf{y}).$$

流匹配边缘定义为

$$p_t=q_{1-t}.\text{\hspace{1em}(2)}$$

从扩散到流匹配

条件流路径

将式 (1) 反转时间。给定数据端点 ${\mathbf{x}}_1$，取

$${\mathbf{x}}_t={\alpha }_{1-t}{\mathbf{x}}_1+{\sigma }_{1-t}\mathbf{ϵ}.\text{\hspace{1em}(3)}$$

因此从参考变量 $\mathbf{ϵ}$ 出发的条件流映射是

$${\varphi }_t(\mathbf{ϵ}\mid {\mathbf{x}}_1)={\alpha }_{1-t}{\mathbf{x}}_1+{\sigma }_{1-t}\mathbf{ϵ}.\text{\hspace{1em}(4)}$$

若 ${\alpha }_1=0,{\sigma }_1=1$，则 $t=0$ 的边缘正好是标准高斯；若只是近似满足，流的源分布也只是近似标准高斯。若
${\sigma }_0=0$，映射在 $t=1$ 退化到数据点，以下含
$1/{\sigma }_{1-t}$ 的公式应在 $t<1$ 使用并在端点取极限；实践中也可保留正的最小方差。

对式 (4) 求导，并用

$$\mathbf{ϵ}=\frac{\mathbf{x}-{\alpha }_{1-t}{\mathbf{x}}_1}{{\sigma }_{1-t}},$$

得到条件速度

$$\begin{array}{rl}{u}_t(\mathbf{x}\mid {\mathbf{x}}_1)=& \frac{\mathrm{d}{\alpha }_{1-t}}{\mathrm{d}t}{\mathbf{x}}_1\\ & +\frac{\frac{\mathrm{d}{\sigma }_{1-t}}{\mathrm{d}t}}{{\sigma }_{1-t}}(\mathbf{x}-{\alpha }_{1-t}{\mathbf{x}}_1).\end{array}\text{\hspace{1em}(5)}$$

若圆点表示对扩散时间 $\tau$ 求导，则

$$u_t(\mathbf{x}\mid {\mathbf{x}}_1)=-{\dot{\alpha }}_{1-t}{\mathbf{x}}_1-\frac{{\dot{\sigma }}_{1-t}}{{\sigma }_{1-t}}(\mathbf{x}-{\alpha }_{1-t}{\mathbf{x}}_1).\text{\hspace{1em}(6)}$$

对 VE 扩散，${\alpha }_{\tau }\equiv 1$，所以

$$u_t(\mathbf{x}\mid {\mathbf{x}}_1)=-\frac{{\dot{\sigma }}_{1-t}}{{\sigma }_{1-t}}(\mathbf{x}-{\mathbf{x}}_1),\text{\hspace{1em}(7)}$$

与高斯条件流的标准构造一致 (Lipman et al., 2022)。

线性 SDE 与概率流 ODE

设式 (1) 的边缘由线性 SDE 产生：

$$\mathrm{d}{\mathbf{y}}_{\tau }=f_{\tau }{\mathbf{y}}_{\tau }\mathrm{d}\tau +g_{\tau }\mathrm{d}{\mathbf{W}}_{\tau }.\text{\hspace{1em}(8)}$$

在 ${\alpha }_{\tau }>0$ 的区间内，比较条件均值可得

$$f_{\tau }=\frac{{\dot{\alpha }}_{\tau }}{{\alpha }_{\tau }}.\text{\hspace{1em}(9)}$$

方差满足

$$\frac{\mathrm{d}}{\mathrm{d}\tau }{\sigma }_{\tau }^2=2f_{\tau }{\sigma }_{\tau }^2+g_{\tau }^2,$$

因而

$$\begin{array}{rl}{g}_{\tau }^2& =\frac{\mathrm{d}}{\mathrm{d}\tau }{\sigma }_{\tau }^2-2\frac{{\dot{\alpha }}_{\tau }}{{\alpha }_{\tau }}{\sigma }_{\tau }^2\\ & ={\alpha }_{\tau }^2\frac{\mathrm{d}}{\mathrm{d}\tau }\left(\frac{{\sigma }_{\tau }^2}{{\alpha }_{\tau }^2}\right)\\ & =2{\sigma }_{\tau }\left({\dot{\sigma }}_{\tau }-{\sigma }_{\tau }\frac{{\dot{\alpha }}_{\tau }}{{\alpha }_{\tau }}\right).\end{array}\text{\hspace{1em}(10)}$$

等价地，当 ${\sigma }_0=0$ 时，

$${\sigma }_{\tau }^2={\alpha }_{\tau }^2{\int }_0^{\tau }\frac{g_s^2}{{\alpha }_s^2}\mathrm{d}s.\text{\hspace{1em}(11)}$$

该扩散的正向概率流 ODE 为

$$\frac{\mathrm{d}{\mathbf{y}}_{\tau }}{\mathrm{d}\tau }=w_{\tau }({\mathbf{y}}_{\tau }):=f_{\tau }{\mathbf{y}}_{\tau }-\frac{1}{2}{g}_{\tau }^2{s}_{\tau }({\mathbf{y}}_{\tau }).\text{\hspace{1em}(12)}$$

它与正向 SDE 共享每个单独时刻的边缘 $q_{\tau }$。

令 ${\mathbf{x}}_t={\mathbf{y}}_{1-t}$。时间反转带来一个负号：

$$\boxed{v_t(\mathbf{x})=-w_{1-t}(\mathbf{x})=-f_{1-t}\mathbf{x}+\frac{1}{2}{g}_{1-t}^2{s}_{1-t}(\mathbf{x})}.\text{\hspace{1em}(13)}$$

对应的反向时间 SDE（用递增的 $t$ 表示）为

$$\mathrm{d}{\mathbf{x}}_t=\left[-f_{1-t}{\mathbf{x}}_t+g_{1-t}^2{s}_{1-t}({\mathbf{x}}_t)\right]\mathrm{d}t+g_{1-t}\mathrm{d}{\overline{\mathbf{W}}}_t,\text{\hspace{1em}(14)}$$

而式 (13) 中 score 系数为其一半。式 (13) 的 ODE、式 (14) 的反向 SDE 与式 (2) 的反向边缘序列一致，但它们并不是同一个随机过程。

条件速度、score 与边缘速度的一致性

定义扩散后验均值

$$m_{\tau }(\mathbf{y}):=\mathbb{E}[{\mathbf{x}}_1\mid {\mathbf{y}}_{\tau }=\mathbf{y}].$$

高斯条件核的 score 恒等式给出

$$\begin{array}{rl}{s}_{\tau }(\mathbf{y})& =\mathbb{E}\left[{\nabla }_{\mathbf{y}}\log \mathcal{N}(\mathbf{y};{\alpha }_{\tau }{\mathbf{x}}_1,{\sigma }_{\tau }^{2}I)\mid {\mathbf{y}}_{\tau }=\mathbf{y}\right]\\ & =-\frac{\mathbf{y}-{\alpha }_{\tau }{m}_{\tau }(\mathbf{y})}{{\sigma }_{\tau }^2}.\end{array}\text{\hspace{1em}(15)}$$

在流时刻 $t$，对式 (6) 关于后验
$p_t({\mathbf{x}}_1\mid \mathbf{x})$ 求平均：

$$\begin{array}{rl}\mathbb{E}[u_t(\mathbf{x}\mid {\mathbf{x}}_1)\mid {\mathbf{x}}_t=\mathbf{x}]=& -{\dot{\alpha }}_{1-t}{m}_{1-t}(\mathbf{x})\\ & -\frac{{\dot{\sigma }}_{1-t}}{{\sigma }_{1-t}}(\mathbf{x}-{\alpha }_{1-t}{m}_{1-t}(\mathbf{x})).\end{array}\text{\hspace{1em}(16)}$$

利用式 (15) 消去 $m_{1-t}$，再用式 (9)–(10)，可得

$$\mathbb{E}[u_t(\mathbf{x}\mid {\mathbf{x}}_1)\mid {\mathbf{x}}_t=\mathbf{x}]=-f_{1-t}\mathbf{x}+\frac{1}{2}{g}_{1-t}^2{s}_{1-t}(\mathbf{x}),\text{\hspace{1em}(17)}$$

恰好是式 (13) 的反向概率流速度。因此在密度、可积性和交换条件期望所需的正则性成立时，扩散条件路径的 CFM 边缘场与反向概率流 ODE 一致。

从流匹配到扩散

由流 schedule 构造扩散

反过来，设流匹配采用单边线性高斯条件路径

$${\mathbf{x}}_t=a_t{\mathbf{x}}_1+b_t\mathbf{ϵ},\mathbf{ϵ}\sim \mathcal{N}(0,I),\text{\hspace{1em}(18)}$$

其中理想端点为

$$a_0=0,b_0=1,a_1=1,b_1=0.$$

若 $b_1={\sigma }_{\min }>0$，则流终点是数据分布的高斯平滑，而不是精确的 $q$。

定义扩散 schedule

$${\alpha }_{\tau }=a_{1-\tau },{\sigma }_{\tau }=b_{1-\tau }.\text{\hspace{1em}(19)}$$

在 ${\alpha }_{\tau }>0$ 的内部区间，定义

$$f_{\tau }:=\frac{{\dot{\alpha }}_{\tau }}{{\alpha }_{\tau }}$$

并由式 (10) 计算

$$g_{\tau }^2={\alpha }_{\tau }^2\frac{\mathrm{d}}{\mathrm{d}\tau }\left(\frac{{\sigma }_{\tau }^2}{{\alpha }_{\tau }^2}\right)\text{\hspace{1em}(20)}$$

。若 $g_{\tau }^2\ge 0$，并且 $f$ 局部可积、$g$ 局部平方可积（或满足更强的
常用 SDE 存在条件），则每个不接触奇异端点的紧子区间上存在形如式 (8) 的
实系数线性扩散，其单时刻边缘满足

$$q_{\tau }=p_{1-\tau }.\text{\hspace{1em}(21)}$$

若式 (20) 在某处为负，则该 schedule 不能由所假设的标量噪声线性 SDE
实现；所以并非任意高斯插值都自动对应一个扩散过程。理想端点
${\alpha }_1=0$ 常使 $f_{\tau }$ 或 $g_{\tau }$ 在 $\tau \uparrow 1$ 时奇异，此时通常
只能断言 SDE 在 $[0,1)$ 上存在，而边缘分布在终点具有式 (21) 指定的极限；
不能无条件声称闭区间上存在常规系数的 SDE。含 ${\alpha }_{\tau }^{-1}$ 的公式均
按内部极限理解。

速度与 score 的互相转换

以下直接在流时间 $t$ 工作。令

$$m_t(\mathbf{x}):=\mathbb{E}[{\mathbf{x}}_1\mid {\mathbf{x}}_t=\mathbf{x}].$$

式 (18) 的条件速度为

$$u_t(\mathbf{x}\mid {\mathbf{x}}_1)={\dot{a}}_t{\mathbf{x}}_1+\frac{{\dot{b}}_t}{b_t}(\mathbf{x}-a_t{\mathbf{x}}_1).\text{\hspace{1em}(22)}$$

后验平均后，

$$v_t(\mathbf{x})={\dot{a}}_t{m}_t(\mathbf{x})+\frac{{\dot{b}}_t}{b_t}(\mathbf{x}-a_t{m}_t(\mathbf{x})).\text{\hspace{1em}(23)}$$

另一方面，式 (15) 在流记号下成为

$$s_t(\mathbf{x}):={\nabla }_{\mathbf{x}}\log p_t(\mathbf{x})=-\frac{\mathbf{x}-a_t{m}_t(\mathbf{x})}{b_t^2}.\text{\hspace{1em}(24)}$$

当 $a_t,b_t>0$ 时，

$$m_t(\mathbf{x})=\frac{\mathbf{x}+b_t^2{s}_t(\mathbf{x})}{a_t}.\text{\hspace{1em}(25)}$$

把式 (25) 代入式 (23)，得到速度的 score 表示：

$$\boxed{v_t(\mathbf{x})=\frac{{\dot{a}}_t}{a_t}\mathbf{x}-b_t\left({\dot{b}}_t-b_t\frac{{\dot{a}}_t}{a_t}\right)s_t(\mathbf{x})}.\text{\hspace{1em}(26)}$$

定义 Wronskian 型系数

$$D_t:=a_t{\dot{b}}_t-b_t{\dot{a}}_t.$$

若 $b_t{D}_t\ne 0$，从式 (26) 反解得

$$\boxed{s_t(\mathbf{x})=\frac{a_t{v}_t(\mathbf{x})-{\dot{a}}_t\mathbf{x}}{-b_t{D}_t}}.\text{\hspace{1em}(27)}$$

这也可由扩散概率流 ODE 经 $t=1-\tau$ 直接得到；时间反转负号已经包含在
${\dot{a}}_t,{\dot{b}}_t$ 中。

后验均值与速度

把式 (27) 代入式 (25)，得到

$$\boxed{m_t(\mathbf{x})=\frac{\mathbf{x}}{a_t}+\frac{b_t^2}{a_t}{s}_t(\mathbf{x})=\frac{\mathbf{x}}{a_t}-\frac{b_t(a_t{v}_t(\mathbf{x})-{\dot{a}}_t\mathbf{x})}{a_t{D}_t}}.\text{\hspace{1em}(28)}$$

对线性 schedule

$$a_t=t,b_t=1-t,\text{\hspace{1em}(29)}$$

有 $D_t=-1$。因此在 $0<t<1$ 上，

$$\boxed{s_t(\mathbf{x})=\frac{t{v}_t(\mathbf{x})-\mathbf{x}}{1-t}},\text{\hspace{1em}(30)}$$

以及

$$\boxed{\mathbb{E}[{\mathbf{x}}_1\mid {\mathbf{x}}_t]={\mathbf{x}}_t+(1-t)v_t({\mathbf{x}}_t)}.\text{\hspace{1em}(31)}$$

这些关系与 (Song & Lai, 2024) 中的速度、score 和去噪后验均值转换一致。式 (29) 只是线性高斯条件 schedule：若端点来自独立耦合，它不因此成为最优传输；只有另行采用 OT coupling 时，“最优传输”才来自端点耦合本身。

一致的是边缘，不是路径分布

上述两向转换建立的是

$$p_t^{\mathrm{FM}}=q_{1-t}^{\mathrm{diff}}$$

以及与这些边缘相容的概率流速度。它不表示下列对象具有相同的联合路径分布：

• 扩散 SDE 含有布朗噪声，样本路径几乎处处不可微；
• 概率流 ODE 或 CNF 在给定初值后是确定性的；
• CFM 训练中的条件插值还取决于所选端点耦合。

所以“扩散与流匹配等价”应准确理解为：在理想 score/velocity、合法 schedule 和相应正则性条件下，它们可以共享所有单时刻边缘密度；其转移核、跨时刻耦合和完整路径分布一般不同。

Lipman, Y., Chen, R. T. Q., Ben-Hamu, H., Nickel, M., & Le, M. (2022). Flow Matching for Generative Modeling. arXiv Preprint arXiv:2210.02747.

Song, K., & Lai, H. (2024). Unraveling the Connections Between Flow Matching and Diffusion Probabilistic Models in Training-Free Conditional Generation. arXiv Preprint arXiv:2411.07625.