流匹配

前置

• 生成模型导论

流匹配

流匹配（Flow Matching，FM）通过学习时变向量场，构造从简单源分布到目标分布的连续变换。其基础是连续归一化流（Continuous Normalizing Flow，CNF）。

理想目标是用 ODE 速度场把源分布 $p_{\mathrm{src}}$ 输运到目标分布 $p_{\mathrm{tgt}}$：

$$\frac{\mathrm{d}{\mathbf{x}}_t}{\mathrm{d}t}=v_t({\mathbf{x}}_t),t\in [0,1],$$

边界条件为 $p_0=p_{\mathrm{src}}$、$p_1=p_{\mathrm{tgt}}$。若已知理想速度场 $v_t$，从 $p_0$ 采样后前向积分 ODE 即可生成样本。学习任务是用参数化网络 $v_{\theta }(\mathbf{x},t)$ 拟合 $v_t(\mathbf{x})$。

连续性方程

定义（连续性方程） 概率密度 $p_t$ 沿上述 ODE 演化时满足

$${\partial }_t{p}_t(\mathbf{x})+{\nabla }_{\mathbf{x}}\cdot (p_t(\mathbf{x})v_t(\mathbf{x}))=0.\text{\hspace{1em}(CE)}$$

该等式可以逐点成立，也可以在弱解（分布）意义下成立。

连续归一化流的基本理论

设 $(\Omega ,\mathcal{F},Q)$ 为真实数据的概率空间，其中 $\Omega ={\mathbb{R}}^d$，$Q$ 有密度 $q$。

向量场与微分同胚流

考虑时变向量场

$$v:{\mathbb{R}}^d\times [0,1]\to {\mathbb{R}}^d.$$

对初值 ${\mathbf{x}}_0$，定义流映射 ${\varphi }_t({\mathbf{x}}_0)$ 为

$$\frac{\mathrm{d}}{\mathrm{d}t}{\varphi }_t({\mathbf{x}}_0)=v_t({\varphi }_t({\mathbf{x}}_0)),{\varphi }_0({\mathbf{x}}_0)={\mathbf{x}}_0.\text{\hspace{1em}(1)}$$

“向量场与微分同胚流一一对应”需要正则性条件，而不是对任意向量场都成立。一组常用的充分条件是：

• $v_t(\mathbf{x})$ 关于 $t$ 连续（更一般地，可测且局部可积），关于 $\mathbf{x}$ 局部 Lipschitz；
• $v$ 至多线性增长，或另行假设所有初值在整个 $[0,1]$ 上都有全局解；
• 若要使 ${\varphi }_t$ 成为 $C^1$ 微分同胚，再要求 $v_t$ 关于 $\mathbf{x}$ 为 $C^1$，且空间导数满足保证变分方程有全局解的局部有界条件。

在这些条件下，ODE 解存在且唯一，每个 ${\varphi }_t$ 都是 $C^1$ 微分同胚，其逆映射由反向 ODE 给出。反过来，若 $\{{\varphi }_t{\}}_{t\in [0,1]}$ 是关于 $t$ 可微的 $C^1$ 微分同胚族且 ${\varphi }_0=\mathrm{id}$，则

$$v_t(\mathbf{x})={\partial }_t{\varphi }_t({\varphi }_t^{-1}(\mathbf{x}))\text{\hspace{1em}(2)}$$

唯一恢复产生该流的欧拉速度场。若缺少局部 Lipschitz、全局解或可逆性，上述一一对应可能失效。

CNF 由简单先验 $P_0$ 诱导概率分布族

$$P_t=({\varphi }_t{)}_{\#}{P}_0,$$

FM 的目标是学习适当的 $v_t$，使 $P_1$ 逼近 $Q$。

推前测度与密度变换

对任意 Borel 集 $A$，推前测度定义为

$$P_t(A)=P_0({\varphi }_t^{-1}(A)).$$

若 $P_0$ 有密度 $p_0$，令 $\mathbf{y}={\varphi }_t^{-1}(\mathbf{x})$，则换元公式给出

$$\begin{array}{rl}{\int }_A{p}_t(\mathbf{x})\mathrm{d}\mathbf{x}& ={\int }_{{\varphi }_t^{-1}(A)}{p}_0(\mathbf{y})\mathrm{d}\mathbf{y}\\ & ={\int }_A{p}_0({\varphi }_t^{-1}(\mathbf{x}))\left|\det D{\varphi }_t^{-1}(\mathbf{x})\right|\mathrm{d}\mathbf{x}.\end{array}$$

因此

$$p_t(\mathbf{x})=p_0({\varphi }_t^{-1}(\mathbf{x}))\left|\det D{\varphi }_t^{-1}(\mathbf{x})\right|.\text{\hspace{1em}(3)}$$

流匹配损失

自然的回归目标是

$${\mathcal{L}}_{\mathrm{FM}}(\theta )={\mathbb{E}}_{\begin{array}{c}t\sim \mathcal{U}[0,1]\\ {\mathbf{x}}_t\sim p_t\end{array}}\left[{\Vert v_{\theta }({\mathbf{x}}_t,t)-v_t({\mathbf{x}}_t)\Vert }^2\right].\text{\hspace{1em}(4)}$$

但对真实数据而言，边缘密度 $p_t$ 通常没有闭式，既难以从中直接采样，理想边缘速度场 $v_t$ 也无法显式求得，所以式 (4) 不能直接作为训练算法。

条件流匹配

条件概率路径与边缘速度场

引入隐变量 $\mathbf{z}\sim \pi$，主动设计条件概率路径 $p_t(\mathbf{x}\mid \mathbf{z})$，使

$$p_t(\mathbf{x})=\int p_t(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z}.\text{\hspace{1em}(5)}$$

驱动条件路径的条件速度场 $v_t(\mathbf{x}\mid \mathbf{z})$ 满足条件连续性方程

$${\partial }_t{p}_t(\mathbf{x}\mid \mathbf{z})+{\nabla }_{\mathbf{x}}\cdot \left[p_t(\mathbf{x}\mid \mathbf{z})v_t(\mathbf{x}\mid \mathbf{z})\right]=0.\text{\hspace{1em}(6)}$$

在 $p_t(\mathbf{x})>0$ 处，后验密度为

$$p_t(\mathbf{z}\mid \mathbf{x})=\frac{p_t(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})}{p_t(\mathbf{x})},\text{\hspace{1em}(7)}$$

边缘速度场定义为条件场的后验期望：

$$v_t(\mathbf{x})={\mathbb{E}}_{\mathbf{z}\sim p_t(\cdot \mid \mathbf{x})}\left[v_t(\mathbf{x}\mid \mathbf{z})\right].\text{\hspace{1em}(8)}$$

这里后验必须记为 $p_t(\mathbf{z}\mid \mathbf{x})$：它随条件路径的时刻 $t$ 改变。

边缘速度场满足连续性方程

定理 假设：

1. $p_t(\mathbf{x}\mid \mathbf{z})$ 与 $v_t(\mathbf{x}\mid \mathbf{z})$ 对 $\pi$-几乎处处的 $\mathbf{z}$ 满足式 (6)；
2. $p_t(\mathbf{x}\mid \mathbf{z})v_t(\mathbf{x}\mid \mathbf{z})$ 局部可积；
3. 对 $t$ 求导、对 $\mathbf{x}$ 求散度可以与关于 $\mathbf{z}$ 的积分交换，例如存在适当的局部可积支配函数。

则式 (8) 定义的边缘场在弱意义下满足式 (CE)；若各项足够光滑，则逐点满足。

证明 由式 (7) 与 (8)，

$$\begin{array}{rl}{p}_t(\mathbf{x})v_t(\mathbf{x})& =p_t(\mathbf{x})\int v_t(\mathbf{x}\mid \mathbf{z})p_t(\mathbf{z}\mid \mathbf{x})\mathrm{d}\mathbf{z}\\ & =\int p_t(\mathbf{x}\mid \mathbf{z})v_t(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z}.\end{array}$$

利用可交换性与条件连续性方程，

$$\begin{array}{rl}{\nabla }_{\mathbf{x}}\cdot [p_t(\mathbf{x})v_t(\mathbf{x})]& =\int {\nabla }_{\mathbf{x}}\cdot \left[p_t(\mathbf{x}\mid \mathbf{z})v_t(\mathbf{x}\mid \mathbf{z})\right]\pi (\mathbf{z})\mathrm{d}\mathbf{z}\\ & =-\int {\partial }_t{p}_t(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z}\\ & =-{\partial }_t\int p_t(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z}\\ & =-{\partial }_t{p}_t(\mathbf{x}).\end{array}$$

移项即得式 (CE)。$\square$

条件流匹配损失

可计算的条件流匹配损失为

$${\mathcal{L}}_{\mathrm{CFM}}(\theta )={\mathbb{E}}_{\begin{array}{c}t\sim \mathcal{U}[0,1],\mathbf{z}\sim \pi \\ {\mathbf{x}}_t\sim p_t(\cdot \mid \mathbf{z})\end{array}}\left[{\Vert v_{\theta }({\mathbf{x}}_t,t)-v_t({\mathbf{x}}_t\mid \mathbf{z})\Vert }^2\right].\text{\hspace{1em}(9)}$$

FM 与 CFM 的等价性

定理 令联合采样律为

$$\mathrm{d}t\pi (\mathbf{z})\mathrm{d}\mathbf{z}{p}_t(\mathbf{x}\mid \mathbf{z})\mathrm{d}\mathbf{x},$$

其中 $t$ 服从 $\mathcal{U}[0,1]$。假设式 (5) 给出有限且可测的边缘密度，式 (7) 的后验存在，并且

$$v_t(\mathbf{x}\mid \mathbf{z}),v_t(\mathbf{x}),v_{\theta }(\mathbf{x},t)\in L^2$$

（均相对于相应联合或边缘采样律）。特别地，

$$\mathbb{E}\left[{\Vert v_t({\mathbf{x}}_t)-v_t({\mathbf{x}}_t\mid \mathbf{z})\Vert }^2\right]<\infty .$$

则

$${\mathcal{L}}_{\mathrm{CFM}}(\theta )={\mathcal{L}}_{\mathrm{FM}}(\theta )+C,\text{\hspace{1em}(10)}$$

其中

$$C=\mathbb{E}\left[{\Vert v_t({\mathbf{x}}_t)-v_t({\mathbf{x}}_t\mid \mathbf{z})\Vert }^2\right]$$

与 $\theta$ 无关。若损失关于 $\theta$ 可微，且存在允许把 ${\nabla }_{\theta }$ 与期望交换的可积支配函数，则

$${\nabla }_{\theta }{\mathcal{L}}_{\mathrm{CFM}}={\nabla }_{\theta }{\mathcal{L}}_{\mathrm{FM}}.\text{\hspace{1em}(11)}$$

证明 记

$$A=v_{\theta }({\mathbf{x}}_t,t)-v_t({\mathbf{x}}_t),B=v_t({\mathbf{x}}_t)-v_t({\mathbf{x}}_t\mid \mathbf{z}).$$

展开平方范数：

$$\begin{array}{rl}{\mathcal{L}}_{\mathrm{CFM}}(\theta )& =\mathbb{E}\Vert A+B{\Vert }^2\\ & =\mathbb{E}\Vert A{\Vert }^2+\mathbb{E}\Vert B{\Vert }^2+2\mathbb{E}[A^{\top }B].\end{array}$$

第一项只依赖 $(t,{\mathbf{x}}_t)$，因此等于
${\mathcal{L}}_{\mathrm{FM}}(\theta )$；第二项就是 $C$。对交叉项使用条件期望：

$$\begin{array}{rl}\mathbb{E}[A^{\top }B]& ={\mathbb{E}}_{t,{\mathbf{x}}_t}\left[A^{\top }{\mathbb{E}}_{\mathbf{z}\sim p_t(\cdot \mid {\mathbf{x}}_t)}\left[v_t({\mathbf{x}}_t)-v_t({\mathbf{x}}_t\mid \mathbf{z})\right]\right]\\ & =0,\end{array}$$

最后一步来自式 (8)。于是得到式 (10)。在上述微分与积分可交换的正则性条件下，对式 (10) 关于 $\theta$ 求导即得式 (11)。$\square$

这两个定理分别给出 CFM 的两层依据：

• 推断一致性：条件场的后验平均满足边缘连续性方程。若条件路径的边缘端点确为 $p_{\mathrm{src}}$ 与 $p_{\mathrm{tgt}}$，且学得的 $v_{\theta }$ 逼近 $v_t$，生成 ODE 的边缘密度便与设计的 $p_t$ 一致。
• 训练可计算性：虽然 $p_t$ 与 $v_t$ 通常不可直接计算，但可以采样 $\mathbf{z}\sim \pi$、${\mathbf{x}}_t\sim p_t(\cdot \mid \mathbf{z})$，并以式 (9) 得到与 FM 相同的参数梯度。