条件流匹配与整流流

前置

• 流匹配

条件流匹配的构造方法

条件流匹配（Conditional Flow Matching，CFM）的关键是构造条件概率路径
$p_t(\mathbf{x}\mid \mathbf{z})$ 及其条件速度场
$v_t(\mathbf{x}\mid \mathbf{z})$。构造有两条主线：

• 流优先：先指定可逆流映射 ${\psi }_t$，再由 $$v_t=({\partial }_t{\psi }_t)\circ {\psi }_t^{-1}$$ 得到速度场；条件概率路径是参考分布经 ${\psi }_t$ 的推前。
• 概率路径优先：先指定密度路径 $t\mapsto p_t$，再求解连续性方程。满足同一连续性方程的速度场一般不唯一；对高斯路径，常选用下文标准仿射流所对应的典范速度场。

四类条件路径

隐变量可只包含目标端点，也可同时包含源、目标端点；与两种构造主线组合后得到四类路径，而不是一个空的形式分类：

1. 单边、流优先：令 $\mathbf{z}={\mathbf{x}}_1$，为每个目标样本指定关于初始随机变量可逆的
   ${\psi }_t(\cdot \mid {\mathbf{x}}_1)$。将条件初始分布推前即可得到
   $p_t(\cdot \mid {\mathbf{x}}_1)$，速度为
   $({\partial }_t{\psi }_t)\circ {\psi }_t^{-1}$。经典单边高斯路径属于这一类。
2. 双边、流优先：令
   $\mathbf{z}=({\mathbf{x}}_0,{\mathbf{x}}_1)\sim \pi$，为每对端点指定插值流。确定性插值可视为 Dirac 条件路径；也可加入可逆的辅助噪声映射。源分布由耦合 $\pi$ 的第一边缘给出。
3. 单边、概率路径优先：直接设计
   $p_t(\cdot \mid {\mathbf{x}}_1)$，使其 $t=1$ 时集中在或平滑地围绕 ${\mathbf{x}}_1$，再求解条件连续性方程。它在 $t=0$ 的边缘通常由 $q$ 与所选条件路径共同决定，未必是预先指定的标准高斯。
4. 双边、概率路径优先：对
   $({\mathbf{x}}_0,{\mathbf{x}}_1)\sim \pi$ 直接指定连接两个端点的条件密度路径，再选取一个满足连续性方程的条件场。线性 Dirac 路径和带正方差的平滑桥都是例子；前者的连续性方程按测度弱解理解。

双边路径的视觉形态通常像连接配对端点的“光束”，单边路径则像汇聚到各目标样本的“聚光灯”。

高斯路径的闭式速度场

设条件变量为 $\mathbf{z}$，从 ${\mathbf{x}}_0$ 出发的仿射映射为

$${\psi }_t({\mathbf{x}}_0\mid \mathbf{z})={\mu }_t(\mathbf{z})+{\sigma }_t(\mathbf{z})\frac{{\mathbf{x}}_0-{\mu }_0(\mathbf{z})}{{\sigma }_0(\mathbf{z})},{\sigma }_t(\mathbf{z})>0.\text{\hspace{1em}(1)}$$

命题（高斯路径速度场） 式 (1) 对应的条件速度场是

$$v_t(\mathbf{x}\mid \mathbf{z})={\dot{\mu }}_t(\mathbf{z})+\frac{{\dot{\sigma }}_t(\mathbf{z})}{{\sigma }_t(\mathbf{z})}(\mathbf{x}-{\mu }_t(\mathbf{z})).\text{\hspace{1em}(2)}$$

证明 对式 (1) 关于 $t$ 求导，把
${\mathbf{x}}_0,{\mu }_0,{\sigma }_0$ 视为常量：

$${\partial }_t{\psi }_t({\mathbf{x}}_0\mid \mathbf{z})={\dot{\mu }}_t(\mathbf{z})+{\dot{\sigma }}_t(\mathbf{z})\frac{{\mathbf{x}}_0-{\mu }_0(\mathbf{z})}{{\sigma }_0(\mathbf{z})}.$$

令 $\mathbf{x}={\psi }_t({\mathbf{x}}_0\mid \mathbf{z})$。因为
${\sigma }_t>0$，映射可逆，且

$$\frac{{\mathbf{x}}_0-{\mu }_0(\mathbf{z})}{{\sigma }_0(\mathbf{z})}=\frac{\mathbf{x}-{\mu }_t(\mathbf{z})}{{\sigma }_t(\mathbf{z})}.$$

代回上式，并用
$v_t=({\partial }_t{\psi }_t)\circ {\psi }_t^{-1}$，即得式 (2)。$\square$

文献 (Lipman et al., 2022) 常从
${\psi }_t(\mathbf{y})={\mu }_t+{\sigma }_t\mathbf{y}$ 出发，此写法必须要求
${\mu }_0=0,{\sigma }_0=1$ 才有 ${\psi }_0=\mathrm{id}$。式 (1) 先中心化再缩放，因而对任意高斯条件初始分布
$\mathcal{N}({\mu }_0,{\sigma }_0^{2}I)$ 都自动满足初始边界。

概率路径优先的构造

一般希望

$$\begin{array}{rl}{p}_{\mathrm{src}}(\mathbf{x})& =\int p_0(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z},\\ p_{\mathrm{tgt}}(\mathbf{x})& =\int p_1(\mathbf{x}\mid \mathbf{z})\pi (\mathbf{z})\mathrm{d}\mathbf{z}.\end{array}\text{\hspace{1em}(3)}$$

源分布能否任意指定取决于 $\mathbf{z}$ 是否显式包含
${\mathbf{x}}_0$。双边路径直接从给定源分布采样 ${\mathbf{x}}_0$；
单边路径不以 ${\mathbf{x}}_0$ 为条件，因而其源边缘通常是目标分布与条件初始核的混合。

双边条件路径

令

$$\mathbf{z}=({\mathbf{x}}_0,{\mathbf{x}}_1)\sim \pi ,$$

其中 $\pi$ 的两个边缘分别是 $p_{\mathrm{src}}$ 与 $q$。考虑

$$p_t(\mathbf{x}\mid {\mathbf{x}}_0,{\mathbf{x}}_1)=\mathcal{N}\left(\mathbf{x};a_t{\mathbf{x}}_0+b_t{\mathbf{x}}_1,{\sigma }^{2}I\right),\text{\hspace{1em}(4)}$$

并取

$$a_0=1,b_0=0,a_1=0,b_1=1.$$

当固定 $\sigma >0$ 时，式 (4) 的两个边缘分别是
$p_{\mathrm{src}}\ast \mathcal{N}(0,{\sigma }^{2}I)$ 与
$q\ast \mathcal{N}(0,{\sigma }^{2}I)$，而不是原始端点分布；它是一条平滑分布路径。只有在
$\sigma \downarrow 0$ 的极限中才收敛到原端点。在确定性情形
$\sigma =0$ 下，条件测度退化为

$$p_t(\mathbf{x}\mid {\mathbf{x}}_0,{\mathbf{x}}_1)=\delta \left(\mathbf{x}-a_t{\mathbf{x}}_0-b_t{\mathbf{x}}_1\right),$$

轨迹为

$${\mathbf{x}}_t=a_t{\mathbf{x}}_0+b_t{\mathbf{x}}_1.$$

对固定正方差路径，令
${\mu }_t=a_t{\mathbf{x}}_0+b_t{\mathbf{x}}_1$、${\sigma }_t=\sigma$，式 (2) 给出

$$v_t(\mathbf{x}\mid {\mathbf{x}}_0,{\mathbf{x}}_1)={\dot{a}}_t{\mathbf{x}}_0+{\dot{b}}_t{\mathbf{x}}_1.\text{\hspace{1em}(5)}$$

同一公式也给出确定性插值轨迹的切向速度。训练时可从任意耦合
$\pi$ 采样配对；若没有特别设计耦合，常独立采样
${\mathbf{x}}_0\sim p_{\mathrm{src}}$ 与 ${\mathbf{x}}_1\sim q$。因为条件目标显式依赖采到的 ${\mathbf{x}}_0$，这里的源分布可以是任意可采样分布。

单边条件路径

令 $\mathbf{z}={\mathbf{x}}_1$、$\pi =q$，且不把
${\mathbf{x}}_0$ 作为条件变量。取任意

$${\mu }_t({\mathbf{x}}_1),{\sigma }_t({\mathbf{x}}_1)>0,$$

并令终点参数满足

$${\mu }_1({\mathbf{x}}_1)={\mathbf{x}}_1,{\sigma }_1({\mathbf{x}}_1)={\sigma }_{\min }>0.\text{\hspace{1em}(6)}$$

由式 (1)，

$${\mathbf{x}}_t={\mu }_t({\mathbf{x}}_1)+{\sigma }_t({\mathbf{x}}_1)\frac{{\mathbf{x}}_0-{\mu }_0({\mathbf{x}}_1)}{{\sigma }_0({\mathbf{x}}_1)}.\text{\hspace{1em}(7)}$$

若

$${\mathbf{x}}_0\mid {\mathbf{x}}_1\sim \mathcal{N}\left({\mu }_0({\mathbf{x}}_1),{\sigma }_0({\mathbf{x}}_1{)}^{2}I\right),$$

则可写成

$${\mathbf{x}}_t={\mu }_t({\mathbf{x}}_1)+{\sigma }_t({\mathbf{x}}_1)\mathbf{ϵ},\mathbf{ϵ}\sim \mathcal{N}(0,I).\text{\hspace{1em}(8)}$$

相应的源边缘为

$$p_{\mathrm{src}}(\mathbf{x})=\int \mathcal{N}\left(\mathbf{x};{\mu }_0({\mathbf{x}}_1),{\sigma }_0({\mathbf{x}}_1{)}^{2}I\right)q({\mathbf{x}}_1)\mathrm{d}{\mathbf{x}}_1.\text{\hspace{1em}(9)}$$

它一般是依赖 $q$ 的高斯混合或卷积，可记为
$p_{\mathrm{src}}=\mathcal{F}(q)$，通常既不是标准高斯，也不能独立于目标分布任意指定。此时输运实际是
$\mathcal{F}(q)\to q\ast \mathcal{N}(0,{\sigma }_{\min }^{2}I)$；若令
${\sigma }_{\min }\downarrow 0$，终点才在适当意义下趋于 $q$。

由式 (2)，条件速度场为

$$v_t(\mathbf{x}\mid {\mathbf{x}}_1)={\dot{\mu }}_t({\mathbf{x}}_1)+\frac{{\dot{\sigma }}_t({\mathbf{x}}_1)}{{\sigma }_t({\mathbf{x}}_1)}(\mathbf{x}-{\mu }_t({\mathbf{x}}_1)).\text{\hspace{1em}(10)}$$

经典单边高斯路径

取仿射 schedule

$${\mu }_t({\mathbf{x}}_1)=b_t{\mathbf{x}}_1,{\sigma }_t({\mathbf{x}}_1)=a_t,\text{\hspace{1em}(11)}$$

其中

$$b_0=0,a_0=1,b_1=1,a_1={\sigma }_{\min }>0.$$

这时由端点参数直接推出
${\mathbf{x}}_0=\mathbf{ϵ}\sim \mathcal{N}(0,I)$，源分布与 $q$ 无关。条件路径与采样公式为

$$\begin{array}{rl}{p}_t(\mathbf{x}\mid {\mathbf{x}}_1)& =\mathcal{N}(\mathbf{x};b_t{\mathbf{x}}_1,a_t^{2}I),\\ {\mathbf{x}}_t& =b_t{\mathbf{x}}_1+a_t\mathbf{ϵ}.\end{array}\text{\hspace{1em}(12)}$$

速度场是

$$v_t(\mathbf{x}\mid {\mathbf{x}}_1)={\dot{b}}_t{\mathbf{x}}_1+\frac{{\dot{a}}_t}{a_t}(\mathbf{x}-b_t{\mathbf{x}}_1).\text{\hspace{1em}(13)}$$

理论中常写 $a_1=0$，表示终点方差消失的极限；式 (13) 含
${\dot{a}}_t/a_t$，所以若要求闭区间上处处是正则流，实现时通常保留
$a_1={\sigma }_{\min }>0$。此时终点严格说是平滑分布
$q\ast \mathcal{N}(0,{\sigma }_{\min }^{2}I)$，而不是 $q$ 本身。

Rectified Flow

Rectified Flow（RF）是双边 CFM 的一个特例。取

$$p_0=\mathcal{N}(0,I),p_1=q,$$

经典 RF 训练通常采用独立耦合

$${\pi }_{\mathrm{ind}}({\mathbf{x}}_0,{\mathbf{x}}_1)=p_0({\mathbf{x}}_0)q({\mathbf{x}}_1),\text{\hspace{1em}(14)}$$

并对每个配对使用线性插值

$${\mathbf{x}}_t=(1-t){\mathbf{x}}_0+t{\mathbf{x}}_1.\text{\hspace{1em}(15)}$$

对应的条件测度与条件速度为

$$\begin{array}{rl}{p}_t(\mathbf{x}\mid {\mathbf{x}}_0,{\mathbf{x}}_1)& =\delta \left(\mathbf{x}-(1-t){\mathbf{x}}_0-t{\mathbf{x}}_1\right),\\ v_t(\mathbf{x}\mid {\mathbf{x}}_0,{\mathbf{x}}_1)& ={\mathbf{x}}_1-{\mathbf{x}}_0.\end{array}\text{\hspace{1em}(16)}$$

这里的 Dirac 对象没有关于 Lebesgue 测度的条件密度，因而不能直接套用只对
条件密度陈述的 CFM 定理。令
$\mathbf{z}=({\mathbf{x}}_0,{\mathbf{x}}_1)$、
$F_t(\mathbf{z})=(1-t){\mathbf{x}}_0+t{\mathbf{x}}_1$，并在标准 Borel 空间上定义
联合测度

$${\Gamma }_t(\mathrm{d}\mathbf{z},\mathrm{d}\mathbf{x}):=\pi (\mathrm{d}\mathbf{z}){\delta }_{F_t(\mathbf{z})}(\mathrm{d}\mathbf{x})=p_t(\mathrm{d}\mathbf{x}){\Gamma }_t(\mathrm{d}\mathbf{z}\mid \mathbf{x}).$$

右端由正则条件分布给出测度分解。在
${\mathbb{E}}_{\pi }\Vert {\mathbf{x}}_1-{\mathbf{x}}_0{\Vert }^2<\infty$ 时，边缘速度场是
$L^2(p_t)$ 条件投影

$$v_t(\mathbf{x})=\int ({\mathbf{x}}_1-{\mathbf{x}}_0){\Gamma }_t(\mathrm{d}\mathbf{z}\mid \mathbf{x})=\mathbb{E}[{\mathbf{X}}_1-{\mathbf{X}}_0\mid {\mathbf{X}}_t=\mathbf{x}].$$

这就是密度版 CFM 后验平均公式的测度核推广。由于路径是确定性的，无需再从
$p_t(\cdot \mid {\mathbf{x}}_0,{\mathbf{x}}_1)$ 采样，平方损失的条件投影论证给出

$${\mathcal{L}}_{\mathrm{RF}}(\theta )={\mathbb{E}}_{\begin{array}{c}t\sim \mathcal{U}[0,1]\\ {\mathbf{x}}_0\sim p_0,{\mathbf{x}}_1\sim q\end{array}}\left[{\Vert v_{\theta }((1-t){\mathbf{x}}_0+t{\mathbf{x}}_1,t)-({\mathbf{x}}_1-{\mathbf{x}}_0)\Vert }^2\right].\text{\hspace{1em}(17)}$$

必须区分“端点耦合”和“给定端点后的插值”：

• 式 (14) 是独立耦合，通常不是最优传输耦合；
• 式 (15) 只说明给定一对端点后沿直线运动，线性插值本身不能称为最优传输；
• 若另行求得最优传输耦合 ${\pi }_{\mathrm{OT}}$，可以仍对
  $({\mathbf{x}}_0,{\mathbf{x}}_1)\sim {\pi }_{\mathrm{OT}}$ 使用同一线性条件路径。此时“最优”来自耦合，而不是来自直线公式本身。

因此，独立耦合 RF 与采用 OT coupling 的变体具有相同的条件速度形式，却通常产生不同的边缘路径与训练分布。

Lipman, Y., Chen, R. T. Q., Ben-Hamu, H., Nickel, M., & Le, M. (2022). Flow Matching for Generative Modeling. arXiv Preprint arXiv:2210.02747.