扩散模型与流匹配:随机和确定性生成原理
作者:rousong2026.11.16 11:56浏览量:0简介:扩散模型与流匹配都在解决同一个问题:如何把简单噪声分布转化为复杂数据分布。本文从概率路径出发,解释加噪、得分学习、反向随机微分方程与概率流常微分方程的联系,并通过条件速度回归说明流匹配为何成立,帮助读者理解训练目标、采样流程、工程代价与适用边界。
一、原理概述:生成不是检索,而是分布的连续变换
本文解释的核心原理是:如何通过一个随时间变化的动力系统,把容易采样的简单分布,逐步转化为图像、音频或动作序列等复杂数据的分布。
扩散模型(Diffusion Model)通常先定义一个从数据到噪声的随机加噪过程,再学习沿相反方向生成数据所需的信息。流匹配(Flow Matching)则直接构造从源分布到目标分布的概率路径,学习推动样本沿该路径运动的速度场。
两者的共同基础不是“反复修图”,而是三个对象:
- 概率分布:描述某个时刻样本整体出现在哪里。
- 概率路径:描述分布如何随时间变化。
- 动力系统:描述单个样本如何运动,才能形成预期的分布变化。
随机微分方程(SDE)与常微分方程(ODE)提供了两类动力系统语言。前者包含持续注入的随机扰动,后者在给定初始状态后具有确定性。理解它们如何对应同一条概率路径,是建立统一认识的关键。
二、背景问题:为什么生成模型需要一条中间路径
假设真实数据服从分布 (p_{\mathrm{data}}(x))。实际训练时,我们通常只有从该分布中采集的样本,而不知道其完整概率密度。
直接要求模型“一步生成符合真实分布的样本”,意味着模型必须同时学会复杂的全局结构、局部细节以及不同模式之间的关系,学习问题往往难以组织。
连续生成方法把这个任务拆成许多局部问题:
不直接学习噪声与数据之间的一次性映射,而是学习每个时刻应该如何移动。
这种拆分的价值,在于中间状态可以被显式构造。训练时能够生成带有已知监督信号的中间样本;推理时则通过数值积分,把局部预测累积成完整生成过程。
不过,拆分本身并不保证高质量。概率路径、训练权重、网络表达能力和数值求解误差,都会影响最终结果。
三、扩散的正向过程:用可计算的扰动构造学习问题
为避免时间方向混淆,本节统一约定:
- (t=0) 是数据端;
- (t=T) 是噪声端;
- 正向过程从数据走向噪声;
- 生成过程从噪声返回数据。
常见的连续时间扩散过程写作:
[
dx=f(x,t)\,dt+g(t)\,dW_t
]
其中:
- (f(x,t)) 是漂移项,决定平均运动方向;
- (g(t)) 是扩散系数,控制随机扰动强度;
- (W_t) 是标准布朗运动。
在常见设计中,可以直接从原始样本构造任意时刻的扰动样本:
[
x_t=\alpha(t)x_0+\sigma(t)\epsilon,
\qquad \epsilon\sim\mathcal N(0,I)
]
这里,(\alpha(t)) 控制原始信号的保留比例,(\sigma(t)) 控制噪声尺度。二者需要与选定的正向过程保持一致,不能任意拼接。
为什么不必逐步加噪
训练时若必须从第一步一直模拟到第几百步,计算成本会很高。上述闭式采样关系允许直接抽取时间 (t),再一次性得到 (x_t)。
因此,一次训练只需:
- 抽取真实样本 (x_0);
- 抽取时间 (t);
- 抽取高斯噪声 (\epsilon);
- 计算 (x_t);
- 让模型预测相应的监督目标。
这使“连续时间过程”可以通过普通的小批量监督学习来训练,而不必在每次训练中求解完整轨迹。
噪声端为什么要接近简单分布
生成时必须先有一个能够直接采样的起点。因此,正向过程应让终点分布 (p_T) 接近已知先验,例如标准高斯分布。
“足够接近”并不等于严格相等。如果训练终点与推理时使用的先验存在明显差异,即便网络预测准确,也可能出现起点分布不匹配的问题。
四、得分函数:反向运动需要什么信息
得分函数定义为:
[
s_t(x)=\nabla_x\log p_t(x)
]
它表示对数概率密度在局部上升最快的方向。
可以把它理解为一张局部导航图:给定当前位置和时间,它告诉系统附近概率质量如何分布。但它不是完整的生成速度,实际动力学还需要结合漂移项与噪声日程。
不知道真实密度,为什么还能学习得分
虽然边缘分布 (p_t(x)) 通常无法直接计算,但给定原始样本 (x_0) 后,扰动分布是已知的:
[
p(x_t\mid x_0)
=
\mathcal N\bigl(\alpha(t)x_0,\sigma(t)^2I\bigr)
]
它对 (x_t) 的得分为:
[
\nabla_{x_t}\log p(x_t\mid x_0)
=
-\frac{x_t-\alpha(t)x_0}{\sigma(t)^2}
=
-\frac{\epsilon}{\sigma(t)}
]
因此,可以用已知噪声构造监督信号。若采用噪声预测目标:
[
\mathcal L{\epsilon}
=
\mathbb E\left[
w(t)|\epsilon\theta(x_t,t)-\epsilon|^2
\right]
]
在理想回归条件下:
[
s\theta(x_t,t)
=
-\frac{\epsilon\theta(x_t,t)}{\sigma(t)}
]
这里的重要原因是:平方误差回归的最优解是给定输入后的目标条件期望,而条件得分的这种平均恰好得到边缘得分。
这也解释了为什么模型并不需要记住某条具体加噪轨迹。面对同一个中间状态,可能有多个潜在原始样本;模型学习的是这些可能性在统计意义上的综合结果。
需要注意,噪声预测、数据预测和其他参数化方式虽然可以在特定条件下相互转换,但不同时间权重会改变实际优化重点,不能简单视为训练效果完全相同。
五、反向SDE与概率流ODE:同一分布路径的两种实现
1. 反向随机过程
对于前述扩散系数只依赖时间的正向SDE,在适当正则条件下,其反向时间过程可写为:
[
dx=
\left[f(x,t)-g(t)^2s_t(x)\right]dt
+
g(t)d\bar W_t
]
该式按 (t) 从 (T) 到 (0) 积分,因而时间增量为负;(\bar W_t) 表示反向时间布朗运动。
其机制是:用得分修正漂移,使随机扰动下的整体分布沿正向过程的反方向演化。
反向生成不是简单地把正向噪声逐项减回去。实际生成时并不知道原先加入过哪一组噪声,依靠的是学习到的分布信息。
2. 概率流ODE
同一正向SDE还对应一个确定性方程:
[
\frac{dx}{dt}
=
f(x,t)-\frac12 g(t)^2s_t(x)
]
这称为概率流ODE。若得分准确、初始分布一致,且积分精确,它与相应SDE在每个时刻具有相同的边缘分布。
所谓“相同”,指的是某一时刻观察大量样本时,其总体分布相同,不意味着单条样本轨迹一致,也不意味着跨时刻的联合分布相同。
3. 为什么可以去掉随机项
正向SDE对应的概率密度演化方程为:
[
\partial_t p_t
=
-\nabla\cdot(fp_t)
+\frac12 g(t)^2\Delta p_t
]
利用:
[
\nabla p_t=p_t\nabla\log p_t
]
可以将其改写为:
[
\partial_t p_t
=
-\nabla\cdot
\left[
\left(f-\frac12g^2s_t\right)p_t
\right]
]
这正是速度场为 (f-\frac12g^2s_t) 的确定性流所满足的连续性方程。
因此,统一关系来自概率密度演化方程,而不是对采样公式做表面类比。随机扩散造成的密度变化,可以由一个包含得分修正的确定性速度场实现。
六、流匹配:直接学习推动分布变化的速度
为了让生成方向更直观,本节改用时间变量 (\tau):
- (\tau=0) 是噪声端;
- (\tau=1) 是数据端。
流匹配通常学习:
[
\frac{dx}{d\tau}=v_\theta(x,\tau)
]
其中 (v_\theta) 是速度场。
最简单的构造是分别采样噪声 (z) 和数据 (y),定义线性插值:
[
x_\tau=(1-\tau)z+\tau y
]
对应的条件速度是:
[
u_\tau=y-z
]
训练目标为:
[
\mathcal L{\mathrm{FM}}
=
\mathbb E
\left[
|v\theta(x_\tau,\tau)-(y-z)|^2
\right]
]
为什么回归一条条件直线,能学到整体分布流
不同的噪声—数据配对可能经过相同或相近的位置,并具有不同方向。模型不能仅凭当前位置识别所有配对关系。
平方误差的最优解是:
[
v^*(x,\tau)
=
\mathbb E[y-z\mid x_\tau=x]
]
也就是当前位置上所有条件速度的条件平均。在适当条件下,该平均速度满足所构造边缘分布路径的连续性方程:
[
\partial\tau p\tau
+
\nabla\cdot(p_\tau v^*)=0
]
因此,训练虽然使用容易计算的条件速度,最终学到的却是推动整体分布变化的边缘速度。
这里必须区分两件事:
- 训练用的条件路径可以是直线;
- 学到的边缘速度场所产生的单条积分轨迹未必是直线。
独立配对也不自动产生最优传输映射。配对方式决定条件路径的组织方式,会影响速度场复杂度与学习难度。
七、二者如何统一,又有哪些不能混同的地方
扩散模型和流匹配都可以从“概率路径—局部向量场—数值积分”三个层次理解。
| 维度 | 扩散模型常见做法 | 流匹配常见做法 |
|---|---|---|
| 路径构造 | 定义数据逐渐加噪的过程 | 定义源分布到数据的条件路径 |
| 学习目标 | 得分、噪声或等价参数化 | 条件速度的回归 |
| 生成方式 | 反向SDE或概率流ODE | 通常求解生成ODE |
| 监督来源 | 已知扰动核 | 已知条件路径及其导数 |
| 关键要求 | 得分估计与噪声日程一致 | 路径、配对与速度目标一致 |
在某些高斯概率路径下,两类方法的目标可以建立明确转换关系。概率流ODE也表明,扩散模型不必使用随机采样器。
但不能据此认为所有流匹配都是某个既定扩散过程的简单重写。更一般的路径与耦合方式,可能不对应某个预先指定的正向扩散SDE。
它们共享的是分布动力学框架,而不是每一种训练设计都完全等价。
八、完整工作流程:训练与生成如何协作
一个通用系统可以拆成五部分:
数据处理—路径构造—时间与条件编码—向量场预测—数值求解。
第一步:统一数据表示
对输入进行尺度处理、尺寸组织或序列切分。生成动力学对数值尺度敏感:如果不同维度量级差异很大,损失与积分误差可能被大尺度维度主导。
若在压缩表示空间中生成,还需要编码与解码环节。这样可以减少计算量,但重建质量也会受表示压缩误差限制。
第二步:构造中间状态与监督目标
扩散训练构造扰动样本及噪声、得分等目标;流匹配训练构造插值状态及速度目标。
这一层必须明确时间方向、端点定义和量纲,否则网络即使成功拟合训练标签,也可能无法配合推理方程工作。
第三步:预测时间相关向量场
网络输入通常包括当前状态、时间以及可选条件,例如文本描述、观测信息或任务约束。
时间编码不可省略:同一个数值状态出现在不同时间时,所需运动方向和幅度可能不同。
第四步:通过数值积分生成样本
以流匹配为例,最简单的示意流程是:
训练:抽取数据 y抽取噪声 z抽取时间 τ构造 x = (1 - τ) × z + τ × y构造目标速度 u = y - z预测 v = 速度网络(x, τ, 条件)最小化 v 与 u 的加权平方误差生成:从噪声分布抽取 x按递增时间网格循环:预测当前位置的速度使用数值积分规则更新 x输出末端状态
简单的一阶更新为:
[
x{\tau+\Delta\tau}
=
x\tau+\Delta\tau\,v\theta(x\tau,\tau)
]
高阶方法通过更多场评估改善积分近似,但总计算量还取决于每步调用网络的次数,不能只比较“步数”。
九、效率与质量的真正制约因素
1. 模型误差与积分误差不同
模型误差来自向量场预测不准确;积分误差来自有限步长近似连续动力学。
增加采样步数通常能减少积分误差,却不能自动修复模型误差。因此,质量随步数增加而饱和,并不必然意味着求解器出现问题。
2. 路径几何影响求解难度
如果速度变化剧烈、轨迹弯曲明显,或者某些时间区间对扰动高度敏感,就需要更细的步长或更合适的求解方法。
所以,“使用ODE”不等于天然少步,“条件路径是直线”也不等于实际生成轨迹容易积分。
3. 时间采样与损失权重决定学习重点
不同时间段承担不同任务:高噪声阶段通常更偏向整体结构,低噪声阶段更偏向细节恢复,但具体分工依赖路径与数据。
时间采样分布和损失权重会改变各阶段对优化的贡献。比较训练方案时,应同时检查目标参数化、采样策略与权重,而不能仅比较损失公式的名称。
4. 条件生成不等于硬约束满足
把条件输入网络,只是在学习条件分布。它不天然保证输出满足物理安全、几何可行性或动作边界。
用于动作序列生成时,通常还需要检查时序一致性、控制周期、执行误差与安全约束。生成概率较高,不代表动作一定可执行。
十、常见误区与总结
误区一:扩散模型只是不断去噪。
去噪是常见训练解释,但其完整原理是学习时间相关分布信息,并据此构造反向随机过程或确定性概率流。
误区二:确定性ODE没有生成多样性。
确定性指给定初始状态后的轨迹确定。不同的初始噪声依然可以产生不同结果。
误区三:噪声预测就是还原真实加入的噪声。
面对有歧义的中间状态,最优预测一般是条件期望,而不是对某次随机事件的精确辨认。
误区四:扩散与流匹配只是两个不同名称。
二者确实可以在分布动力学层面统一,但路径构造、监督目标和适用的转换条件仍有区别。
归根结底,扩散模型与流匹配都把复杂生成问题转化为局部运动规律的学习:先定义分布如何变化,再学习使这种变化成立的得分或速度,最后通过数值求解完成采样。
理解这条主线,才能解释为什么训练无需完整生成轨迹、为什么随机与确定性过程可以具有相同边缘分布,以及为什么路径设计、目标参数化和求解器必须协同选择。

登录后可评论,请前往 登录 或 注册