AR-DIFFUSION：自回归与块扩散语言模型原理解析

一、原理概述

AR-DIFFUSION是一种将自回归生成与离散扩散建模结合起来的语言模型范式。它不再把整段文本完全按照单个Token逐个生成，也不把整段序列一次性进行无条件去噪，而是将输出序列切分成多个连续的Token块：

• 块与块之间，按照从左到右的自回归方式生成；
• 每个块内部，不再严格按照单Token顺序生成，而是通过多轮离散扩散与去噪逐步恢复；
• 前面已经生成的块作为条件，参与后续块的预测。

因此，它的基本结构可以概括为：

块级自回归控制全局顺序，块内扩散负责局部并行生成。

这种设计试图解决传统自回归语言模型和扩散语言模型各自存在的问题。传统自回归方法具有清晰的因果顺序和较强的上下文控制能力，但生成过程通常需要逐Token执行，序列越长，串行步骤越多。扩散式语言模型能够在一次迭代中处理多个位置，但如果缺少明确的序列条件约束，可能在长文本结构控制、生成顺序和条件依赖方面面临挑战。

AR-DIFFUSION通过引入“块”这一中间粒度，在全局可控性和局部并行性之间进行折中。

二、为什么需要块级扩散

1. 传统自回归生成的串行瓶颈

传统自回归模型通常按照如下方式生成：

[
P(x1,x_2,\ldots,x_n)=\prod{i=1}^{n}P(xi|x_1,\ldots,x{i-1})
]

其中，每个位置都依赖前面已经生成的Token。第 (i) 个Token生成完成后，才能计算第 (i+1) 个Token。这种机制具有两个明显特点：

1. 生成顺序明确；
2. 单步计算依赖前一步结果。

虽然单次前向计算可以处理较长上下文，但在增量生成阶段，输出序列仍然表现出较强的串行特征。当生成长度增加时，调度次数和同步次数也会随之增加。

2. 纯扩散生成的控制难题

扩散式语言模型通常先将目标序列加入离散噪声，再通过多轮预测逐渐恢复原始Token。对于图像等连续数据，噪声通常可以通过连续数值表示；但文本Token是离散符号，因此需要采用掩码、替换、随机破坏或其他离散扰动方式构造噪声状态。

纯扩散生成的优势是可以同时处理多个位置，但它也存在一些工程和建模问题：

• 生成过程需要多次去噪迭代；
• 不同位置之间的条件关系需要通过模型反复协调；
• 长序列的全局结构控制可能更加复杂；
• 采样步数、噪声调度和停止条件会影响生成结果。

块级扩散的思路是将序列依赖拆成两层：较粗粒度的块顺序由自回归机制负责，较细粒度的块内Token由扩散过程负责。这样既保留了左到右的生成方向，也允许同一个块内的多个位置进行联合预测。

三、核心概念：块、噪声状态与去噪状态

1. Token块

设目标序列为：

[
X=(x_1,x_2,\ldots,x_n)
]

按照固定或动态长度切分后，可以表示为：

[
X=(B_1,B_2,\ldots,B_m)
]

其中，(B_i)表示第 (i) 个Token块。每个块可以包含若干连续Token，例如一个短语、一个局部语义片段，或者固定数量的Token。

块大小是系统设计中的重要参数：

• 块较小：更接近传统自回归，控制精度较高，但并行收益有限；
• 块较大：块内并行能力更强，但一次需要恢复的内容更多，块内依赖建模难度也更高；
• 动态块：可以根据内容复杂度或置信度调整，但调度逻辑更加复杂。

2. 离散噪声

对于语言Token，扩散过程中的“加噪”不是简单地增加连续数值噪声，而是将原始Token转换为某种受扰动状态。常见方式包括：

• 将部分Token替换为特殊掩码；
• 按一定概率随机替换为其他词表Token；
• 将Token映射到不完整或不确定状态；
• 通过分阶段策略逐步增加被破坏的位置数量。

设原始块为 (B_i)，经过噪声过程后得到状态 (Z_i^t)，其中 (t)表示扩散时间步。随着噪声程度增加，(Z_i^t)包含的原始信息逐渐减少。

3. 去噪过程

模型接收当前噪声块、历史块以及必要的上下文信息，预测更清晰的Token状态：

[
P(Bi|B{<i},Z_i^t)
]

其中 (B_{<i})表示当前块之前已经生成的所有块。去噪过程通常从高噪声状态开始，经过多轮更新，最终得到完整块。

需要注意的是，去噪并不一定意味着每一步都直接输出最终Token。某些位置可能在早期步骤就具有较高置信度，而另一些位置仍然不确定。模型可以根据置信度选择保留、更新或继续掩码某些位置。

四、系统组成

一个典型的AR-DIFFUSION系统可以拆分为以下模块。

1. 上下文编码模块

该模块负责处理已经生成的前序块、用户输入、系统约束以及其他条件信息。它的作用是建立当前块生成所需的语义上下文。

在块级自回归机制下，前序块通常被视为稳定条件。当前块内部可以进行双向或部分双向的信息交互，但不能随意访问尚未生成的后续块，否则会破坏块之间的因果关系。

2. 块边界控制模块

该模块负责决定：

• 当前块从哪里开始；
• 当前块包含多少Token；
• 当前块何时完成；
• 是否需要提前结束生成；
• 是否需要根据内容复杂度调整块大小。

固定块大小实现简单、调度稳定；动态块大小具有更强的适应性，但需要额外的边界预测或终止判断机制。

3. 离散噪声调度模块

该模块定义不同扩散时间步下的噪声强度，以及Token被掩码、替换或恢复的概率。噪声调度决定了模型在训练和推理时面对什么难度的恢复任务。

如果噪声过弱，模型学习到的任务接近普通掩码预测，扩散过程的多步价值不明显；如果噪声过强，早期状态可能丢失过多语义信息，导致后续恢复困难。

4. 块内去噪模块

这是系统的核心计算模块。它针对当前块进行多轮预测，每一轮都根据：

• 已生成的历史块；
• 当前块中已经确定的位置；
• 当前块中仍然不确定的位置；
• 当前扩散时间步；

计算新的Token分布或位置状态。

5. 置信度与采样模块

去噪模型通常不仅输出Token候选，还可以输出每个位置的置信度。调度器依据置信度决定：

• 哪些位置可以直接确认；
• 哪些位置需要继续迭代；
• 哪些位置需要重新采样；
• 当前块是否达到完成条件。

这使得不同位置可以拥有不同的恢复速度，而不必所有位置都以完全相同的节奏推进。

五、完整运行流程

第一步：接收输入并建立初始上下文

系统首先接收输入文本或其他条件信息，并通过编码模块形成上下文表示。随后，生成器初始化块计数器，并准备生成第一个输出块。

如果任务具有明确的长度限制、格式约束或终止条件，这些约束也应在此阶段纳入上下文或调度状态。

第二步：确定当前块

系统根据块大小策略确定当前块的范围。对于固定块方案，块范围可以直接计算；对于动态块方案，则需要根据上下文、内容结构或模型预测结果确定边界。

此时，当前块通常只包含待生成位置，还没有完整Token内容。

第三步：构造块内初始噪声状态

系统将当前块初始化为高噪声或完全未知状态。例如，所有位置可以先被掩码表示，也可以根据某种噪声调度生成不同程度的不确定状态。

当前状态可抽象表示为：

[
Z_i^{T}
]

其中 (T)表示较高噪声等级。

第四步：执行多轮块内去噪

系统从时间步 (T)逐渐向较低时间步推进。每一步都执行以下操作：

1. 读取前序块作为条件；
2. 读取当前块的已有状态；
3. 预测各位置的Token分布；
4. 根据采样策略更新部分或全部位置；
5. 计算新的置信度；
6. 判断当前块是否已经满足完成条件。

伪代码可以表示为：

history = encode(input)
block_index = 0
while not finished:
    state = initialize_noisy_block()
    for step in denoise_schedule:
        prediction = model(
            history=history,
            current_state=state,
            diffusion_step=step
        )
        state = update_by_confidence(
            state,
            prediction
        )
        if block_is_complete(state):
            break
    completed_block = finalize(state)
    history = append(history, completed_block)
    block_index += 1

这里的关键点是：外层循环仍然按照块顺序推进，而内层循环负责当前块的扩散恢复。

第五步：提交当前块并进入下一块

当当前块中的Token达到完成条件后，系统将其固定为历史上下文的一部分。之后，下一块只能基于已经提交的块继续生成。

这种“提交”操作非常重要。它将不稳定的中间状态转换为稳定的条件状态，避免后续块依赖不断变化的前序内容。

第六步：执行终止判断

每生成一个块，系统都需要检查是否满足终止条件，例如：

• 生成了结束标记；
• 达到最大长度；
• 满足结构化输出约束；
• 达到指定内容边界；
• 置信度或质量条件满足要求。

如果没有结束，则继续生成下一个块。

六、训练机制与目标函数

AR-DIFFUSION的训练通常需要同时学习两类能力：

1. 根据历史块预测当前块；
2. 从受扰动的块状态中恢复原始Token。

设第 (i) 个块为 (B_i)，其噪声状态为 (Z_i^t)，则一个通用训练目标可以写成：

[
\mathcal{L}
=
\mathbb{E}{i,t,Z_i^t}
\left[
-\log P(B_i|B{<i},Z_i^t,t)
\right]
]

该目标要求模型在已知前序块和当前噪声状态的条件下，预测当前块的真实内容。

训练过程中通常需要随机选择：

• 当前块位置；
• 扩散时间步；
• 噪声强度；
• 被破坏的位置；
• 需要恢复的Token范围。

这样做的目的是让模型适应不同噪声程度，而不是只适应某一个固定去噪阶段。

此外，还要注意训练与推理之间的状态差异。如果训练时模型总能看到较准确的历史块，而推理时历史块可能存在采样误差，就可能出现误差累积。因此，工程上需要关注训练分布与实际推理分布的一致性。

七、性能机制：并行性来自哪里

AR-DIFFUSION的性能收益主要来自块内并行，而不是完全消除串行计算。

传统逐Token生成的串行单位是Token；块扩散将串行单位提升为块。假设序列长度为 (N)，块大小为 (K)，则块级自回归步骤大致从 (N)降低到 (N/K)。不过，每个块内部仍然需要执行若干轮去噪，因此实际计算量取决于：

• 块数量；
• 每个块的去噪步数；
• 单步计算的并行效率；
• 上下文长度；
• 采样和调度开销。

因此，不能简单认为块扩散一定比传统自回归更快。只有当块内并行带来的收益超过多轮去噪和状态管理成本时，整体吞吐量才会提升。

在推理系统中，还可以使用以下通用优化思路：

• 对历史块表示进行缓存，减少重复计算；
• 对同一批次中长度相近的请求进行批处理；
• 让不同位置按照置信度异步确定；
• 对已稳定的Token停止重复更新；
• 根据任务类型选择不同块大小和去噪步数；
• 对短文本采用较少的扩散轮次，避免调度开销超过计算收益。

八、技术优势与限制

优势

第一，块级自回归保留了明确的生成方向。前序内容确定后，后续内容围绕其展开，适合需要较强上下文一致性的任务。

第二，块内扩散提供了一定并行能力。同一块中的多个位置可以联合预测，不必严格等待前一个Token完成。

第三，扩散过程允许反复修正局部结果。与一次决定一个Token相比，模型可以在后续去噪步骤中重新评估低置信度位置。

第四，块大小提供了可调节的控制旋钮。系统可以在生成质量、延迟和吞吐量之间进行权衡。

限制

第一，推理过程通常需要多轮去噪。若去噪步数过多，可能抵消块内并行带来的收益。

第二，块边界可能影响语义一致性。如果一个强关联短语被不合理地切分到两个块中，块间自回归约束可能增加建模难度。

第三，误差仍可能沿块方向传播。某个前序块一旦被提交，后续块会将其视为条件，错误可能逐步扩散。

第四，离散噪声设计较为敏感。不同噪声策略会影响训练难度、采样稳定性和最终质量。

第五，动态置信度调度会增加系统复杂度。调度器不仅要管理Token状态，还要处理停止、重采样、超时和异常恢复等情况。

九、常见误区

误区一：认为扩散意味着完全并行

块扩散并不是整段文本一次性生成。它通常只在当前块内部提供并行或半并行能力，块与块之间仍然存在明显的先后依赖。

误区二：认为块越大越好

块越大，理论上的并行范围越大，但单个块的恢复难度、显存占用和错误耦合也会增加。合理块大小应结合任务长度、上下文复杂度和硬件条件确定。

误区三：把去噪步数简单等同于生成质量

更多去噪步骤不一定带来线性质量提升。过多步骤可能增加计算成本，甚至导致已稳定位置被反复扰动。实际系统需要根据置信度和任务需求设置停止条件。

误区四：忽略训练和推理状态差异

训练阶段可能使用真实历史块，而推理阶段使用模型自行生成的历史块。如果不处理这种差异，模型可能在长序列生成中表现出更明显的误差累积。

十、总结

AR-DIFFUSION的核心不是简单地把自回归模型和扩散模型叠加，而是重新划分序列生成的依赖粒度：用自回归机制管理块与块之间的顺序和条件关系，用离散扩散机制处理块内部多个Token的联合恢复。

其完整逻辑可以概括为：

1. 将输出序列切分为多个Token块；
2. 按从左到右的顺序逐块生成；
3. 对当前块施加离散噪声；
4. 在历史块条件下进行多轮去噪；
5. 根据置信度逐步确认块内Token；
6. 提交当前块并生成下一块；
7. 直到满足终止条件。

这一范式的价值，在于为语言生成提供了比单Token串行更灵活的计算组织方式。但它并非无条件替代传统自回归模型，实际效果仍取决于块大小、噪声调度、去噪步数、置信度策略、缓存机制以及训练推理一致性。理解这些底层机制，才能在具体系统中正确评估其延迟、吞吐量、生成质量和工程复杂度。