反向扩散过程是一种用于生成式机器学习模型（尤其是扩散模型）的技术，通过迭代消除不确定性来从噪声中重建数据。 它是使 Stable Diffusion 或 DALL-E 等模型能够通过反转前向噪声过程来生成图像、音频或其他数据类型的核心机制。 在前向扩散过程中，数据通过在多个步骤中添加高斯噪声而逐渐损坏，直到变成随机噪声。 反向过程旨在学习如何逐步撤消这种损坏，从而将噪声转换回结构化数据。
从技术层面来看，反向过程是通过使用神经网络实现的，该神经网络经过训练，可以预测每个步骤中部分噪声输入中存在的噪声。 例如，如果图像已噪声化到总步骤的 50%，则网络会估计在该特定步骤中添加的噪声。 此预测用于从数据中减去噪声，从而逐渐恢复原始结构。 该网络通常使用预测噪声和实际噪声之间的均方误差 (MSE) 损失进行训练。 一个关键的细节是该过程是迭代的：每个步骤都对前一个步骤的输出进行操作，噪声水平逐渐降低。 这由噪声计划控制，该计划确定每次迭代中移除多少噪声。 像 PyTorch 这样的框架通常为此任务使用 U-Net 架构，因为它能够捕获图像等数据中的局部和全局特征。
一个实际的例子是图像生成。 从随机噪声开始，模型通过运行训练好的网络固定步数（例如，50 步）来应用反向过程，每次都细化数据。 开发人员可以通过调整噪声计划或使用文本提示来调节过程来定制此过程。 例如，在图像修复中，模型使用反向过程通过在噪声消除期间将已知像素视为指导来填充掩蔽区域。 类似地，在音频生成中，相同的原理适用，但对频谱图表示进行操作。 反向过程的灵活性使其能够适应超分辨率或去噪等任务，其中迭代细化与逐渐重建的底层物理原理相一致。