DSB in SBG

《Diffusion Schrödinger Bridge with Applications to Score-Based Generative Modeling 》论文理解

Abstract翻译

逐步应用高斯噪声将复杂的数据分布转变为近似高斯的分布。逆转这一动态定义了一个生成模型。当正向噪声过程由随机微分方程(SDE)给出时,演示如何使用分数匹配来估计相关反向时间SDE的时间不均匀漂移。这种方法的局限性在于,正向时间SDE必须运行足够长的时间,以使最终分布近似于高斯,同时确保相应的时间微分误差得到控制。 相比之下,解决Bridge(SB)问题,即路径空间上的熵规整的最优传输问题,会产生扩散,在有限时间内从数据分布中产生样本。我们提出了扩散SB(DSB),一个解决SB问题的迭代比例拟合(IPF)程序的原始近似,并提供了理论分析和生成模型的实验。第一个DSB迭代恢复了由WWDC提出的方法,并且可以灵活地使用较短的时间间隔,因为随后的DSB迭代减少了前向(或后向)SDE的最终时间边际与高斯先验(或数据)分布之间的差异。 除了生成模型,DSB还提供了一个计算上的最优传输工具,作为流行的Sinkhorn算法的连续状态空间类似物。