Tag · 3 篇
DiT
01 02 03
理解、加速与改进 MeanFlow 训练
Understanding, Accelerating, and Improving MeanFlow Training
MeanFlow 的训练动力学分析揭示了瞬时速度与平均速度的相互依赖关系,并据此设计了分阶段训练方案,可加速少步生成模型的收敛并提升生成质量,对基于流匹配的扩散模型训练有直接借鉴意义。
复兴 ConvNeXt:面向高效卷积扩散模型
Reviving ConvNeXt for Efficient Convolutional Diffusion Models
把 ConvNeXt 式的纯卷积骨干网络移植到条件扩散模型中,在 ImageNet 256/512 条件生成上以 DiT-XL/2 一半的浮点运算量达到相当性能,且训练步数少 7 倍以上;对做视觉生成的人而言,这是一条可直接替换 Transformer 骨干、显著降低训练成本的架构路线。
基于视频扩散先验的生成式神经视频压缩
Generative Neural Video Compression via Video Diffusion Prior
把视频扩散 Transformer 的流匹配去噪先验迁移到压缩潜变量的序列级精修上:从解码潜变量而非纯噪声初始化,并学习一个修正项来适配压缩退化,这一「以退化潜变量为起点的少步精修」思路可直接复用于超分、去压缩伪影等低层复原任务。