Tag · 7 篇

特征缓存

分布 高效模型与推理加速5生成模型与扩散2
01
生成模型与扩散 / CVPR2026

TC-Pade:面向扩散加速的轨迹一致 Padé 逼近

TC-Pade: Trajectory-Consistent Pade Approximation for Diffusion Acceleration

用有理函数(Padé 逼近)替代 Taylor 类多项式外推来做扩散模型的特征缓存预测,并配合自适应系数调制与分阶段预测策略,可直接嵌入 DiT/FLUX/Wan 等视觉生成骨干,在 20-30 步低步数区间实现约 2-3 倍采样加速而不掉画质。

特征缓存扩散采样加速Padé-逼近
02
高效模型与推理加速 / CVPR2026

LESA:面向扩散模型加速的可学习阶段感知预测器

LESA: Learnable Stage-Aware Predictors for Diffusion Model Acceleration

把扩散采样中的特征缓存从「简单复用/免训练外推」升级为「按噪声阶段分专家、用 KAN 学习时序特征映射」的可训练预测器,可直接套用到 DiT 类图像/视频生成模型的推理加速上,在 FLUX、Qwen-Image、HunyuanVideo 上验证了 5–6 倍加速且质量几乎不掉。

特征缓存扩散-TransformerKolmogorov-Arnold-网络
03
生成模型与扩散 / CVPR2026

从草图到湿壁画:渐进分辨率的 Efficient 扩散 Transformer

From Sketch to Fresco: Efficient Diffusion Transformer with Progressive Resolution

把「低分辨率起草 + 高分辨率精修」做成跨阶段对齐同一目标的免训练采样框架,可直接套到 FLUX、HunyuanVideo 等 DiT 上,并与蒸馏、量化、特征缓存正交叠加,是降低迭代采样成本的可复用加速手段。

动态分辨率采样扩散-Transformer渐进式上采样
04
高效模型与推理加速 / CVPR2026

预测主成分、稳定残差:面向扩散 Transformer 的子空间感知特征缓存

Forecast the Principal, Stabilize the Residual: Subspace-Aware Feature Caching for Diffusion Transformers

对做扩散 Transformer 采样加速的人,可直接把 SVD 分解 + 主/残差子空间差异化预测(主成分 EMA 预测、残差直接复用)作为免训练缓存策略,替换现有均匀缓存,并可与蒸馏、量化、稀疏注意力叠加。

特征缓存扩散-Transformer奇异值分解
05
高效模型与推理加速 / CVPR2026

DisCa:面向视频扩散 Transformer 的蒸馏兼容可学习特征缓存加速

DisCa: Accelerating Video Diffusion Transformers with Distillation-Compatible Learnable Feature Caching

用轻量可学习神经预测器替代无训练启发式特征缓存,并与步数蒸馏联合优化,可直接迁移到任意视频扩散 Transformer 的少步推理管线中以降低采样开销。

特征缓存步数蒸馏扩散-Transformer
06
高效模型与推理加速 / CVPR2026

去噪即路径规划:基于 DPCache 的扩散模型免训练加速

Denoising as Path Planning: Training-Free Acceleration of Diffusion Models with DPCache

把扩散采样中「跳过哪些时间步」从局部启发式升级为基于路径代价张量 + 动态规划的全局调度,可直接套用到 DiT/FLUX/视频扩散等任意迭代采样器的免训练加速上,是缓存类加速方法(DeepCache、TeaCache 等)的通用改进思路。

扩散采样加速特征缓存动态规划
07
高效模型与推理加速 / CVPR2026

超越固定公式:面向高效扩散模型的数据驱动线性预测器

Beyond Fixed Formulas: Data-Driven Linear Predictor for Efficient Diffusion Models

把手工设计的 Taylor 式特征外推系数换成按时间步学习的线性权重,只需少量缓存轨迹、单卡约 20 秒即可训好,可直接插到 DiT/FLUX/Qwen-Image 等现有采样管线上做免训练加速,是特征缓存类加速方法的一个即插即用替换件。

特征缓存扩散-Transformer免训练加速