Tag · 4 篇
动态图像块划分
重新审视词元压缩:加速基于ViT的稀疏多视图3D目标检测器
Revisiting Token Compression for Accelerating ViT-based Sparse Multi-View 3D Object Detectors
把「图像块尺寸」本身当作可动态调节的压缩维度,配合跨粒度特征增强把粗块丢失的细节补回来,可直接迁移到任何 ViT 主干的多视图/时序感知模型上做免训练或轻训练加速。
DPAR:面向高效自回归视觉生成的动态图像块划分
DPAR: Dynamic Patchification for Efficient Autoregressive Visual Generation
用轻量无监督自回归模型的下一词元预测熵作为信息量准则,动态合并词元为大图像块,可直接迁移到任何 decoder-only 视觉自回归生成器中以降低注意力计算并加速收敛。
DDiT:面向高效扩散 Transformer 的动态图像块调度
DDiT: Dynamic Patch Scheduling for Efficient Diffusion Transformers
把 DiT 固定的图像块划分换成随去噪时间步与内容复杂度变化的动态图像块尺寸,是一种无需训练、即插即用的推理加速手段,可直接套用到 FLUX、Wan 等基于 Transformer 的扩散生成模型上,在几乎不损失生成质量的前提下减少 token 数量。
面向高效视频扩散的内容感知动态图像块划分
Content-Aware Dynamic Patchification for Efficient Video Diffusion
把「固定图像块划分」换成由轻量 router 从 3D VAE latent 预测每个时空区域的 patch 大小,并配可学习的 patchify/unpatchify 层,可直接插到现有 DiT 骨干上;做视频/图像扩散加速时,这是一个无需改架构就能减少词元数的即插即用方案,其注意力引导的显著性对齐损失也可迁移到其他词元压缩方法。