Tag · 4 篇
动态规划
TaskIT：通过跨任务重要性迁移实现多 LoRA 大语言模型的显存高效微调
TaskIT: Memory-Efficient Fine-Tuning of Multi-LoRA LLMs via Cross-Task Importance Transfer
对需要在显存受限设备上部署多任务视觉-语言模型的场景，TaskIT 的跨任务重要性迁移与基于块的显存预测器可用于在插入 LoRA 模块前估计其重要性，并配合动态规划调度器在显存预算内选择模块位置、数量与秩，可直接迁移到多任务视觉基础模型的端侧微调。
SODA：面向敏感性的扩散 Transformer 动态加速
SODA: Sensitivity-Oriented Dynamic Acceleration for Diffusion Transformer
对做扩散 Transformer 采样加速的人，这篇给出了一个可复用的思路：用离线敏感性误差建模（跨时间步、层、模块）作为代价函数，用动态规划求最优缓存间隔，并在剪枝与缓存复用时按 token 敏感性自适应决定剪枝时机与比例，可直接嵌入现有 DiT 推理管线以在可控加速比下提升保真度。
去噪即路径规划：基于 DPCache 的扩散模型免训练加速
Denoising as Path Planning: Training-Free Acceleration of Diffusion Models with DPCache
把扩散采样中「跳过哪些时间步」从局部启发式升级为基于路径代价张量 + 动态规划的全局调度，可直接套用到 DiT/FLUX/视频扩散等任意迭代采样器的免训练加速上，是缓存类加速方法（DeepCache、TeaCache 等）的通用改进思路。
DDT：解耦扩散 Transformer
DDT: Decoupled Diffusion Transformer
把扩散 Transformer 的编码器与速度解码器解耦，让编码器专注低频语义、解码器专注高频细节，可直接迁移到任何 DiT 类骨干（如 DiT、SiT、UViT）以加速收敛；其相邻去噪步共享自条件的统计动态规划策略，也为少步推理与缓存复用提供了可复用的调度思路。