Tag · 6 篇
教师-学生蒸馏
VIRAL：面向人形机器人移动操作的大规模视觉仿真到现实迁移
VIRAL: Visual Sim-to-Real at Scale for Humanoid Loco-Manipulation
对做视觉的研究者，这篇给出了一个可复用的配方：用大规模平铺渲染 + 覆盖光照/材质/相机参数/图像质量/传感器延迟的视觉域随机化，配合真实到仿真的相机与灵巧手对齐，把纯 RGB 策略零样本迁移到真机；其中「算力规模（数十 GPU）是 sim-to-real 成败关键」这一结论值得在视觉策略训练中直接借鉴。
面向扩散 Transformer 的可插拔剪枝与连续层蒸馏
Pluggable Pruning with Contiguous Layer Distillation for Diffusion Transformers
对做扩散 Transformer 生成的人，这套「线性探针定位冗余层区间 + 深度/宽度联合剪枝 + 一次性教师-学生交替蒸馏」的流程可直接迁移到自己的 DiT/MMDiT 骨干上，无需为每个剪枝比例重训即可在 50% 参数下保持生成质量。
为人形机器人像素到动作策略迁移打开仿真到现实之门
Opening the Sim-to-Real Door for Humanoid Pixel-to-Action Policy Transfer
论文展示了仅凭 RGB 感知、完全在仿真中训练的人形机器人全身 loco-manipulation 策略如何零样本迁移到真实铰接物体（如多种门）上；其中分阶段重置探索与基于 GRPO 的微调可用于缓解视觉部分可观测性、提升闭环一致性，对做视觉-动作策略 sim-to-real 的研究者是可复用的训练配方。
无需数据的流映射蒸馏
Flow Map Distillation Without Data
把流映射蒸馏的数据依赖替换为仅从先验分布采样，并显式校正学生沿采样路径的累积误差，可直接用于把任意预训练扩散/流模型压到 1 步采样而不需要外部数据集。
FastLightGen：更少步数与参数的高效轻量视频生成
FastLightGen: Fast and Light Video Generation with Fewer Steps and Parameters
把「少步采样蒸馏」与「参数剪枝」放进同一个教师-学生框架里联合优化，并指出先构造一个最优教师模型是关键；做视频扩散加速时可以直接复用这套联合蒸馏流程与 4 步 + 30% 剪枝的配置经验。
Dark3R：在黑暗中学习运动恢复结构
Dark3R: Learning Structure from Motion in the Dark
将大规模3D基础模型通过教师-学生蒸馏适配到极低光照原始图像，实现鲁棒的特征匹配与相机姿态估计，可直接用于暗光下的运动恢复结构和新视角合成。