Tag · 13 篇
自蒸馏
VQRAE：面向多模态理解、生成与重建的表征量化自编码器
VQRAE: Representation Quantization Autoencoders for Multimodal Understanding, Generation and Reconstruction
提出用高维语义VQ码本（1536维）在统一分词器中同时输出连续语义特征和离散token，视觉研究者可借鉴其两阶段训练策略（先冻结编码器学码本，再自蒸馏联合优化）来构建兼顾理解与生成的视觉表征。
面向鲁棒多模态语义分割的教师-学生框架与混合原型蒸馏
Towards Robust Multi-Modal Semantic Segmentation with Teacher-Student Framework and Hybrid Prototype Distillation
面向缺失模态的多模态语义分割，用反馈式自蒸馏让教师从非主导模态获得学生反馈，并用高层语义原型做跨模态蒸馏、用类内特征变化蒸馏保留模态特有细节，可直接迁移到任意多模态融合分割骨干上提升缺失模态鲁棒性。
StaR-KVQA：面向隐式知识视觉问答的结构化推理链
StaR-KVQA: Structured Reasoning Traces for Implicit-Knowledge Visual Question Answering
对做VQA/多模态推理的人，可复用其「符号关系路径+路径锚定自然语言解释」的双路推理链构造与离线数据筛选流程，把答案监督升级为结构感知的自蒸馏，无需外部检索器即可在单次自回归推理中提升可解释性与准确率。
复用三维生成模型进行自回归布局生成
Repurposing 3D Generative Model for Autoregressive Layout Generation
把预训练 3D 扩散模型改造为自回归布局生成器，并用双引导自 rollout 蒸馏提升空间精度与推理效率，为 3D 场景合成提供了一条可复用的「生成模型复用 + 蒸馏加速」路线。
为开放词表稠密感知重构 CLIP
Reconstructing CLIP for Open-Vocabulary Dense Perception
对做开放词表稠密感知的人，这篇给出了如何从 CLIP 全局 cls token 的多层 value embedding 构造稠密特征、并用轻量门控模块按 head 异质性重加权以缓解空间聚合带来的语义错位的具体做法，可直接迁移到开放词表检测与分割的稠密-全局对齐流程中。
NoOVD：面向开放词表目标检测的新类别发现与嵌入
NoOVD: Novel Category Discovery and Embedding for Open-Vocabulary Object Detection
利用冻结视觉语言模型的知识进行自蒸馏，引导RPN和RoI头发现新类别目标，避免被误判为背景；并通过R-RPN在推理时调整候选框置信度，提升新类别召回率。
MARCO：探索语义对应的未知空间
MARCO: Navigating the Unseen Space of Semantic Correspondence
用自蒸馏把稀疏关键点监督扩展成密集语义一致的对应，配合粗到细目标提升细粒度定位，为做稠密匹配/关键点迁移的视觉工作提供了一个可替换扩散骨干的轻量 DINOv2 训练框架。
LOREAL：以属性驱动提示自蒸馏缓解视觉语言模型的低分辨率挑战
LOREAL: Mitigating Low-Resolution Challenges in Vision-Language Models with Attribute-driven Prompt Self-Distillation
针对边缘设备低分辨率输入（<224×224、token 数减少）下 CLIP 类 VLM 的性能退化，提出双学生提示自蒸馏框架，用 LLM 查询的分辨率不变属性语义与跨模态元网络在低层/高层做跨分辨率蒸馏，可直接迁移到任何需要分辨率鲁棒性的提示学习或参数高效微调流程中。
HAD：面向终身异质学习的异质性感知蒸馏
HAD: Heterogeneity-Aware Distillation for Lifelong Heterogeneous Learning
提出无样本回放的异质知识蒸馏框架，通过分布平衡和显著性引导的蒸馏损失，在密集预测任务序列中保留不同输出结构的异质知识，可复用于多任务或持续学习场景。
FRAMER：频率对齐的自蒸馏与自适应调制，利用扩散先验实现真实世界图像超分辨率
FRAMER: Frequency-Aligned Self-Distillation with Adaptive Modulation Leveraging Diffusion Priors for Real-World Image Super-Resolution
提出一种即插即用的训练方案，利用扩散模型内部特征图的频域分解（LF/HF）进行自蒸馏，通过对比损失和自适应调制增强高频细节重建，可推广到其他基于扩散先验的低层视觉任务。
FFP-300K：扩展首帧传播以实现可泛化的视频编辑
FFP-300K: Scaling First-Frame Propagation for Generalizable Video Editing
提出无需运行时引导的首帧传播视频编辑框架，其 AST-RoPE 通过动态重映射位置编码解耦外观与运动参考，可迁移到任何以首帧为条件的视频生成/编辑模型；同时 300K 高质量视频对数据集为训练鲁棒时序先验提供了数据基础。
通过聚类感知上采样增强混合专家模型的特化能力
Enhancing Mixture-of-Experts Specialization via Cluster-Aware Upcycling
对需要在视觉-语言预训练中把稠密 CLIP 骨干升级为 MoE 的研究者，本文给出一种可复用的初始化方案：用输入激活的语义聚类 + 截断 SVD 初始化各专家、用聚类质心初始化路由器，并配合专家集成自蒸馏稳定路由，可直接替换稀疏上采样以提升零样本/少样本迁移。
BinaryAttention：面向视觉与扩散Transformer的一比特QK注意力
BinaryAttention: One-Bit QK-Attention for Vision and Diffusion Transformers
将注意力中的QK点积二值化为符号位运算，用位运算替代浮点乘法，在视觉Transformer和扩散Transformer上实现端到端加速，为低比特注意力提供可复用方案。