Tag · 14 篇
掩码图像建模
X-WIN：通过预测性感知构建胸部X射线世界模型
X-WIN: Building Chest Radiograph World Model via Predictive Sensing
X-WIN 通过从 CT 体数据蒸馏三维解剖知识来构建 CXR 世界模型，其潜空间投影预测与亲和力引导对比对齐损失可迁移到其他需要从 2D 投影恢复 3D 结构的视觉任务，如 X 光片的三维重建与跨模态表征学习。
释放多模态大语言模型内在的视觉表征能力
Unleashing the Intrinsic Visual Representation Capability of Multimodal Large Language Models
把掩码图像建模搬到 MLLM 的联合潜语义空间里做视觉重建，为视觉表征提供直接监督信号，可复用于任何需要增强 VLM 密集视觉能力的训练流程。
Uni-Encoder 遇上多编码器：面向缺失模态脑肿瘤分割的融合前表征
Uni-Encoder Meets Multi-Encoders: Representation Before Fusion for Brain Tumor Segmentation with Missing Modalities
两阶段「先表征后融合」的异构架构值得借鉴：先用掩码图像建模预训练单一 ViT 获得对模态缺失鲁棒的全局表征，再接入模态特定的 CNN 多编码器补回高分辨率细节，这一解耦思路可迁移到其他多模态缺失输入的密集预测任务。
TIPSv2：以增强的图像块-文本对齐推进视觉-语言预训练
TIPSv2: Advancing Vision-Language Pretraining with Enhanced Patch-Text Alignment
论文提出的 iBOT++ 让未掩码 token 也直接参与损失，并证明图像块级蒸馏可显著增强稠密图像块-文本对齐（学生甚至超过教师），为需要稠密视觉-语言对齐的下游任务（分割、深度预测、开放词表定位）提供了可复用的预训练配方。
抑制掩码图像建模表征中的非语义噪声
Suppressing Non-Semantic Noise in Masked Image Modeling Representations
对做 MIM 预训练的人，这篇给出了一个免训练、可插拔的线性头，把图像块表征里与语义无关的分量投影掉，从而直接提升下游零样本性能；其基于 PCA 的语义不变性打分也可作为评估表征语义纯度的通用诊断工具。
渐进式掩码蒸馏用于自监督视频表征
Progressive Mask Distillation for Self-supervised Video Representation
把「由易到难」的课程式蒸馏引入掩码视频建模：用低掩码率学生模型的知识去指导高掩码率学生模型，并配合区域级损失加权与跨层特征对齐，可直接迁移到任何 MAE 类视频/图像预训练框架中提升高掩码率下的细节重建。
OlmoEarth：面向多模态地球观测的稳定潜空间图像建模
OlmoEarth: Stable Latent Image Modeling for Multimodal Earth Observation
面向多模态时空遥感数据设计的自监督掩码策略与损失，可作为把掩码图像建模从静态 RGB 扩展到多时相多传感器输入的参考；其嵌入与全微调两套评测协议也值得在遥感下游任务中复用。
NeighborMAE：在掩码自编码器预训练中利用相邻对地观测图像间的空间依赖
NeighborMAE: Exploiting Spatial Dependencies between Neighboring Earth Observation Images in Masked Autoencoders Pretraining
把「相邻区域图像」作为联合重建目标引入 MAE 预训练，并配合动态掩码比例与像素损失权重，可直接迁移到遥感、航拍等大幅面连续场景的预训练流程中，替代单图独立掩码的做法。
MuM：面向三维视觉的多视图掩码图像建模
MuM: Multi-View Masked Image Modeling for 3D Vision
把 MAE 从双视图 CroCo 扩展到任意多视图、统一掩码加帧间注意力轻量解码器，为需要几何推理的视觉任务（前馈重建、稠密匹配、相对位姿）提供了一个可直接替换 DINOv3/CroCo 的预训练编码器方案。
面向3D医学视觉表征学习的掩码扩散自编码器
Masked-Diffusion Autoencoders for 3D Medical Vision Representation Learning
把「空间掩码 + 扩散加噪」两种破坏叠加成统一的时间条件去噪目标，让同一网络同时学结构重建与纹理去噪；做3D医学（或任何低标注3D体数据）自监督预训练时，可直接借用这套双破坏预训练范式替代单一MAE或对比学习。
MEMO：使用掩码边缘预测实现类人的清晰边缘检测
MEMO: Human-like Crisp Edge Detection Using Masked Edge Prediction
提出「掩码边缘预测 + 按置信度渐进定稿」的训练/推理范式，无需专用损失或改网络即可把粗边缘细化到单像素级；其置信度梯度观察与渐进预测策略可迁移到其他密集预测任务（如显著性、抠图、二值分割）的细化环节。
从语义词典中学习：面向统一视觉表征与生成的判别式码本对比学习
Learning from Semantic Dictionaries: Discriminative Codebook Contrastive Learning for Unified Visual Representation and Generation
把生成式掩码词元重建与码本对比损失结合在同一个离散词元空间里训练，为视觉研究者提供了一条无需数据增强、教师模型和在线分词器即可同时获得强表征与高质量生成的统一预训练路径，可直接复用于统一理解-生成模型的骨干预训练。
无需文本学习有效手语特征的无注释手语翻译
Learning Effective Sign Features without Text for Gloss-free Sign Language Translation
SignDINO 将 DINO 的自蒸馏框架与局部掩码视图结合，仅用全局帧推理即可获得对细微运动敏感的表征，这一「全局-局部掩码对齐」策略可迁移到其他需要细粒度运动建模的视觉任务（如动作识别、微表情分析）的预训练中。
酿造更强特征：面向多光谱对地观测的双教师蒸馏
Brewing Stronger Features: Dual-Teacher Distillation for Multispectral Earth Observation
将现代光学视觉基础模型的对比自蒸馏范式迁移到多光谱遥感预训练，通过双教师（多光谱教师+光学VFM教师）对齐全局语义结构，为跨模态表征学习提供了可复用的蒸馏框架。