Tag · 3 篇
图像文本检索
分布 高效模型与推理加速1自监督与表征学习1视觉语言模型1
01 02 03
ERMoE：用于稳定路由与可解释专家特化的特征基重参数化混合专家模型
ERMoE: Eigen-Reparameterized Mixture-of-Experts for Stable Routing and Interpretable Specialization
用专家表示空间的正交特征基余弦相似度替代可学习门控 logits 做路由，可作为一种免辅助负载均衡损失的 MoE 路由方案，直接迁移到视觉 Transformer 的稀疏扩容与多模态检索骨干中。
基于影响匹配的数据集蒸馏
Dataset Distillation by Influence Matching
用可微的样本级影响估计器替代逐步梯度/轨迹匹配来学习合成数据，视觉研究者可将其作为数据压缩与高效预训练的数据构造手段，并可直接迁移到图文检索等跨模态蒸馏场景。
基于专家协作的伪装感知图像-文本检索
Camouflage-aware Image-Text Retrieval via Expert Collaboration
针对伪装场景中目标与背景高度相似导致跨模态对齐困难的问题，提出双分支视觉编码器与置信度条件图注意力机制，可复用于其他低对比度或复杂背景下的视觉-语言检索任务。