Tag · 5 篇
模态对齐
面向多模态持续学习中的动态模态对齐
Towards Dynamic Modality Alignment in Multimodal Continual Learning
把跨模态对齐看作随任务与网络层演化而变化的动态过程,并用多层图正则化约束它,这个思路可直接迁移到视觉-语言模型的持续预训练或增量微调中,用来抑制跨模态表征漂移。
面向隐私保护可见光-红外行人重识别的跨模态保持、一致性与对齐
Towards Cross-Modal Preservation, Consistency and Alignment for Privacy-Preserving Visible-Infrared Person Re-Identification
针对可见光-红外行人重识别中的隐私保护问题,提出关键点保持正则化与差分一致性引导的模态对齐,可复用于跨模态检索中的匿名化特征对齐。
警惕无源跨域少样本学习中的判别性陷阱
Mind the Discriminability Trap in Source-Free Cross-domain Few-shot Learning
揭示了 VLM 在无源跨域少样本微调中「视觉判别性越强反而越差」的捷径现象:交叉熵损失中的视觉学习项会绕过跨模态对齐,因此做 CLIP/SigLIP 下游适配时应显式扰动视觉分支并利用图文语义关系逐步恢复模态对齐,而不是一味增强视觉特征判别性。
MOS:弥合光学-SAR模态鸿沟的跨模态船舶重识别
MOS: Mitigating Optical-SAR Modality Gap for Cross-Modal Ship Re-Identification
把光学-SAR跨模态ReID的模态鸿沟拆成表征对齐与样本生成两条线:类级模态对齐损失 + 布朗桥扩散模型合成跨模态样本并在推理时做特征融合,这套「生成式跨模态补全」思路可直接迁移到可见光-红外、RGB-深度等跨模态检索与ReID任务。
CaReFlow:用于多模态融合的循环自适应整流流
CaReFlow: Cyclic Adaptive Rectified Flow for Multimodal Fusion
把整流流当作跨模态分布映射器,用一对多映射让源模态每个样本看到目标模态全局分布,配合自适应松弛对齐与循环整流流约束,可作为视觉-文本/视觉-音频特征对齐的通用预对齐模块,替代扩散或对抗式一对一对齐。