Tag · 5 篇
零样本检索
通过教师引导的双路径音视频表征学习实现语义噪声消减
Semantic Noise Reduction via Teacher-Guided Dual-Path Audio-Visual Representation Learning
把对比对齐与掩码重建拆成两条独立优化路径、各自使用不同的可见 patch 模式,并用教师模型组织对比分支的可见 token——这套解耦思路可直接迁移到图像/视频的自监督预训练中,缓解多目标联合优化时的语义噪声与梯度干扰。
STiTch:协同语义过渡与传输的免训练零样本组合图像检索
STiTch: Semantic Transition and Transportation in Collaboration for Training-Free Zero-Shot Composed Image Retrieval
把检索从点对点匹配改成基于最优传输的集合到集合对齐,并用嵌入空间中的过渡向量修正 LLM 生成的描述,这两点可直接迁移到任何图文检索或跨模态匹配任务中。
面向视觉解耦的语言先验:迈向对称的视觉-大脑对齐
Linguistic Priors for Visual Decoupling: Towards Symmetric Vision-Brain Alignment
用面向物体的文本描述作为语义先验,把自然图像中的前景物体与背景显式解耦,再与含噪脑信号做语义对称对齐;这套「语言先验引导的视觉解耦」思路可迁移到图像-文本-神经信号三模态对齐、以及需要抑制背景干扰的跨模态检索任务。
G-MIXER:基于测地线混合的隐式语义扩展与显式语义重排序用于零样本组合图像检索
G-MIXER: Geodesic Mixup-based Implicit Semantic Expansion and Explicit Semantic Re-ranking for Zero-Shot Composed Image Retrieval
对做视觉-语言检索的人,这篇给出了一个免训练范式:用测地线插值在参考图特征与文本特征之间按多个混合比例生成组合查询,从而显式建模查询的隐式语义并扩大候选多样性,再用 MLLM 生成的显式描述做重排序;这套「隐式扩展+显式重排」的两阶段思路可直接迁移到其他跨模态检索与组合式查询任务。
面向组合视频检索的组合式变换推理
Compositional Transformation Reasoning for Composed Video Retrieval
把组合式图文查询拆成实体、动作、场景三个推理维度,并用多模态大模型做成对候选推理,这套零样本流程可直接迁移到视频-文本检索与视频时序变化理解任务中,避免依赖噪声三元组训练。