Tag · 14 篇
CLIP
VRCLIP:面向CLIP驱动的视觉-无线电行人重识别的多模态典型相关对齐
VRCLIP: Multimodal Canonical Correlation Alignment for CLIP-Driven Vision-Radio Person Re-Identification
把跨模态对齐从分布匹配改成典型相关分析(CCA)子空间上的相关性最大化,避免过度正则化削弱模态内判别性;这个思路可直接迁移到RGB-红外、RGB-深度、RGB-文本等任意异质模态ReID或检索任务的特征融合环节。
面向视觉语言模型提示词微调的校准
Towards Calibrating Prompt Tuning of Vision- Language Models
为 CLIP 提示词微调提供了一套即插即用的校准正则项:均值-方差间隔惩罚稳定类间 logit 间隔,文本矩匹配损失约束微调后文本嵌入的一二阶矩贴近冻结 CLIP 嵌入,可直接加到现有 prompt tuning 训练目标上降低 ECE。
文本引导特征解耦的跨模态步态识别
Text-guided Feature Disentanglement for Cross-modal Gait Recognition
用 LLM 生成的模态感知文本先验作为语义锚点,配合 CLIP 多粒度编码器把激光雷达点云序列与 RGB 视频对齐到统一视觉-语言空间,再通过 top-k 文本匹配与残差正交约束解耦出模态共享步态特征;这套「文本引导解耦」思路可迁移到其他 2D-3D 跨模态检索与识别任务。
SOUPLE:以可学习提示词上下文增强音视频定位与分割
SOUPLE: Enhancing Audio-Visual Localization and Segmentation with Learnable Prompt Contexts
用可学习的上下文词元替代 CLIP 中固定的文本提示词,并把视觉特征注入其中生成条件上下文,为视觉侧提供了一种可复用的提示词调优范式,可直接迁移到开放词表检测、指代分割等需要文本-视觉对齐的任务。
重新利用丢失的文本层用于无源跨域少样本学习
Reclaiming Lost Text Layers for Source-Free Cross-Domain Few-Shot Learning
揭示了CLIP文本编码器中间层在跨域少样本学习中的潜在价值,并提出通过层级别和编码器级别的引导来重新利用这些信息,为视觉分支在域偏移下的再学习提供了新思路。
ReAttnCLIP:通过重新定义CLIP中的注意力实现免训练开放词表遥感图像分割
ReAttnCLIP: Training-Free Open-Vocabulary Remote Sensing Image Segmentation via Re-defined Attention in CLIP
通过重新定义CLIP的注意力矩阵(替换patch-to-patch子矩阵、优先中间层注意力、禁用[CLS]自注意力)来提升开放词表分割的patch级表征质量,该思路可迁移到其他基于CLIP的密集预测任务。
超越窗口:全局-局部对齐CLIP用于免训练开放词表语义分割
Looking Beyond the Window: Global-Local Aligned CLIP for Training-free Open-Vocabulary Semantic Segmentation
提出全局-局部对齐的CLIP框架,通过跨窗口键值令牌交换和代理锚点解决滑窗推理中的语义不一致问题,可直接用于提升免训练开放词表分割方法的高分辨率处理能力。
利用 CLIP 中的类别分布进行弱监督语义分割
Leveraging Class Distributions in CLIP for Weakly Supervised Semantic Segmentation
利用 CLIP 的 patch 级类别分布(JS 散度)生成更完整的 CAM,并用 DINO 的结构知识做边界超类原型监督,可直接用于弱监督分割的伪标签质量提升。
学习多样化与聚焦:面向开放词表人-物交互检测的强化学习框架
Learning to Diversify and Focus: A Reinforcement Framework for Open-Vocabulary HOI Detection
用强化学习驱动的语义扰动与 actor-critic 注意力精炼,缓解 CLIP 一阶段范式对已见交互的过拟合,可直接迁移到其他开放词表检测/grounding 任务中提升对未见类别的泛化与细粒度定位。
IsoCLIP:分解 CLIP 投影器以实现高效的模态内对齐
IsoCLIP: Decomposing CLIP Projectors for Efficient Intra-modal Alignment
对做视觉检索或复用 CLIP 图像编码器的人,这篇给出了一个免训练的后处理:从 projector 权重里用谱分析取出跨模态对齐的各向同性子空间,丢掉模态特有的各向异性方向,就能直接提升 image-to-image 检索并降低延迟,可作为一个即插即用的特征变换。
由视频扩散模型提供目标驱动奖励的强化学习
Goal-Driven Reward by Video Diffusion Models for Reinforcement Learning
把预训练视频扩散模型的视频编码器潜变量与生成目标视频的对齐度当作奖励,并用 CLIP 从生成视频中挑出目标帧、再以前向后向表征给出帧级奖励——这套「用生成模型当奖励函数」的流程可直接迁移到视觉驱动的机器人操作与导航任务中,替代人工设计的程序化奖励。
通过混合内容-风格调制实现可泛化的共显著目标检测
Generalizable Co-Salient Object Detection via Mixed Content-Style Modulation
该文将CLIP语义嵌入与交叉注意力结合提取域不变场景结构先验,并通过合成特征统计量(均值/方差)做源域风格增强,为视觉分割任务在未见域上的泛化提供了一套可复用的内容-风格调制思路。
DLVP-CLIP:通过动态局部视觉提示增强细粒度零样本异常检测
DLVP-CLIP: Enhancing Fine-Grained Zero-Shot Anomaly Detection via Dynamic Local Visual Prompting
用语义感知的局部特征选择器从图像关键区域动态抽取视觉提示词 token,替代预定义文本提示词模板来补足 CLIP 的局部细节感知,这一动态视觉提示思路可直接迁移到其他需要细粒度局部判别的 CLIP 下游任务(如缺陷检测、病灶定位)。
超越显式语言:面向通用目标跟踪的即插即用视觉到语言建模
Beyond Explicit Language: Plug-and-Play Visual-to-Linguistic Modeling Toward General Object Tracking
提出一个即插即用的文本反转模块,将模板和搜索区域的视觉特征映射到CLIP文本嵌入空间,无需显式语言输入即可为跟踪器注入语言引导,可复用于其他视觉任务以隐式利用语言先验。