Tag · 22 篇
提示学习
以2D语义知识解锁3D功能可供性分割
Unlocking 3D Affordance Segmentation with 2D Semantic Knowledge
利用2D视觉基础模型的语义知识,通过跨模态亲和力迁移预训练3D编码器,为点云功能可供性分割提供结构化特征学习方案。
双先验文本-相位协同网络用于无监督跨域图像检索
Text-Phase Synergy Network with Dual Priors for Unsupervised Cross-Domain Image Retrieval
利用CLIP生成的域特定提示作为文本先验提供语义监督,并引入域不变相位特征作为相位先验桥接域分布差距,为无监督跨域检索提供可复用的双先验协同框架。
Tell2Adapt:基于视觉基础模型的无源无监督域自适应统一框架
Tell2Adapt: A Unified Framework for Source Free Unsupervised Domain Adaptation via Vision Foundation Model
利用视觉基础模型(VFM)的上下文感知提示正则化生成高质量伪标签,并通过视觉合理性精炼将预测重新锚定到目标图像的低层特征,为无源域自适应分割提供可复用的两阶段框架。
TTL:面向预训练视觉语言模型 OOD 检测的测试时文本学习
TTL: Test-time Textual Learning for OOD Detection with Pretrained Vision-Language Models
把 CLIP 的可学习 prompt 在无标签测试流上做在线更新,并用伪标签筛选与文本知识库做跨批次分数校准,可直接迁移到任何需要测试时分布漂移检测的视觉流水线(如开放世界分类、异常检测)。
SDDF:面向开放词表伪装目标检测的特异性驱动动态聚焦
SDDF: Specificity-Driven Dynamic Focusing for Open-Vocabulary Camouflaged Object Detection
针对伪装目标与背景视觉高度相似导致开放词表检测失效的问题,提出子描述主成分对比融合来过滤多模态大模型生成的冗余修饰词,并用特异性引导的区域弱对齐与动态聚焦增强前景-背景判别,可直接迁移到任何文本提示驱动的检测器中做提示去噪与区域对齐。
OmniFM:面向异构医学影像的模态鲁棒与任务无关联邦学习
OmniFM: Toward Modality-Robust and Task-Agnostic Federated Learning for Heterogeneous Medical Imaging
把低频频谱分量当作跨模态共享的解剖结构先验,这一思路可直接迁移到多模态医学图像的分割/超分骨干上,用频域提示替代模态专属适配器;其前缀-后缀频谱提示与嵌入级交叉注意力融合也可作为跨模态对齐的轻量插件。
面向可泛化医学图像分割的多模态因果驱动表征学习
Multimodal Causality-Driven Representation Learning for Generalizable Medical Image Segmentation
把因果干预引入 CLIP 式视觉语言模型:用文本提示构建「混淆因子字典」来显式建模设备/成像模式等域偏移,再做因果去混淆,这套「字典+干预」思路可迁移到任何需要跨域泛化的分割或检测任务。
多粒度感知语义原型扫描与三词元提示学习驱动的高阶 RWKV 全色锐化
Multigrain-aware Semantic Prototype Scanning and Tri-Token Prompt Learning Embraced High-Order RWKV for Pan-Sharpening
将 RWKV 的栅格扫描替换为基于局部敏感哈希的语义原型扫描,并用全局/原型/寄存器三词元提示词注入语义先验,可直接迁移到其他线性复杂度视觉骨干的全局建模与词元重排设计中。
Lenses:迈向多义视觉-语言理解
Lenses: Toward Polysemous Vision-Language Understanding
把「图像多义性」显式建模为可学习的 lens token 加多提示嵌入,并用 lens-masking 相似度做检索,为视觉-语言检索/描述任务提供了一个可复用的多视角对齐范式,也提示现有 VLM 评测存在字面语义偏置。
自我学习:从视觉语言模型内部挖掘知识用于持续学习
Learning from Itself: Mining Internal Knowledge from Vision Language Models for Continual Learning
把 CLIP 的文本编码器当作可挖掘的内部监督源:通过优化可学习 token 生成伪描述来弥合预训练-下游分布差距,并用按瞬时性能加权的双向蒸馏在视觉分类器与文本编码器之间迁移知识,推理时零额外开销——这套「模型自教」流程可直接迁移到任何需要持续适配的视觉-语言下游任务。
LOREAL:以属性驱动提示自蒸馏缓解视觉语言模型的低分辨率挑战
LOREAL: Mitigating Low-Resolution Challenges in Vision-Language Models with Attribute-driven Prompt Self-Distillation
针对边缘设备低分辨率输入(<224×224、token 数减少)下 CLIP 类 VLM 的性能退化,提出双学生提示自蒸馏框架,用 LLM 查询的分辨率不变属性语义与跨模态元网络在低层/高层做跨分辨率蒸馏,可直接迁移到任何需要分辨率鲁棒性的提示学习或参数高效微调流程中。
FedMPT:视觉语言模型的联邦多标签提示微调
FedMPT: Federated Multi-Label Prompt Tuning of Vision-Language Models
在联邦场景下对 VLM 做多标签提示微调时,用 LLM 生成的条件提示与图像 patch 做最优传输来挖掘区域级语义,并用门控融合多条件预测,可缓解客户端异构数据导致的虚假标签共现过拟合;这套「条件提示 + 区域对齐」思路可迁移到其他需要细粒度多标签或开放词表的 VLM 适配任务。
探索扩散模型在机器人控制中的条件设计
Exploring Conditions for Diffusion Models in Robotic Control
将预训练文生图扩散模型冻结后作为任务自适应的视觉表征提取器,用可学习任务提示与帧级视觉提示替代纯文本条件,为视觉研究者提供了一种无需微调即可把生成模型迁移到下游控制任务的条件设计思路。
以文本语义增强视觉表征:文本语义驱动的原型用于异构联邦学习
Enhancing Visual Representation with Textual Semantics: Textual Semantics-Powered Prototypes for Heterogeneous Federated Learning
用大语言模型生成的类文本描述经预训练语言模型编码成语义原型,再通过可训练提示与客户端图像特征对齐,为视觉表征学习提供了一种跨模态语义先验注入手段,可迁移到长尾/异构数据下的分类表征对齐。
面向视觉语言模型测试时自适应的动态 Logits 调整与探索
Dynamic Logits Adjustment and Exploration for Test-Time Adaptation in Vision Language Models
针对 VLM 测试时自适应中熵过滤只取高置信样本、继承类别偏置的问题,提出用测试预测统计动态校准 logits,并用一致性引导的探索缓存主动纳入决策边界附近样本;这套「logit 校准 + 边界探索缓存」可直接迁移到 CLIP 类模型的在线部署与分布偏移场景。
思维链引导的多模态目标重识别
Chain-of-Thought Guided Multi-Modal Object Re-Identification
把 MLLM 的思维链文本推理作为锚框条件,在早期特征、跨模态一致性和决策三个层级约束视觉特征学习,为视觉-语言检索类任务提供了一种可复用的「文本逻辑引导视觉表征」范式。
CF-IPT:面向多源遥感数据分类的视觉语言预训练模型跨模态融合交互提示微调
CF-IPT: Cross-Modal Fusion Interactive Prompt Tuning of Vision-Language Pre-Trained Model for Multisource Remote Sensing Data Classification
把 CLIP 的提示学习从自然图像迁移到多源遥感:用光谱-空间提示矩阵引导视觉与文本分支的交互,仅训练 0.76% 参数即可完成多源图像分类,可作为跨模态提示微调在非自然图像域的可复用范式。
以双粒度对齐增强 CLIP 的视觉重编程
Boosting Visual Reprogramming for CLIP with Dual Granularity Alignment
把 CLIP 的视觉重编程从单层图文对齐扩展到「多尺度视觉粒度 + 标签层级语义粒度」的双粒度对齐,其中不确定性校准的预测融合(UPF)与原型引导的层级知识传播(HKP)可直接迁移到其他需要多尺度或多层级标签的下游适配任务。
以上下文提示与噪声学习增强自监督跟踪
Boosting Self-Supervised Tracking with Contextual Prompts and Noise Learning
提出一种仅在训练阶段生效的双模态上下文关联机制:先用实例图像块提示引导前向/后向跟踪分支学习,再逐步注入上下文噪声扰动特征以增强鲁棒性,推理时无额外开销,可直接迁移到其他自监督视频跟踪框架。
提升零样本目标计数的数量与空间感知能力
Boosting Quantitive and Spatial Awareness for Zero-Shot Object Counting
提出数值条件提示和代价聚合解码器,将计数从粗检索转为细粒度数量感知,可直接用于开放词表计数和视觉语言模型的定量推理增强。
面向事件-帧非对称立体的双向跨模态提示
Bidirectional Cross-Modal Prompting for Event-Frame Asymmetric Stereo
把事件与帧两种模态各自投影到对方域、在目标规范空间做细粒度对齐的双向提示思路,可直接迁移到其他跨模态立体匹配或跨传感器融合的稠密对应任务中,缓解模态鸿沟导致的域特有线索被边缘化问题。
Alert-CLIP:面向视频异常检测的异常感知潜在增强 CLIP 表征微调
Alert-CLIP: Abnormality-aware Latent-Enhanced Representation Tuning of CLIP for Video Anomaly Detection
针对 CLIP 文本嵌入空间中正常/异常描述纠缠的问题,提出视频-标签、区域-文本、区域-语义三级对齐微调策略,可直接迁移到任何需要细粒度异常感知的 CLIP 下游任务(如工业缺陷、医学异常筛查)。