Tag · 28 篇
开放词表检测
Zoo3D:场景级零样本 3D 目标检测
Zoo3D: Zero-Shot 3D Object Detection at Scene Level
提出无需训练的零样本 3D 目标检测框架,利用 2D 实例掩码的图聚类构建 3D 包围盒,并通过最佳视角选择与视角一致性掩码生成进行开放词表语义标注,可直接用于点云或图像场景的 3D 感知。
WeDetect:将快速开放词表目标检测视为检索
WeDetect: Fast Open-Vocabulary Object Detection as Retrieval
将开放词表检测视为检索问题,采用双塔架构避免跨模态融合层,实现实时推理;其冻结检测器并微调对象性提示词生成通用提案的思路,可复用于需要快速回溯历史数据的场景。
ViTPrompt:面向开放词表检测的免训练视觉 token 提示词精炼
ViTPrompt: Training-Free Prompt Refinement with Visual Tokens for Open-Vocabulary Detection
提出一种无需训练、无需反向传播的测试时提示词精炼方法:利用首轮高置信检测结果提取实例感知视觉 token 来增强文本提示词,再通过跨模态解码器进行第二轮推理,同时提升边界框定位与分类置信度,可直接用于开放词表检测器的分布偏移场景。
遗忘而不丢失:从大规模视觉语言开放词表检测器中安全移除目标概念
Unlearning without Forgetting: Securely Removing Targeted Concepts from Large-Scale Vision-Language Open-Vocabulary Detectors
对做开放词表检测的视觉研究者,这篇给出了在冻结保留概念的前提下定向抹除指定概念-短语对的参数更新方案:离线构造保留知识嵌入的零空间,把遗忘更新投影到其正交补,并用一步 mean-flow 目标把遗忘概念推向不可检测;可直接复用于模型发布前的版权/隐私合规清理,以及检测器概念级可控编辑。
UniSpector:面向通用开放集缺陷识别的光谱对比视觉提示
UniSpector: Towards Universal Open-set Defect Recognition via Spectral-Contrastive Visual Prompting
提出基于视觉提示的开放集缺陷定位框架,利用空间-光谱提示编码器提取方向不变细粒度特征,并通过对比提示编码器将提示空间正则化为语义组织的角度流形,为开放词表检测和少样本缺陷识别提供了可复用的提示拓扑设计思路。
Thermal-Det:面向开放词表热成像目标检测的语言引导跨模态蒸馏
Thermal-Det: Language-Guided Cross-Modal Distillation for Open-Vocabulary Thermal Object Detection
把冻结的 RGB 开放词表检测器当作教师,为成对但无标注的 RGB-热成像数据提供几何与语义伪监督,这一跨模态蒸馏范式可直接迁移到其他缺少标注的成像域(如近红外、深度、事件相机)的开放词表检测。
精简的开放词表人-物交互检测
Streamlined Open-Vocabulary Human-Object Interaction Detection
对做开放词表检测的人,这篇给出了一个可复用的思路:不再拼接传统检测器与 VLM 两套表征,而是把交互查询和骨干图像 token 一起送进 DINOv3 的文本对齐视觉头,让交叉注意力在同一个表征空间内完成,从而绕开跨模型特征融合的鸿沟;同时全冻结骨干、只训练少量参数的做法可直接迁移到其他开放词表定位任务。
像专家一样观察:面向开放集细粒度视觉理解的知识增强智能体
Seeing as Experts Do: A Knowledge-Augmented Agent for Open-Set Fine-Grained Visual Understanding
将开放词表检测与网络级检索结合生成类别假设,并通过全局到局部的聚焦机制将检索到的文本知识转化为空间定位证据,为视觉语言模型提供可验证的细粒度推理依据。
SRA-Det:超越类别名称的全粒度开放词表检测
SRA-Det: Learning Omni-Grained Open-Vocabulary Detection Beyond Category Names
把开放词表检测从「类别名匹配」推进到「属性级细粒度查询」:用注意力从 token 级文本特征检索多个语义侧面,再用 soft-min 匹配近似可微的逻辑与,保证所有关键属性同时满足;这套「多侧面检索 + 软与匹配」可直接迁移到任何文本-区域对齐的检测/定位头。
SDDF:面向开放词表伪装目标检测的特异性驱动动态聚焦
SDDF: Specificity-Driven Dynamic Focusing for Open-Vocabulary Camouflaged Object Detection
针对伪装目标与背景视觉高度相似导致开放词表检测失效的问题,提出子描述主成分对比融合来过滤多模态大模型生成的冗余修饰词,并用特异性引导的区域弱对齐与动态聚焦增强前景-背景判别,可直接迁移到任何文本提示驱动的检测器中做提示去噪与区域对齐。
SARL-STG:用于精炼多模态大语言模型时空视频定位的空间感知强化学习框架
SARL-STG: A Spatially Aware Reinforcement Learning Framework for Refining MLLMs in Spatio-Temporal Video Grounding
把开放词表检测器的空间定位质量作为强化学习奖励信号,反向驱动 MLLM 的时序推理,为视觉语言模型在视频定位任务中提供了一种可复用的「空间反馈时序」训练范式。
为开放词表稠密感知重构 CLIP
Reconstructing CLIP for Open-Vocabulary Dense Perception
对做开放词表稠密感知的人,这篇给出了如何从 CLIP 全局 cls token 的多层 value embedding 构造稠密特征、并用轻量门控模块按 head 异质性重加权以缓解空间聚合带来的语义错位的具体做法,可直接迁移到开放词表检测与分割的稠密-全局对齐流程中。
面向遥感开放世界检测的无提示未知标签生成
Prompt-Free Unknown Label Generation for Open World Detection in Remote Sensing
提出无需外部提示的未知类别发现与语义标注框架,利用层次语义图与场景上下文合成文本嵌入,可直接用于开放世界检测器的词汇扩展与自主标注。
PhaseWin 搜索框架实现高效的目标级解释
PhaseWin Search Framework Enable Efficient Object-Level Interpretation
把子模子集选择的归因从二次代价的贪心搜索换成近线性的分阶段粗到细窗口搜索,可直接套用到 Grounding DINO、Florence-2 这类目标级多模态模型的区域归因与显著性解释上,让高保真归因在真实推理预算内可用。
Percept-WAM:面向鲁棒端到端自动驾驶的感知增强世界感知-动作模型
Percept-WAM: Perception-Enhanced World-Awareness-Action Model for Robust End-to-End Autonomous Driving
把 2D 检测与 BEV 3D 检测统一编码为 World-PV/World-BEV token 并接入 VLM 自回归解码,为视觉研究者提供了一个可复用的「感知 token 化 + 网格条件预测」范式,可直接迁移到其他需要稠密空间输出的 VLM 任务。
面向开放词表目标检测增强的参数高效语义增强方法
Parameter-Efficient Semantic Augmentation for Enhancing Open-Vocabulary Object Detection
用图像特征金字塔构建多尺度提示词库,为开放词表检测器注入细粒度局部语义,并用语义感知路由器在推理时动态选择增强策略,避免微调破坏预训练泛化性——这套「冻结主干+提示词增强」思路可直接迁移到任何需要跨域迁移的视觉-语言检测或分割模型。
PET-DINO:通过提示词增强训练将视觉线索统一到 Grounding DINO 中
PET-DINO: Unifying Visual Cues into Grounding DINO with Prompt-Enriched Training
在 Grounding DINO 这类文本提示检测器上,用轻量视觉提示生成模块(AFVPG)把视觉线索注入文本提示路径,并配合批内并行提示与动态记忆提示两种训练策略,为开放词表/零样本检测提供了一条无需复杂多阶段优化的视觉提示融合方案。
OVOD-Agent:面向主动视觉推理与自演化检测的马尔可夫-班迪特框架
OVOD-Agent: A Markov-Bandit Framework for Proactive Visual Reasoning and Self-Evolving Detection
将开放词表检测的文本匹配过程重构为基于弱马尔可夫决策过程的智能体探索,利用Bandit模块在有限监督下生成探索信号,并通过自监督奖励模型闭环优化检测策略,为OVOD提供可复用的主动推理框架。
ORIC:面向大型视觉语言模型上下文不协调下物体识别的基准测试
ORIC: Benchmarking Object Recognition under Contextual Incongruity in Large Vision-Language Models
ORIC 通过 LLM 引导采样和 CLIP 引导采样构造上下文不协调的物体-场景对,为评估 LVLM 的物体识别鲁棒性和幻觉提供了可复用的基准与训练数据构造流程;其视觉强化微调策略也可用于提升模型在非典型场景下的识别可靠性。
NoOVD:面向开放词表目标检测的新类别发现与嵌入
NoOVD: Novel Category Discovery and Embedding for Open-Vocabulary Object Detection
利用冻结视觉语言模型的知识进行自蒸馏,引导RPN和RoI头发现新类别目标,避免被误判为背景;并通过R-RPN在推理时调整候选框置信度,提升新类别召回率。
基于混合专家的特征解耦用于开放词表场景图生成
Mixture-of-Experts based Feature Decoupling for Open Vocabulary Scene Graph Generation
MoE-FD 通过门控网络自适应解耦物体与关系特征,并用迭代交叉注意力建模语义交互,可直接用于开放词表场景图生成中提升新类别判别力与图文对齐精度。
MRD:面向高分辨率图像理解的多分辨率检索-检测融合
MRD: Multi-resolution Retrieval-Detection Fusion for High-Resolution Image Understanding
把开放词表检测器当作定位先验,与多分辨率裁剪检索做免训练融合,为 MLLM 处理高分辨率图像提供了一条可直接套用的「检索+检测」双路增强管线,可迁移到任意现成 MLLM 上。
LocateAnything3D:基于视线链的视觉语言 3D 检测
LocateAnything3D: Vision-Language 3D Detection with Chain-of-Sight
将 3D 检测转化为 VLM 的下一词元预测问题,通过显式的 Chain-of-Sight 序列(先 2D 检测再 3D 框)实现开放词表多目标 3D 检测,为视觉研究提供了一种无需专用检测头的统一 VLM 接口。
学习多样化与聚焦:面向开放词表人-物交互检测的强化学习框架
Learning to Diversify and Focus: A Reinforcement Framework for Open-Vocabulary HOI Detection
用强化学习驱动的语义扰动与 actor-critic 注意力精炼,缓解 CLIP 一阶段范式对已见交互的过拟合,可直接迁移到其他开放词表检测/grounding 任务中提升对未见类别的泛化与细粒度定位。
DetAny4D:在流式 RGB 视频中时序检测任意 4D 目标
DetAny4D: Detect Anything 4D Temporally in a Streaming RGB Video
把预训练基础模型的多模态特征与几何感知的时空解码器结合,在流式 RGB 视频上端到端直接回归 3D 边界框,为视频 3D 检测提供了可复用的时序一致性建模方案,可缓解逐帧预测带来的抖动问题。
分解与迁移:思维链提示增强的对齐用于开放词表时序动作检测
Decompose and Transfer: CoT-Prompting Enhanced Alignment for Open-Vocabulary Temporal Action Detection
利用大语言模型的思维链推理将动作标签分解为阶段级描述,并通过文本引导的前景过滤和自适应阶段对齐实现细粒度视觉-文本匹配,为开放词表时序动作检测提供可迁移的语义先验。
超越对比的一致性:通过上下文一致性学习增强开放词表目标检测鲁棒性
Consistency Beyond Contrast: Enhancing Open-Vocabulary Object Detection Robustness via Contextual Consistency Learning
提出上下文一致性学习框架,通过生成同一物体在不同背景下的图像并施加特征一致性损失,提升开放词表检测器对背景变化的鲁棒性,可直接用于增强现有开放词表检测模型的泛化能力。
APEX:一种面向异步空中物体目标导航的解耦记忆探索器
APEX: A Decoupled Memory-based Explorer for Asynchronous Aerial Object Goal Navigation
把 VLM 的零样本空间语义理解与开放词表检测器解耦成异步并行的记忆-决策-定位三模块,绕开 VLM 推理延迟,这一「慢感知快决策」的异步分层范式可直接迁移到其他视觉导航与具身探索任务。