Tag · 32 篇
开放词表分割
面向物体问题的视觉定位
Visual Grounding for Object Questions
把视觉定位从「找可见目标」扩展到「为开放式物体问题找视觉证据」,并给出可自动生成训练/评测数据的流程;做指代分割或 VQA 的研究者可借此设定检验模型在非直接可见概念上的定位能力,也可复用其轻量定位模型与合成基准。
Uni3R:基于可泛化高斯泼溅的无位姿多视角图像统一三维重建与语义理解
Uni3R: Unified 3D Reconstruction and Semantic Understanding via Generalizable Gaussian Splatting from Unposed Multi-View Images
提出一种前馈式框架,直接从无位姿多视角图像联合重建带开放词表语义的 3D 高斯表示,可复用于需要同时进行新视角合成与开放词表 3D 语义分割的任务,避免逐场景优化。
基于细粒度对象绑定与自适应混合提示词的训练无关开放词表伪装目标分割
Training-Free Open-Vocabulary Camouflaged Object Segmentation via Fine-Grained Object Binding and Adaptive Hybrid Prompt
提出训练无关的开放词表伪装目标分割框架,利用MLLM生成细粒度文本描述,并通过语义探针和语义一致性排序实现视觉块与类别的精确绑定,结合熵引导的文本嵌入调整和自适应混合提示词生成,为SAM提供更准确的提示,可复用于其他开放词表分割任务。
先验的力量:基于LLaVA的免训练开放词表语义分割
The Power of Prior: Training-Free Open-Vocabulary Semantic Segmentation with LLaVA
利用LLaVA内部层产生的局部化特征作为免训练开放词表分割的像素级激活,并生成视觉提示引导SAM,为无需微调即可复用MLLM空间先验提供了可操作路径。
面向开放词表遥感图像分割的测试时多提示词自适应
Test-Time Multi-Prompt Adaptation for Open-Vocabulary Remote Sensing Image Segmentation
提出一种即插即用的测试时多提示词自适应方法,利用大语言模型生成上下文感知的类别描述,并通过视觉引导的测试时自适应策略和熵最小化像素级损失优化提示词表示,可灵活集成到现有开放词表分割方法中提升性能。
面向卫星影像的光谱蒸馏表征与指令增强 LLM 对齐
Spectrally Distilled Representations Aligned with Instruction-Augmented LLMs for Satellite Imagery
用冻结的多光谱教师模型向 RGB 学生模型蒸馏光谱先验,再把视觉空间对齐到指令增强 LLM 的嵌入空间,使推理阶段只需 RGB 输入即可获得光谱感知的跨模态表征;这套「教师蒸馏 + LLM 对齐」的两阶段范式可直接迁移到遥感或其他多模态缺失场景的视觉语言预训练。
兼顾双向:面向开放词表伪装目标分割的双向语义对齐
Seeing Both Sides: Towards Bidirectional Semantic Alignment for Open-Vocabulary Camouflaged Object Segmentation
提出双向跨注意力实现视觉-文本特征互校准,并将精炼后的文本嵌入转为自适应提示词驱动 SAM 生成掩码,可直接用于开放词表分割与跨模态提示学习。
SPAR:面向开放词表分割的单次任意分辨率视觉 Transformer
SPAR: Single-Pass Any-Resolution ViT for Open-vocabulary Segmentation
SPAR 通过特征回归蒸馏,将滑窗教师的空间推理能力迁移到单次前向的学生模型,使 ViT 无需架构改动即可高效处理任意分辨率输入,可直接用于开放词表分割等密集预测任务的高分辨率推理。
S2C2Seg:面向开放词表分割的语义-空间一致性与类别优化
S2C2Seg: Semantic-Spatial Consistency and Category Optimization for Open-Vocabulary Segmentation
免训练即插即用的类别子集筛选与置信度加权融合模块,可直接叠加到 SCLIP/ProxyCLIP/CorrCLIP 等 CLIP 密集预测方法上,缓解开放词表下的类别冗余与空间精度不足。
检索与分割:少量示例足以弥合开放词表分割中的监督差距吗?
Retrieve and Segment: Are a Few Examples Enough to Bridge the Supervision Gap in Open-Vocabulary Segmentation?
提出检索增强的测试时适配器,通过融合文本与视觉支持特征学习轻量级逐图像分类器,为开放词表分割提供可复用的少样本融合思路,并支持支持集持续扩展与个性化分割。
重新思考基于视觉语言模型的机器人操作的中间表示
Rethinking Intermediate Representation for VLM-based Robot Manipulation
把中间表示拆成「操作词表 + 语法」的思路,以及用上下文学习做开放词表部件级分割(杯柄、壶口)的范式,可直接迁移到需要细粒度部件定位的具身操作与视觉定位任务中。
ReLaGS:关系语言高斯泼溅
ReLaGS: Relational Language Gaussian Splatting
把多视图 2D 语言特征蒸馏进高斯场景并做高斯剪枝,可在无需场景级训练的情况下得到准确的 3D 物体嵌入,为开放词表 3D 分割与关系检索提供可复用的建图流程。
ReAttnCLIP:通过重新定义CLIP中的注意力实现免训练开放词表遥感图像分割
ReAttnCLIP: Training-Free Open-Vocabulary Remote Sensing Image Segmentation via Re-defined Attention in CLIP
通过重新定义CLIP的注意力矩阵(替换patch-to-patch子矩阵、优先中间层注意力、禁用[CLS]自注意力)来提升开放词表分割的patch级表征质量,该思路可迁移到其他基于CLIP的密集预测任务。
REALM:面向高斯泼溅开放世界 3D 推理分割与编辑的 MLLM 智能体框架
REALM: An MLLM-Agent Framework for Open World 3D Reasoning Segmentation and Editing on Gaussian Splatting
提出全局到局部的空间视觉定位策略,利用多视角渲染与 MLLM 智能体聚合实现无需 3D 后训练的开放世界推理分割,可直接用于高斯泼溅场景的指令驱动物体定位与编辑。
PEARL:几何对齐语义的免训练开放词表语义分割
PEARL: Geometry Aligns Semantics for Training-Free Open-Vocabulary Semantic Segmentation
提出一种免训练、即插即用的两阶段推理框架:在自注意力块内用正交Procrustes对齐旋转key到query子空间,再用文本感知的拉普拉斯图求解细化像素logits,可复用于其他需要跨模态对齐的密集预测任务。
PE3R:感知高效的三维重建
PE3R: Perception-Efficient 3D Reconstruction
把 2D 语义先验与多视图几何融合进一个免调优的前馈管线,可直接用于从无位姿图像做开放词表三维语义重建,替代逐场景优化,并可作为三维场景理解中语义与几何联合评测的基线。
PCA-Seg:重新审视开放词表语义分割与部件分割中的代价聚合
PCA-Seg: Revisiting Cost Aggregation for Open-Vocabulary Semantic and Part Segmentation
把开放词表分割中「空间聚合→类别聚合」的串行代价体处理改为并行双流(语义流+上下文流)加正交化解耦,并用系数映射器做像素级自适应加权;做开放词表分割或需要从图文代价体中抽取对齐线索的工作可直接复用该并行聚合块(仅增 0.35M 参数)。
Ov3R:从 RGB 视频进行开放词表语义三维重建
Ov3R: Open-Vocabulary Semantic 3D Reconstruction from RGB Videos
把 CLIP 语义直接注入三维重建主干(CLIP3R 预测带物体级语义的稠密点图),再用 2D-3D 融合描述子把二维开放词表特征提升到三维,为开放词表三维分割与全局一致重建提供了一条可复用的「重建即语义」路线。
OpenVoxel:面向开放词表三维场景理解的免训练体素分组与描述生成
OpenVoxel: Training-Free Grouping and Captioning Voxels for Open-Vocabulary 3D Scene Understanding
对做开放词表 3D 场景理解的视觉研究者,这篇论文提供了一条免训练路径:直接在稀疏体素光栅化(SVR)模型的分组结果上,用 MLLM 做文本到文本检索,替代 CLIP/BERT 文本嵌入,可复用于 OVS/RES 等 3D 任务。
城市场景分割中的开放词表域泛化
Open-Vocabulary Domain Generalization in Urban-Scene Segmentation
把状态空间模型(SSM)用于修正 VLM 在域偏移下的文本-图像相关性,这一思路可迁移到任何依赖 CLIP 类图文对齐的开放词表分割、检测任务中,用于缓解分布变化导致的图文错配。
缓解开放词表全景分割中的物体性偏差与区域-文本错位
Mitigating Objectness Bias and Region-to-Text Misalignment for Open-Vocabulary Panoptic Segmentation
针对开放词表全景分割中掩码选择偏差和区域-文本对齐不足的问题,提出模块化的 COAT 和 OVR 组件,可复用于其他开放词表分割任务,以较低内存成本提升 CLIP 的区域级对齐能力。
MM-OVSeg:面向遥感开放词表分割的多模态光学-SAR 融合
MM-OVSeg: Multimodal Optical-SAR Fusion for Open-Vocabulary Segmentation in Remote Sensing
对做开放词表分割的人,这篇给出了把 SAR 结构先验注入 VLM 文本对齐分割头的双编码器融合方案,可作为恶劣天气/光学缺失场景下扩展 OV 分割输入模态的参考;其跨模态表征统一流程也可迁移到其他传感器组合。
MARIS:海洋开放词表实例分割
MARIS: Marine Open-Vocabulary Instance Segmentation
针对水下场景的开放词表实例分割,提出几何先验增强模块(GPEM)利用部件级结构线索保持退化视觉下的物体一致性,以及语义对齐注入机制(SAIM)用域特定先验丰富语言嵌入以识别未见类别,为跨域开放词表分割提供了可复用的设计思路。
超越窗口:全局-局部对齐CLIP用于免训练开放词表语义分割
Looking Beyond the Window: Global-Local Aligned CLIP for Training-free Open-Vocabulary Semantic Segmentation
提出全局-局部对齐的CLIP框架,通过跨窗口键值令牌交换和代理锚点解决滑窗推理中的语义不一致问题,可直接用于提升免训练开放词表分割方法的高分辨率处理能力。
从前馈新视角合成中学习紧凑三维表示
Learning Compact 3D Representations from Feed-Forward Novel View Synthesis
用可学习 token 的自注意力模式同时决定高斯生成位置与特征提升,把「紧凑高斯」当作前馈重建与场景理解的共享表示,可直接借鉴到无位姿稀疏视图下的重建-理解一体化管线,降低显存并改善多视图特征聚合。
LangRef3DGS:基于 3D 高斯泼溅、由自然语言引导的部分观测三维指代分割
LangRef3DGS: Natural Language-Guided 3D Referential Segmentation from Partial Observations via 3D Gaussian Splatting
把 3DGS 当作可微的语义嵌入场来承载开放词表文本查询,并用梯度低秩机制压缩特征冗余以提升类别可分性——这套「嵌入场 + 低秩」组合可直接迁移到任何需要从稀疏 RGB-D 观测做语言查询 3D 分割或新类发现的场景。
HOPS:基于注意力感知过滤与亲和度引导增强的层次化开放词表部件分割
HOPS: Hierarchical Open-vocabulary Part Segmentation with Attention-Aware Filtering and Affinity-Guided Enhancement
将 CLIP 的语义对齐与 DINO 的结构感知通过双向注意力融合,并用注意力感知过滤抑制物体过分割、用亲和度引导增强缓解部件欠分割,这套两阶段流程可直接迁移到开放词表部件/属性分割与细粒度掩码生成任务。
GeoGuide:面向开放词表 3D 语义分割的分层几何引导
GeoGuide: Hierarchical Geometric Guidance for Open-Vocabulary 3D Semantic Segmentation
用预训练 3D 模型自身的几何先验替代对 2D 开放词表模型的单向蒸馏,通过超点级不确定性加权和实例级掩码重建抑制 2D 噪声,为 3D 开放词表分割提供了一条不牺牲几何表征的路线。
面向免训练开放词表语义分割的免 logits 优化直接分割方法
Direct Segmentation without Logits Optimization for Training-Free Open-Vocabulary Semantic Segmentation
把视觉-语言 logits 与真值的分布差异直接取解析解当作语义图,省掉迭代训练和模型特定的注意力调制,可直接套用到任意 CLIP 类骨干的免训练开放词表分割流程中。
CoSMo3D:通过 LLM 引导的规范空间建模实现开放世界提示式 3D 语义分割
CoSMo3D: Open-World Promptable 3D Semantic Segmentation through LLM-Guided Canonical Spatial Modeling
把 3D 语义分割从输入传感器位姿空间搬到数据驱动的规范参考系中,用 LLM 引导构建跨类别规范数据集、再用规范图锚定与规范框校准的双分支把位姿与对称性坍缩成稳定嵌入——这套「先规范再分割」的思路可直接迁移到任意位姿敏感的点云/网格部件分割与开放词表 3D 任务。
Chorus:面向整体 3D 高斯场景编码的多教师预训练
Chorus: Multi-Teacher Pretraining for Holistic 3D Gaussian Scene Encoding
把 2D 基础模型(语言对齐、通用、物体感知教师)的互补信号蒸馏进一个共享的前馈 3DGS 场景编码器,得到可直接用于开放词表分割、线性探测和 LLM 问答的通用 3D 高斯特征;其 render-and-distill 适配与仅用高斯中心/颜色/法向的变体,为点云等非 3DGS 表示提供了可复用的预训练迁移路径。
B^3-Seg:基于解析期望信息增益与Beta-Bernoulli贝叶斯更新的无相机、免训练3DGS分割
B$^3$-Seg: Camera-Free, Training-Free 3DGS Segmentation via Analytic EIG and Beta-Bernoulli Bayesian Updates
提出一种无需相机位姿和训练、基于贝叶斯更新与解析期望信息增益的主动视角选择策略,可复用于3DGS场景的开放词表分割与交互式编辑,为低延迟3D资产处理提供理论保证的采样方案。