Tag · 10 篇
指代分割
WalkGPT:面向行人导航的深度感知分割接地视觉语言对话
WalkGPT: Grounded Vision-Language Conversation with Depth-Aware Segmentation for Pedestrian Navigation
把分割掩码与相对深度作为 LVLM 的输出 token 级接地信号,并用多尺度查询投影器在空间层级上聚合图像 token,可复用于任何需要像素级接地与深度推理的视觉语言任务,无需用户提供点或锚框提示。
场景即词元:面向通用三维视觉语言理解的多尺度正态分布变换分词器
Scenes as Tokens: Multi-Scale Normal Distributions Transform Tokenizer for General 3D Vision-Language Understanding
把高分辨率点云经多尺度 NDT 表示压缩成 LLM 可消费的整体场景 token,并用同一个解码器同时承担点/框/掩码提示编码与掩码解码,为 3D VLM 提供了一套可复用的「场景分词 + 统一提示接口」范式。
ST4R-Splat:4D 高斯泼溅中的时空指代分割
ST4R-Splat: Spatio-Temporal Referring Segmentation in 4D Gaussian Splatting
将指代分割从静态 3D 扩展到动态 4D 高斯泼溅,提出时间不变实例嵌入与实例级时序状态映射,可直接用于语言驱动的 4D 场景理解与编辑。
SAMTok:用两个词表示任意掩码
SAMTok: Representing Any Mask with Two Words
把任意区域掩码离散化为两个 token,使基础 MLLM 无需改架构、无需专用分割解码器即可用标准下一词预测和 RL 获得像素级理解与生成能力;做区域级 VLM、grounding 或交互式分割的工作可直接复用该掩码分词方案与文本答案匹配奖励。
MVGGT:用于多视图 3D 指代表达分割的多模态视觉几何接地 Transformer
MVGGT: Multimodal Visual Geometry Grounded Transformer for Multiview 3D Referring Expression Segmentation
MVGGT 展示了如何用双分支 Transformer 从稀疏多视图 RGB 直接进行 3D 指代分割,避免了两阶段重建-分割的延迟与几何退化;其提出的前景梯度稀释问题与 PVSO 优化策略对稀疏视图下的 3D 密集预测训练有直接借鉴意义。
拥抱视觉提示与分割令牌:多模态大语言模型中用于细粒度视觉理解的一致性学习
Hugging Visual Prompt and Segmentation Tokens: Consistency Learning for Fine-Grained Visual Understanding in MLLMs
该论文提出的一致性学习损失和两阶段训练框架,可复用于其他需要联合优化视觉提示与分割令牌的多模态任务,为细粒度视觉理解提供了一种通用的训练策略。
面向 3D 高斯泼溅中指代分割的几何感知跨模态图对齐
Geometry-Aware Cross-Modal Graph Alignment for Referring Segmentation in 3D Gaussian Splatting
针对 3DGS 场景中的语言指代分割,用位置感知提示词扩展与几何图-语义图跨模态对齐来抑制跨模态注意力的误差自增强,可直接迁移到任何需要文本-3D 空间定位的 3DGS/NeRF 管线。
GenMask:通过直接掩码生成适配 DiT 的分割方法
GenMask: Adapting DiT for Segmentation via Direct Mask Generation
将分割视为生成任务,直接用 DiT 在 RGB 空间生成二值掩码,省去特征提取流程;其针对二值掩码的极端噪声时间步采样策略可复用于其他生成式密集预测任务。
从失败到反馈:组修正解锁目标级视觉定位中的困难案例
From Failure to Feedback: Group Revision Unlocks Hard Cases in Object-Level Grounding
提出组修正优化范式,通过生成修正候选并量化改进来构造塑形信号,缓解GRPO在困难样本上奖励稀疏的问题,可复用于视觉语言模型的强化学习微调。
更好、更强、更快:以同步文本全掩码预测破解基于多模态大模型的分割三难困境
Better, Stronger, Faster: Tackling the Trilemma in MLLM-based Segmentation with Simultaneous Textual Mask Prediction
把分割掩码当作图像 patch 上的并行填空任务,在 MLLM 单次前向中一次性输出整张掩码,从而在不破坏对话能力的前提下兼顾分割质量与推理速度;做指代分割或多任务 VLM 的工作可直接复用这一解耦式输出头设计。