Tag · 25 篇
视觉语言导航
面向开放环境与指令:通过快慢交互推理的通用视觉语言导航
Towards Open Environments and Instructions: General Vision-Language Navigation via Fast-Slow Interactive Reasoning
提出快慢交互推理框架:快模块用端到端策略网络实时输出动作并积累历史记忆,慢模块对记忆做深度反思提取结构化经验,持续优化快模块,可直接迁移到视觉导航、具身决策等需要在线适应未见环境的视觉任务。
揭示VLN鲁棒性:基于室内光照的对抗攻击黑盒框架
Shedding Light on VLN Robustness: A Black-box Framework for Indoor Lighting-based Adversarial Attack
提出通过操纵室内全局光照(静态强度变化与动态开关切换)对VLN智能体进行黑盒对抗攻击的框架,为视觉导航模型的鲁棒性评估提供了现实可行的扰动范式,可启发针对光照变化的防御与数据增强策略。
Progress-Think:面向视觉语言导航的语义进度推理
Progress-Think: Semantic Progress Reasoning for Vision-Language Navigation
把「指令执行到哪一步」显式建模为语义进度状态,并用视觉历史与指令前缀的可微对齐自举出该状态,再注入策略上下文——这套进度表征可直接迁移到任何长程视觉-语言序列决策任务(如视频指令跟随、具身操作),也可作为VLA模型的辅助推理头。
ProFocus:视觉语言导航中的主动感知与聚焦推理
ProFocus: Proactive Perception and Focused Reasoning in Vision-and-Language Navigation
将全景观测转成结构化自我中心语义地图,并由 LLM 编排智能体主动发起带焦点区域的视觉查询,这一「主动感知 + 定向取景」的闭环可直接迁移到任何需要从冗余全景/多视角输入中按需取景的具身导航或主动视觉任务;BD-MCTS 从大量历史候选中筛出 top-k 高价值路点再做聚焦推理,也为长时序视觉历史的高效利用提供了可复用策略。
解析、搜索与确认:基于思维链推理与结构化空间记忆的免训练航拍视觉对话导航
Parse, Search, and Confirmation: Training-Free Aerial Vision-and-Dialog Navigation with Chain-of-Thought Reasoning and Structured Spatial Memory
把免训练 MLLM 的导航能力拆成「解析指令—搜索探索—确认验证」三段思维链,并配一个融合多尺度观测、视觉记忆与几何记忆的结构化空间记忆,可直接迁移到任何需要长时程空间推理的视觉语言任务(如视觉定位、具身导航)。
面向零样本具身导航与推理的多尺度高斯-语言地图
Multi-Scale Gaussian-Language Map for Zero-shot Embodied Navigation and Reasoning
把每个语义单元同时存成自然语言描述和 3D 高斯,用高斯泼溅按需渲染任务相关视角,为大模型提供免训练的对齐接口;做具身导航或场景问答时可直接复用这种「语言-高斯」双模态地图表示,替代需要额外训练投影层的语义地图。
面向开放世界空中目标导航的记忆增强场景理解与探索
Memory-Augmented Scene Understanding and Exploration for Open-World Aerial Object-Goal Navigation
把 RGB-D 观测增量聚合成自适应八叉树层级 3D 记忆,并用指令调制的 query 从中抽取场景/前沿 token,这套「3D 结构化记忆 + 语言引导检索」可直接迁移到任何需要长程空间记忆的视觉导航或具身任务中。
MSGNav:释放多模态 3D 场景图在零样本具身导航中的潜力
MSGNav: Unleashing the Power of Multi-modal 3D Scene Graph for Zero-Shot Embodied Navigation
用动态分配图像替代文本关系边构建多模态 3D 场景图,保留视觉证据以支持开放词表零样本导航;其关键子图选择与基于可见性的最终视点决策模块,可直接迁移到需要从 3D 场景表示中检索目标并确定可行停靠位姿的视觉任务。
LookasideVLN:方向感知的空中视觉与语言导航
LookasideVLN: Direction-Aware Aerial Vision-and-Language Navigation
将自然语言中的方向线索(如“左转”“前方”)编码为图结构,并与多模态大语言模型对齐用于路径规划,为视觉语言导航提供了一种轻量且可解释的空间推理范式。
利用互联网级无标注数据提升 3D 场景理解
Lifting Unlabeled Internet-level Data for 3D Scene Understanding
提出一种数据引擎,利用互联网无标注视频自动生成 3D 场景理解训练数据,可复用于低层感知(3D 检测/分割)与高层推理(3D VQA/VLN)任务,为缓解 3D 标注稀缺提供可扩展方案。
LASAR:面向时空推理的潜在认知地图
LASAR: Towards Spatio-temporal Reasoning with Latent Cognitive Map
ST-CRL 用仿真中带时空标注的查询构造对比样本对,把碎片化经验压成内部认知地图,这一自监督信号可直接迁移到任何需要长程空间记忆的视觉导航或具身问答模型训练中。
从历史到未来:以经验与思考演化智能体实现零样本视觉语言导航
History to Future: Evolving Agent with Experience and Thought for Zero-shot Vision-and-Language Navigation
把 LLM 的未来动作/地标预测(F-CoT)与历史轨迹经验总结(H-CoE)组合成可演化的零样本导航决策回路,可直接迁移到视觉导航、具身探索等需要在线纠错的序列决策任务中。
HTNav:面向城市空中视觉语言导航的混合分层结构导航框架
HTNav: A Hybrid Navigation Framework with Tiered Structure for Urban Aerial Vision-and-Language Navigation
提出混合模仿学习与强化学习的分层导航框架,结合地图表征学习增强空间连续性理解,可复用于视觉语言导航等具身任务中的长程路径规划与精细动作控制协同问题。
GA-VLN:面向高效视觉语言导航的几何感知鸟瞰图表示
GA-VLN: Geometry-Aware BEV Representation for Efficient Vision-Language Navigation
将RGB-D输入投影到鸟瞰图空间并融合3D基础模型先验,为MLLM提供紧凑且几何一致的空间表示,可复用于需要高效空间推理的视觉语言任务。
FantasyVLN:面向视觉语言导航的统一多模态思维链推理
FantasyVLN: Unified Multimodal Chain-of-Thought Reasoning for Vision-and-Language Navigation
把想象出的视觉观测用预训练 VAR 编码进紧凑潜空间,使多模态思维链推理不再产生大量词元开销,从而在推理时直接做指令到动作的映射;这套「隐式推理表征」思路可迁移到任何需要推理但受延迟约束的视觉-语言-动作任务。
带着长期记忆去探索:面向具身探索的基准与基于多模态大语言模型的强化学习框架
Explore with Long-term Memory: A Benchmark and Multimodal LLM-based Reinforcement Learning Framework for Embodied Exploration
把多模态大语言模型用强化学习微调成会主动查询长期记忆的探索策略,并给出多目标导航+记忆问答的评测协议,可直接复用到视觉导航与具身探索中的记忆机制设计。
DriveVLN:面向自动驾驶的无地图视觉语言导航
DriveVLN: Towards Mapless Vision-and-Language Navigation in Autonomous Driving
将视觉语言导航(VLN)从室内逐步指令扩展到自动驾驶的无地图点对点导航,提出基于自然语言描述和视觉线索(路标、地标、文字指示)的导航任务,并构建CARLA仿真引擎支持大规模训练与闭环评测,为语言驱动的自动驾驶提供新基准。
DecoVLN:解耦观测、推理与纠正的视觉语言导航
DecoVLN: Decoupling Observation, Reasoning, and Correction for Vision-and-Language Navigation
长时记忆构建被形式化为对统一评分函数的迭代优化(语义相关性、视觉多样性、时序覆盖),可直接迁移到任何需要从历史帧池中挑选关键帧的视觉导航或视频理解流水线;状态-动作对级纠错微调利用测地距离筛选可信区域样本,为视觉导航中的复合误差问题提供了可复用的数据筛选思路。
D3D-VLP:面向具身视觉定位与导航的动态三维视觉-语言-规划模型
D3D-VLP: Dynamic 3D Vision-Language-Planning Model for Embodied Grounding and Navigation
把规划、视觉定位、导航与问答统一进单个 3D-VLM 的 3D 思维链管线,并用掩码自回归损失从部分标注的混合数据中互相隐式监督,对做具身导航与 3D 场景理解的人提供了一个可复用的多任务联合训练范式。
从左脑到右脑:面向视觉语言导航的自适应文本想象器
Cross from Left to Right Brain: Adaptive Text Dreamer for Vision-and-Language Navigation
用 LLM 以语言形式想象未来场景语义、替代视觉合成来缓解 VLN 的部分可观测性,并给出 decoder-free 潜空间接口把想象结果注入导航专家模块,这套「文本想象 + 潜空间对齐」思路可迁移到其他需要预测未来观测的具身导航与探索任务。
Context-Nav:面向实例导航的上下文驱动探索与视角感知三维空间推理
Context-Nav: Context-Driven Exploration and Viewpoint-Aware 3D Spatial Reasoning for Instance Navigation
把长文本描述编码成稠密文本-图像对齐的价值图来给前沿点排序,作为探索先验;再用采样观察位姿、对齐局部坐标系做三维空间关系校验来判定候选,这套「价值图引导探索 + 视角感知关系验证」的零训练流程可直接迁移到具身导航与开放词表目标定位中。
CapNav:面向能力条件化室内导航的视觉语言模型基准
CapNav: Benchmarking Vision Language Models on Capability-conditioned Indoor Navigation
为视觉语言模型引入「智能体物理能力」这一条件变量,并给出 45 个真实室内场景、473 个任务的能力条件化导航基准,可直接用于评测和训练 VLM 的空间尺寸推理与具身决策能力。
弥合2D-3D鸿沟:面向视觉语言导航的分层语义-几何地图
Bridging the 2D-3D Gap: A Hierarchical Semantic-Geometric Map for Vision Language Navigation
将3D几何信息编码为多通道俯视地图(几何/语义/决策三层),使VLM能直接读取空间布局并选择几何有效的路点,为视觉语言导航提供了一种可复用的空间表示与解耦规划框架。
AwareVLN:面向视觉语言导航的自感知推理
AwareVLN: Reasoning with Self-awareness for Vision-Language Navigation
将自感知推理机制引入端到端视觉语言导航,通过结构化推理模块让模型显式理解智能体状态与任务进度,为具身智能体提供可解释的决策依据,可复用于其他需要状态感知的视觉导航任务。
AURA:面向城市导航的多模态共享自主
AURA: Multi-modal Shared Autonomy for Urban Navigation
把城市导航拆成高层人类指令与低层 AI 控制,并用空间感知指令编码器把语言指令对齐到视觉与空间上下文,这个「指令-空间对齐 + 在线自适应」的接口设计可直接迁移到视觉语言导航与具身智能体的共享控制中。