Tag · 9 篇
单目视频
VLM-3R:以指令对齐三维重建增强的视觉语言模型
VLM-3R: Vision-Language Models Augmented with Instruction-Aligned 3D Reconstruction
把单目视频帧经几何编码器转成隐式 3D 空间 token 与相机运动 view token,再与语言模型对齐,为视觉研究者提供了一条无需外部深度传感器或预建 3D 地图即可让 VLM 获得空间与时序推理能力的可复用路径。
Scaling4D:借助大规模单目视频推动视频新视角合成的前沿
Scaling4D: Pushing the Frontier of Video Novel View Synthesis through Large-Scale Monocular Videos
把单目视频的新视角合成重新表述为「对应关系引导的生成」任务,从理论上消除 inpainting 式训练与推理之间的鸿沟;做动态场景重建或视频生成的研究者可以直接借用这一训练范式与合成数据管线来扩展数据规模。
ReFlow:面向动态场景重建的自校正运动学习
ReFlow: Self-correction Motion Learning for Dynamic Scene Reconstruction
提出自校正流匹配机制,无需外部光流引导即可从单目视频学习3D运动,为动态场景重建提供了一种可复用的无监督运动监督范式。
NeoVerse:利用野外单目视频增强 4D 世界模型
NeoVerse: Enhancing 4D World Model with in-the-wild Monocular Videos
无位姿前馈 4D 重建加在线单目退化模拟,让 4D 世界模型可以直接吃野外单目视频训练,绕开多视角 4D 数据和繁琐预处理;做动态场景重建或新视角/新轨迹视频生成的人可以把它当作可扩展的训练与推理范式。
MoRe:运动感知的前馈 4D 重建 Transformer
MoRe: Motion-aware Feed-forward 4D Reconstruction Transformer
用 attention-forcing 与分组因果注意力把动态运动从静态结构中解耦,为单目视频下的前馈式动态重建提供了可复用的训练策略与注意力设计,可直接迁移到动态 NeRF/3DGS 的快速推理场景。
无需见过组合式 4D 场景即可推断
Inferring Compositional 4D Scenes without Ever Seeing One
提出时空注意力解耦训练与注意力混合推理机制,使模型无需 4D 组合训练数据即可从单目视频重建多物体交互的 4D 场景,为动态场景重建提供可复用的训练策略。
GP-4DGS:基于变分高斯过程的单目视频概率 4D 高斯泼溅
GP-4DGS: Probabilistic 4D Gaussian Splatting from Monocular Video via Variational Gaussian Processes
把变分高斯过程与诱导点引入 4D 高斯泼溅的形变场建模,为单目动态重建提供可训练的不确定性输出与时序外推能力;做动态场景重建或需要判断运动歧义区域的工作可直接复用其时空核与变分推断方案。
FaceCam:通过尺度感知条件实现肖像视频相机控制
FaceCam: Portrait Video Camera Control via Scale-Aware Conditioning
提出一种人脸定制的尺度感知相机表示,无需3D先验即可实现确定性的相机条件控制,可复用于其他需要精确相机轨迹控制的视频生成任务,避免几何失真。
Charge:一个统一绑定所有任务的全新视角合成综合基准与数据集
Charge: A Comprehensive Novel View Synthesis Benchmark and Dataset to Bind Them All
该数据集同时提供深度、表面法线、分割与光流等多模态真值,并设置稠密多视角、稀疏相机与单目视频三种基准场景,可直接用于评测4D重建与新视角合成方法在不同数据稀疏度下的鲁棒性,也为多模态监督训练提供了现成的配对数据。