Tag · 4 篇
可控视频生成
分布 生成模型与扩散2数据集与评测1图像编辑与可控生成1
01 02 03 04
VerseCrafter:具备4D几何控制的动态真实视频世界模型
VerseCrafter: Dynamic Realistic Video World Model with 4D Geometric Control
用静态背景点云加逐物体3D高斯轨迹构成的4D几何控制表示,渲染成控制图去条件化预训练视频扩散模型,为视觉研究者提供了一种类别无关、可精确控制相机与多物体运动的视频生成条件化范式。
SpatialVID:带空间标注的大规模视频数据集
SpatialVID: A Large-Scale Video Dataset with Spatial Annotations
SpatialVID 提供了带逐帧相机位姿、深度图、动态掩码和运动指令的大规模真实视频,可直接用于训练可控视频生成、几何重建和世界模型,解决这些任务缺乏真实动态场景真值相机运动数据的问题。
少即是多:面向可控文本到视频生成的数据高效适配
Less is More: Data-Efficient Adaptation for Controllable Text-to-Video Generation
对做可控视频生成的研究者,这篇给出了一个反直觉的数据策略:用稀疏、低质量的合成数据微调扩散模型来学习物理相机参数(快门速度、光圈)控制,效果反而优于用真实照片级数据微调;其框架也可用于评估其他条件控制的数据选择。
EgoControl:基于3D全身姿态的可控第一人称视频生成
EgoControl: Controllable Egocentric Video Generation via 3D Full-Body Poses
把显式3D全身姿态序列作为扩散模型的条件信号,并设计同时编码全局相机运动与关节体运动的姿态表示,为视觉研究者提供了一种可复用的「姿态→视频」控制接口,可用于具身智能中的动作模拟与规划。