生成模型与扩散 · CVPR2026 ·2026.06.03

学习长时运动嵌入以实现高效运动学生成

Learning Long-term Motion Embeddings for Efficient Kinematics Generation

Nick Stracke、Kolja Bauer、Stefan Andreas Baumann、Miguel Ángel Bautista、Josh Susskind、Björn Ommer

与你有关的部分

把长时运动轨迹压缩成 64x 时序压缩的隐空间,再用条件流匹配在该空间生成运动,为视觉研究者提供了一条绕开逐帧视频合成、直接生成场景动态的轻量路径,可迁移到轨迹预测与可控运动生成。

原文依据 we first learn a highly compressed motion embedding with a temporal compression factor of 64x
可迁移到 运动生成轨迹预测条件运动合成视频理解

摘要译文

由模型翻译 · 术语统一 · 请对照原文核对关键结论

理解和预测运动是视觉智能的基本组成部分。尽管现代视频模型对场景动态表现出很强的理解能力,但通过完整视频合成来探索多种可能的未来仍然效率极低。我们直接在一个长时运动嵌入上进行操作,从而以高出数个数量级的效率对场景动态建模,该嵌入是从跟踪器模型获得的大规模轨迹中学习得到的。这使得我们能够高效生成长且真实的运动,并满足由文本提示或空间戳点指定的目标。为此,我们首先学习一个高度压缩的运动嵌入,其时序压缩因子为 64 倍。在该空间中,我们训练一个条件流匹配模型,以任务描述为条件生成运动隐变量。由此得到的运动分布优于最优视频模型以及专门的任务特定方法所产生的运动分布。

英文原文摘要 941 字符

Understanding and predicting motion is a fundamental component of visual intelligence. Although modern video models exhibit strong comprehension of scene dynamics, exploring multiple possible futures through full video synthesis remains prohibitively inefficient. We model scene dynamics orders of magnitude more efficiently by directly operating on a long-term motion embedding that is learned from large-scale trajectories obtained from tracker models.This enables efficient generation of long, realistic motions that fulfill goals specified via text prompts or spatial pokes. To achieve this, we first learn a highly compressed motion embedding with a temporal compression factor of 64x. In this space, we train a conditional flow-matching model to generate motion latents conditioned on task descriptions. The resulting motion distributions outperform those of both state-of-the-art video models and specialized task-specific approaches.

标签

会议 CVPR2026
页码 42581-42591
Bibkey
来源 CVF Open Access