图像编辑与可控生成 · CVPR2026 ·2026.06.03

少即是多:面向可控文本到视频生成的数据高效适配

Less is More: Data-Efficient Adaptation for Controllable Text-to-Video Generation

Shihan Cheng、Nilesh Kulkarni、David Hyde、Dmitriy Smirnov

与你有关的部分

对做可控视频生成的研究者,这篇给出了一个反直觉的数据策略:用稀疏、低质量的合成数据微调扩散模型来学习物理相机参数(快门速度、光圈)控制,效果反而优于用真实照片级数据微调;其框架也可用于评估其他条件控制的数据选择。

原文依据 we propose a data-efficient fine-tuning strategy that learns these controls from sparse, low-quality synthetic data
可迁移到 text-to-video generationcontrollable generationcamera parameter control

摘要译文

由模型翻译 · 术语统一 · 请对照原文核对关键结论

微调大规模文本到视频扩散模型以加入新的生成控制(例如对快门速度、光圈等物理相机参数的控制),通常需要大量难以获取的高保真数据集。在本工作中,我们提出一种数据高效的微调策略,能够从稀疏、低质量的合成数据中学习这些控制。我们表明,在这种简单数据上微调不仅能够实现所需的控制,而且实际效果优于在照片级“真实”数据上微调的模型。除展示这些结果外,我们还提供了一个框架,从直觉和定量两方面解释这一现象。

英文原文摘要 680 字符

Fine-tuning large-scale text-to-video diffusion models to add new generative controls, such as those over physical camera parameters (e.g., shutter speed or aperture), typically requires vast, high-fidelity datasets that are difficult to acquire. In this work, we propose a data-efficient fine-tuning strategy that learns these controls from sparse, low-quality synthetic data. We show that not only does fine-tuning on such simple data enable the desired controls, it actually yields superior results to models fine-tuned on photorealistic "real" data. Beyond demonstrating these results, we provide a framework that justifies this phenomenon both intuitively and quantitatively.

标签

会议 CVPR2026
页码 14811-14821
Bibkey
来源 CVF Open Access