Tag · 12 篇
文本到视频生成
当数字发声:文本到视频扩散模型中文本数词与视觉实例的对齐
When Numbers Speak: Aligning Textual Numerals and Visual Instances in Text-to-Video Diffusion Models
通过筛选判别性自注意力/交叉注意力头提取可计数的潜变量布局,再调制交叉注意力引导重生成,是一种无需训练即可复用的生成过程结构引导手段,可直接迁移到其他需要空间/数量约束的扩散生成任务。
面向可控视频生成的统一相机位置编码
Unified Camera Positional Encoding for Controlled Video Generation
提出 Relative Ray Encoding 把 6-DoF 位姿、内参和镜头畸变统一编码为几何一致的射线表示,并以不到 1% 可训练参数的轻量空间注意力适配器注入预训练视频 DiT,可直接复用于多视角生成、新视角合成和 3D 感知骨干的相机条件注入。
Texvent:基于文本提示的异步事件数据仿真
Texvent: Asynchronous Event Data Simulation via Text Prompt
用多模态大模型按文本提示渲染视频,再经物理仿真器转成异步事件流,为事件相机视觉任务提供低成本、可扩展的合成数据管线;其中自适应亮度感知帧插值与基于缓存的电压刷新机制可直接复用于事件数据增广与仿真器改进。
TempoControl:面向文本到视频模型的时序注意力引导
TempoControl: Temporal Attention Guidance for Text-to-Video Models
利用文本到视频扩散模型中的交叉注意力图作为可优化的控制信号,在推理阶段对概念出现的时间位置进行对齐,无需重训练;这一思路可迁移到任何基于交叉注意力的可控生成任务(如空间布局控制、视频编辑中的时序一致性约束)。
TRANSPORTER:从 VLM 流形迁移视觉语义
TRANSPORTER: Transferring Visual Semantics from VLM Manifolds
把 VLM 的 logit 分数通过最优传输耦合映射到 T2V 模型的语义嵌入空间,用生成视频作为解释载体——做 VLM 可解释性或探针研究时,可复用这套「logit→嵌入方向→条件生成」的流程来可视化模型内部语义。
SwitchCraft:基于注意力控制的免训练多事件视频生成
SwitchCraft: Training-Free Multi-Event Video Generation with Attention Controls
EAQS 通过按事件对齐帧级注意力来引导提示词注入,ABSS 自适应调节引导强度,这套免训练的注意力操控思路可直接迁移到任何 DiT 类视频扩散模型上,用于解决多阶段叙事、镜头切换等时序可控生成问题。
SceneScribe-1M:一个具有全面几何与语义标注的大规模视频数据集
SceneScribe-1M: A Large-Scale Video Dataset with Comprehensive Geometric and Semantic Annotations
该数据集同时提供相机参数、稠密深度与一致 3D 点轨迹,可直接用于训练单目深度估计、动态点跟踪与相机可控视频生成模型,并为几何感知的视频生成提供统一的监督信号与评测基准。
M4V:面向高效文本到视频生成的多模态 Mamba
M4V: Multimodal Mamba for Efficient Text-to-Video Generation
用双向词元重排加视觉寄存器把 Mamba 的线性复杂度序列建模接入扩散式文生视频主干,在 768x1280 分辨率下比注意力方案省 45% 浮点运算量,可作为高分辨率视频生成中替代全局注意力的可复用模块。
HoloCine:电影级多镜头长视频叙事的整体生成
HoloCine: Holistic Generation of Cinematic Multi-Shot Long Video Narratives
窗口交叉注意力把文本提示定位到具体镜头、镜头内稠密镜头间稀疏的自注意力模式,是让长视频生成在分钟级尺度上保持全局一致且算力可控的可复用设计,可直接迁移到任何需要跨片段一致性的长序列生成任务。
DynamicsBoost:通过无标注续写偏好优化实现动态合理的视频生成
DynamicsBoost: Dynamic Plausible Video Generation via Annotation-Free Continuation Preference Optimization
用视频续写自动构造偏好对(参考帧越多、生成内容越少、保真度越高),把 DPO 从昂贵的人工/VLM 标注中解放出来;做视频生成偏好对齐或奖励建模的可以直接复用这套数据构造与 Asymmetrical DPO 损失设计。
CineScene:以隐式三维作为电影级视频生成的有效场景表示
CineScene: Implicit 3D as Effective Scene Representation for Cinematic Video Generation
用 VGGT 把静态场景图像编码成隐式三维感知特征,再以额外上下文拼接的方式注入预训练文生视频模型,实现相机轨迹可控且场景一致的视频合成;这套「隐式三维先验 + 上下文拼接」的条件注入思路可迁移到任何需要几何一致性的可控视频生成任务。
CI-VID:一个连贯的交错文本-视频数据集
CI-VID: A Coherent Interleaved Text-Video Dataset
CI-VID 提供了带交错文本标注的多片段视频序列,可直接用于训练和评测文本-视频到视频(T&V2V)生成模型,推动从孤立片段生成向具有跨片段语义连贯性的故事化视频生成发展。