Tag · 15 篇
可控生成
通过可平移 RGB-A 分布学习器生成稳定透明度的视频
Video Generation with Stable Transparency via Shiftable RGB-A Distribution Learner
通过可平移的 RGB-A 分布学习,在 VAE 训练中引入透明度感知的双向扩散损失,并在噪声空间平移采样均值与高斯椭圆掩码,为透明视频生成提供稳定且可控的扩散采样策略。
Token 化使多模态大语言模型能够理解、生成与编辑建筑平面图
Tokenization Allows Multimodal Large Language Models to Understand, Generate and Edit Architectural Floor Plans
把房间实例离散化为 token 并入语言模型词表,使 MLLM 能像生成文本一样自回归地生成与编辑结构化布局;这套「实例级离散 token + 多模态对齐」的做法可迁移到任何需要输出结构化几何(场景图、矢量图元、版面)的视觉生成任务。
时间感知单步扩散网络用于真实世界图像超分辨率
Time-Aware One Step Diffusion Network for Real-World Image Super-Resolution
提出时间感知的VAE编码器和时间感知VSD损失,使单步扩散超分能根据时间步动态调整潜变量特征,从而更充分利用预训练SD在不同时间步的生成先验,并实现保真度与真实感的可控权衡。
面向任务的数据合成与控制修正采样用于遥感语义分割
Task-Oriented Data Synthesis and Control-Rectify Sampling for Remote Sensing Semantic Segmentation
提出基于 MM-DiT 的文本-图像-掩码联合注意力控制方案与全微调策略,并设计控制修正流匹配(CRFM)在采样早期用语义损失动态调整方向,可直接用于提升少样本遥感语义分割的合成数据质量。
语义导数流:用于可控实例交互的图引导扩散
Semantic Derivative Flow: Graph-Guided Diffusion for Controllable Instance Interactions
将实例间的交互关系建模为有向无环图,并通过导数注意力机制强制谓词表征由主语派生、宾语由谓词派生,为可控生成中「多实例交互」这一难点提供了可复用的结构化条件注入思路。
PosterIQ:面向海报理解与生成的设计视角基准
PosterIQ: A Design Perspective Benchmark for Poster Understanding and Generation
为视觉语言模型与扩散生成器提供海报理解与生成的细粒度诊断基准,可用于评测模型在版面解析、文字-图像对应、字体感知与构图可控生成上的能力,并暴露商业模型作为自动评分器不敏感的问题。
以物理可控世界模型理解物理对象
Physical Object Understanding with a Physically Controllable World Model
把视频世界模型当作可查询的概率推断器:通过对未来状态采样并分析运动相关性来无监督地分割出物体及其可动部件,为视觉研究者提供了一条不依赖标注的物体发现与3D操控思路。
POLAR:面向光照感知人脸建模的肖像 OLAT 数据集与生成框架
POLAR: A Portrait OLAT Dataset and Generative Framework for Illumination-Aware Face Modeling
用 flow-based 生成模型从单张肖像预测逐光源 OLAT 响应,把光照建模为光照状态间的连续可解释变换,为可控重打光提供了不依赖扩散先验、物理可解释的替代范式,其 OLAT 数据与生成框架的闭环思路也可迁移到其他逆渲染任务。
MAD:面向高效驾驶世界模型的运动-外观解耦
MAD: Motion Appearance Decoupling for efficient Driving World Models
把视频扩散模型拆成「先预测骨架化运动、再渲染 RGB 外观」两阶段,用极少量监督和算力把通用视频模型改造成可控驾驶世界模型;做视频生成或驾驶仿真的研究者可直接复用这种运动-外观解耦的适配范式与文本/自车/物体控制接口。
改进可控生成:通过 x0 监督实现更快训练与更优性能
Improving Controllable Generation: Faster Training and Better Performance via x0-Supervision
把可控扩散/流模型的训练目标从噪声预测损失换成对干净目标图的 x0 监督(或等价的损失重加权),可直接套用到 ControlNet 类布局控制、inpainting、参考图条件生成等训练流程中,在不改网络结构的前提下加速收敛并提升条件精度。
IFCSR:面向单步扩散真实世界图像超分辨率的免推理保真度-真实感控制
IFCSR: Inference-Free Fidelity-Realism Control for One-Step Diffusion-based Real-World Image Super-Resolution
把保真度-真实感的可调控制从潜空间搬到图像空间,使一次推理后即可无额外推理地连续调节权衡,可直接复用于其他单步扩散复原任务(去噪、去模糊)的可控性设计。
面向取证的图像编辑:通过可控潜在扩散实现
Forensic-Friendly Image Manipulation via Controllable Latent Diffusion
提出一种即插即用的可控去噪方法,在扩散编辑过程中通过正交投影和对抗优化使编辑区域与未编辑区域的特征差异最大化,从而在不影响视觉质量的前提下提升被动取证检测性能,为图像编辑与取证结合提供了新思路。
Elastic3D:基于引导式潜变量解码的可控立体视频转换
Elastic3D: Controllable Stereo Video Conversion with Guided Latent Decoding
用条件潜扩散直接生成右视图、绕开显式深度估计与 warping,并设计引导式 VAE 解码器保证锐利与极线一致;其标量视差调节旋钮为立体/新视角生成提供了推理期可控性的可复用范式。
EchoFoley:以事件为中心的层次化控制用于视频接地创意音效生成
EchoFoley: Event-Centric Hierarchical Control for Video Grounded Creative Sound Generation
提出以事件为中心的符号化表示(何时、何声、如何发声)作为细粒度控制信号,可迁移到视频生成中的局部事件控制;其慢快思维智能体框架为多模态条件平衡提供新思路。
以动画师为中心、面向精细细节物体的骨骼生成
Animator-Centric Skeleton Generation on Objects with Fine-Grained Details
把骨骼预测建模为语义感知的自回归 token 序列生成,并用可学习的密度区间模块实现骨骼密度的软控制;这套「语义分组 tokenization + 密度控制」的思路可迁移到其他结构化 3D 输出(如关节层级、部件分解)的可控生成。