Tag · 15 篇
条件生成
TherA:热感知视觉语言提示用于可控 RGB 到热红外翻译
TherA: Thermal-Aware Visual-Language Prompting for Controllable RGB-to-Thermal Infrared Translation
TherA 将视觉语言模型(VLM)作为条件编码器,把用户提示的场景-物体条件对映射为热感知嵌入,再驱动潜扩散模型实现可控的 RGB 到热红外翻译;这种“VLM 编码条件 + 扩散解码”的范式可复用到其他需要物理属性感知的跨模态图像翻译任务(如 RGB 到近红外、深度、事件相机)。
TRIDENT:面向药物与 RNA 条件细胞形态合成的三模态级联生成框架
TRIDENT: A Trimodal Cascade Generative Framework for Drug and RNA-Conditioned Cellular Morphology Synthesis
把转录组表达谱当作生成条件去合成 Cell Painting 细胞形态图像,为视觉研究者提供了一个「多模态条件级联生成 + 生物表型预测」的可复用范式:可用 RNA 条件替代或补充化学扰动条件,并借助 MorphoGene 这类配对数据集评估生成保真度与对未见化合物的泛化。
引导扩散方向:基于引导扩散桥的表型响应模拟生成建模
Steering Where to Diffuse: Generative Modeling of Phenotypic Response Simulation with Steered Diffusion Bridge
把扩散桥的采样过程形式化为随机动力系统下的最优控制问题,用解析可解的控制策略把生成轨迹引导到指定数据子空间,这一思路可直接迁移到图像/视频扩散中的条件引导与轨迹漂移抑制。
MimiCAT:基于对应感知级联 Transformer 的类别无关 3D 姿态迁移
MimiCAT: Mimic with Correspondence-Aware Cascade-Transformer for Category-Free 3D Pose Transfer
提出基于语义关键点标签的软对应匹配机制,将姿态迁移建模为条件生成过程,可复用于跨类别形状对应与变形迁移任务。
学习长时运动嵌入以实现高效运动学生成
Learning Long-term Motion Embeddings for Efficient Kinematics Generation
把长时运动轨迹压缩成 64x 时序压缩的隐空间,再用条件流匹配在该空间生成运动,为视觉研究者提供了一条绕开逐帧视频合成、直接生成场景动态的轻量路径,可迁移到轨迹预测与可控运动生成。
HandWorld:以手为中心的统一视频动作生成
HandWorld: Hand-Centric Unified Video Action Generation
用双分支条件网络把视频域与动作域对齐成共享条件,再由两个解耦的扩散 Transformer 分别生成,这种「共享条件 + 分域解耦生成」的范式可直接迁移到其他需要联合生成视觉与结构化信号的设定(如轨迹+视频、音频+视频)。MANO 渲染手部作为中间输入提升跨域一致性的做法,对手物交互视频生成与动作预测都有参考价值。
以细粒度条件与语义保持采样引导扩散模型用于单样本联邦学习
Guiding Diffusion Models with Fine-Grained Conditions and Semantics-Preserving Sampling for One-Shot Federated Learning
把扩散模型当作客户端本地的数据生成器:用细粒度条件嵌入刻画类内模式、再对潜噪声分布建模并做自反思采样来提升合成数据的保真度与多样性,这套「条件嵌入+潜噪声分布采样」的组合可直接迁移到任何需要少量样本生成多样化训练数据的视觉场景(如小样本分类、长尾数据增广)。
以你的方式融合:通过直接偏好优化使图像融合对齐异构需求
Fusion in Your Way: Aligning Image Fusion with Heterogeneous Demands via Direct Preference Optimization
把 DPO 引入潜扩散模型的采样过程,用偏好信号直接控制生成结果的属性,为视觉中「同一输入需输出多种风格/质量取向结果」的可控生成提供了一套可复用的偏好对齐训练范式。
EgoX:从单段第三人称视频生成第一人称视频
EgoX: Egocentric Video Generation from a Single Exocentric Video
将大规模视频扩散模型通过轻量低秩适配迁移到极端视角变换的跨视角视频生成任务,其宽度/通道拼接的条件注入策略与几何引导自注意力机制可复用于新视角合成、视角转换等需要保持几何一致性的生成任务。
Ego-InBetween:在第一人称视频中生成物体状态转移
Ego-InBetween: Generating Object State Transitions in Ego-Centric Videos
把「初始态→目标态」的中间帧生成显式建模为多步状态转移,并用 VLM 推断转移步骤作为生成条件,为视频生成中的长程物理一致性提供了一条可复用的「先推理后生成」范式。
DreamStyle:视频风格化的统一框架
DreamStyle: A Unified Framework for Video Stylization
DreamStyle 将文本、风格图像和风格化首帧三种条件统一到基于 I2V 扩散模型的 LoRA 微调框架中,其 token 特定的 up 矩阵设计可缓解多条件 token 混淆,为多模态条件控制生成提供了可复用的参数高效适配思路。
跨模态引导的视觉合成用于数据高效的多模态抑郁识别
Cross-Modal Guided Visual Synthesis for Data-Efficient Multimodal Depression Recognition
对视觉研究者而言,可复用其「用音频/文本条件生成视觉特征来扩充训练分布,并以识别器性能闭环反馈驱动生成」的思路,用于视觉样本稀缺时的多模态表征增强。
双向自回归扩散用于大复杂运动插值
Bi-directional Autoregressive Diffusion for Large Complex Motion Interpolation
ARVFI 将自回归生成与扩散模型结合,从两端向中间逐帧插值,并利用 DINOv3 高层语义特征作为运动表示,为视频插值中的大复杂运动提供了一种可复用的时序生成框架。
超越物体:面向细粒度分类的上下文合成数据生成
Beyond Objects: Contextual Synthetic Data Generation for Fine-Grained Classification
BOB 提出了一种微调 T2I 模型以生成高质量合成训练数据的策略:通过类无关属性(背景、姿态)显式条件化并在生成时边缘化,缓解过拟合并保留生成先验,可直接用于低样本细粒度分类的数据增强。
将预训练单细胞基础模型适配于从组织学图像生成空间基因表达
Adapting a Pre-trained Single-Cell Foundation Model to Spatial Gene Expression Generation from Histology Images
将预训练单细胞基础模型通过轻量级视觉条件调制(SoftAdaLN)和掩码扩散目标适配到组织学图像条件生成,为视觉-组学跨模态生成提供可复用的条件注入与目标对齐策略。