Tag · 19 篇
扩散先验
WildCap:通过混合逆向渲染实现野外环境下的人脸反照率捕捉
WildCap: Facial Albedo Capture in the Wild via Hybrid Inverse Rendering
提出混合逆向渲染框架:先用数据驱动方法(SwitchLight)把野外图像转成受约束条件,再用基于模型的逆向渲染;并用 texel grid 光照模型把网络预测的非物理伪影(如阴影烘焙)解释为局部物理光照下的干净反照率,配合扩散先验联合优化以消解局部光照与反照率的尺度歧义。这套「数据驱动预处理 + 物理逆向渲染 + 生成先验正则」的思路可迁移到其他本征分解与材质估计任务。
基于多视图扩散先验的无监督单目三维关键点发现
Unsupervised Monocular 3D Keypoint Discovery from Multi-View Diffusion Priors
把预训练多视图扩散模型当作几何先验来源:用单图生成的多视图图像作为监督信号,并把扩散特征转成显式三维特征体,从而在无标注、无标定多视图的条件下做单目三维关键点估计;这套「扩散先验→三维监督」的流程可迁移到其他缺乏三维标注的物体/人体结构化任务。
UniLDiff:释放扩散先验在一体化图像复原中的潜力
UniLDiff: Unlocking the Power of Diffusion Priors for All-in-One Image Restoration
把预训练扩散模型的先验直接搬进一体化图像复原:DAFF 在每个去噪步用解耦融合+自适应调制注入低质特征,DAEM 用专家路由在解码器端补纹理,这套「退化条件注入去噪链」的做法可迁移到其他条件生成式复原任务。
驯服生成式扩散模型用于任务导向红外成像
Taming Generative Diffusion Model for Task-Oriented Infrared Imaging
把扩散模型的多步采样压缩成单步、并用动态时间步估计对齐潜变量轨迹,这一思路可直接迁移到其他退化严重、需要物理约束的低层复原任务(如低光、去雾、医学成像);同时用任务感知低秩适配把复原模型快速接到下游语义任务,是「复原+下游」联合设计的可复用范式。
SketchRevive:扩散先验引导多模态大语言模型的细粒度像素到矢量草图补全
SketchRevive: Fine-Grained Pixel-to-Vector Sketch Completion with Diffusion-Prior-Guided Multimodal LLMs
把扩散模型的多尺度 UNet 特征与线条预测 logits 注入 MLLM 视觉嵌入并做词元压缩,这一「扩散先验聚合编码」思路可迁移到任何需要把像素级生成先验喂给多模态大模型的图像编辑/矢量化任务。
SV-GS:基于骨架驱动高斯泼溅的稀疏视角四维重建
SV-GS: Sparse View 4D Reconstruction with Skeleton-Driven Gaussian Splatting
把骨架关节位姿估计与细粒度形变解耦,只让关节位姿随时间变化,从而在稀疏时序观测下实现平滑运动插值并保留几何细节;该思路可直接迁移到稀疏相机下的动态高斯泼溅重建与单目视频新视角合成。
面向不均衡纹理的遥感图像超分辨率:一种纹理感知扩散框架
Remote Sensing Image Super-Resolution for Imbalanced Textures: A Texture-Aware Diffusion Framework
把纹理密度图同时用作扩散的空间条件、损失调制和采样调度适配器,这一「先验图三用」的思路可直接迁移到其他需要抑制生成幻觉的复原任务(如医学影像、低光照增强)。
MR. Illuminate:基于扩散先验的零样本低光照图像增强
MR. Illuminate: Zero-Shot Low-Light Image Enhancement with Diffusion Prior
利用预训练扩散模型的自注意力特征做局部结构/颜色精修,并用 AdaIN 调制全局光照与色彩,无需任何优化或退化假设即可零样本增强——这为把扩散模型的内部特征当作免训练先验用于底层复原任务提供了可复用范式。
学习潜透射与眩光图用于镜头眩光去除
Learning Latent Transmission and Glare Maps for Lens Veiling Glare Removal
把 veiling glare 建模为空间变化、与深度无关的散射过程,用无监督方式从目标图像反推潜透射图与眩光图,再以可逆约束引导复原网络;这套「先估计物理潜图、再做逆散射复原」的范式可直接迁移到低光、雾霾、镜头污渍等复合退化复原任务,其合成配对数据流程也可用于缺乏真实配对数据的复原问题。
LaVR:基于大型4D重建模型场景潜变量条件的生成式视频轨迹重渲染
LaVR: Scene Latent Conditioned Generative Video Trajectory Re-Rendering using Large 4D Reconstruction Models
用大型4D重建模型的潜空间作为隐式几何条件来驱动视频扩散生成,绕开显式深度估计与重建,为需要几何一致性的视频生成/新视角合成提供了一条可复用的条件注入路径。
KLIP:逆问题中基于 KL 散度与扩散先验的局部分布偏移检测
KLIP: Localized Distribution Shift Detection via KL-Divergence with Diffusion Priors in Inverse Problems
把扩散模型当作数据先验,用先验与后验之间的 KL 散度作为无需校准数据的 OOD 指标,并可在图像块级别定位分布偏移;对做逆问题求解(如 CT 重建)的视觉研究者,这提供了一种在只有间接测量时判断输入是否可信、并定位异常区域的通用手段。
面向多视图三维材质重建的本征图像融合
Intrinsic Image Fusion for Multi-View 3D Material Reconstruction
将扩散模型产生的多视图材质预测通过低维参数化函数和鲁棒优化融合为一致的材质空间,为逆渲染中欠约束问题提供了可复用的先验融合框架。
InstantViR:基于蒸馏扩散先验的实时视频逆问题求解器
InstantViR: Real-Time Video Inverse Problem Solver with Distilled Diffusion Prior
把双向视频扩散教师蒸馏成因果自回归学生,单次前向即可完成视频修复,无需测试时迭代优化;这套「先验驱动蒸馏 + 轻量变分自编码器」的范式可直接迁移到其他需要实时推理的扩散先验逆问题求解器。
三维网格的图像引导几何风格化
Image-Guided Geometric Stylization of 3D Meshes
把预训练扩散模型当作图像风格的抽象先验,配合近似 VAE 编码器从网格渲染中回传稳定梯度,再用粗到细的变形流程驱动网格顶点位移——这套「渲染-编码-引导」的可微管线可直接迁移到任何需要图像监督的三维几何优化任务(如单图建模、形状编辑)。
HAD:面向三维重建的幻觉感知扩散先验
HAD: Hallucination-Aware Diffusion Priors for 3D Reconstruction
用前馈新视角合成网络做多视角一致性推理,为扩散生成的增广视图逐像素打幻觉分数并掩码,可直接迁移到任何用扩散先验补视角的重建/生成管线中抑制不一致伪影。
GeoDiff4D:面向 4D 头部化身重建的几何感知扩散
GeoDiff4D: Geometry-Aware Diffusion for 4D Head Avatar Reconstruction
把扩散模型同时合成肖像图与表面法线,作为几何先验蒸馏进 3D 高斯化身,为单图重建提供了一条「用生成模型补几何」的可复用路径;其无姿态表情编码器也可直接用于驱动类任务。
FRAMER:频率对齐的自蒸馏与自适应调制,利用扩散先验实现真实世界图像超分辨率
FRAMER: Frequency-Aligned Self-Distillation with Adaptive Modulation Leveraging Diffusion Priors for Real-World Image Super-Resolution
提出一种即插即用的训练方案,利用扩散模型内部特征图的频域分解(LF/HF)进行自蒸馏,通过对比损失和自适应调制增强高频细节重建,可推广到其他基于扩散先验的低层视觉任务。
先构想、再关注、后回应:大型视觉语言模型中的反事实幻觉缓解
Envision, Attend, Then Respond: Counterfactual Hallucination Mitigation in Large Vision-Language Models
提出一种免训练框架,利用扩散先验生成视觉印象并定位反事实元素,再通过对比解码抑制幻觉,可复用于提升LVLM在视觉证据与常识冲突时的鲁棒性。
扩散引导的链式视觉:面向大型自回归视觉模型
Diffusion Guided Chain-of-Vision for Large Autoregressive Vision Models
把预训练扩散模型的概率流当作无需任务标注的中间视觉推理步骤,为纯视觉自回归模型提供链式视觉监督;做视觉上下文学习或多步视觉推理时,可复用这一「沿扩散轨迹采样中间图作为推理链」的思路,而不必依赖文本 CoT。