Tag · 27 篇
可微渲染
Voxify3D:像素艺术遇上体渲染
Voxify3D: Pixel Art Meets Volumetric Rendering
提出正交像素艺术监督与可微 Gumbel-Softmax 量化,将 3D 网格优化与 2D 像素艺术监督桥接,为离散颜色空间下的可微优化和风格化体素生成提供可复用技术。
Visual-RRT:通过可微渲染寻找通向视觉目标的路径
Visual-RRT: Finding Paths toward Visual-Goals via Differentiable Rendering
把可微机器人渲染当作视觉目标的对齐信号,与 RRT 的采样探索结合,为视觉目标条件下的操作规划提供了可复用的「梯度利用 + 采样探索」框架;做视觉目标设定、视觉伺服或渲染驱动优化的研究者可直接借用其前沿式探索-利用调度与惯性梯度树扩展。
VarSplat:面向鲁棒 RGB-D SLAM 的不确定性感知三维高斯泼溅
VarSplat: Uncertainty-aware 3D Gaussian Splatting for Robust RGB-D SLAM
把每个高斯球的外观方差作为可学习量,并用全方差定律配合 alpha 合成,在单次光栅化中渲染出逐像素不确定性图;这张图可直接用于跟踪、子图配准与回环检测的加权,是做 3DGS-SLAM 或任何需要衡量重建置信度的人可以复用的手段。
Unposed-to-3D:从真实世界图像学习可直接用于仿真的车辆模型
Unposed-to-3D: Learning Simulation-Ready Vehicles from Real-World Images
用相机预测检测头替代已知位姿监督,把可微渲染的光度误差当作自监督信号,使三维重建网络能从无位姿的真实驾驶图像中学习;这套「位姿预测+可微渲染」闭环可直接迁移到其他缺少相机标注的真实数据三维重建任务。
面向三维高斯泼溅重建的随机光线追踪
Stochastic Ray Tracing for the Reconstruction of 3D Gaussian Splatting
用无排序的可微随机光线追踪替代沿光线对高斯做深度排序,可直接复用到非针孔相机与可重光照 3DGS 的重建与渲染流程中,解决排序瓶颈并支持全光线追踪阴影与着色。
基于泼溅的锥束 CT 金属伪影校正:紧凑衰减建模
Splat-Based Metal Artifact Reduction in Cone-Beam CT via Compact Attenuation Modeling
把连续高斯泼溅表示与能量相关的紧凑材质参数化结合,构建可微多色前向模型,为锥束 CT 中金属伪影的联合几何-材质优化提供了无需金属掩膜的方案,可迁移到其他需要物理一致前向模型的逆渲染问题。
SmokeSVD:基于扩散模型渐进式新视角合成与细化的单视图烟雾重建
SmokeSVD: Smoke Reconstruction from A Single View via Progressive Novel View Synthesis and Refinement with Diffusion Models
利用扩散模型生成物理约束下的侧视图,缓解单视图重建的不适定性,并通过渐进式多阶段新视角合成与可微平流优化重建动态烟雾的密度与速度场,为稀疏视角动态流体重建提供了可复用的生成式先验与优化框架。
镜面错觉艺术
Mirror Illusion Art
把「从两张目标图反推可打印 3D 物体」形式化为逆图形学优化问题,其投影对齐选择、位置加权背景抑制、内部体素保持与形状-颜色解耦优化四个机制,可直接迁移到需要抑制表面噪声与内部空洞的 3D 生成/重建优化流程中。
MeshSplatting:基于不透明网格的可微渲染
MeshSplatting: Differentiable Rendering with Opaque Meshes
把基于点的泼溅表示换成端到端可优化的连通网格,用受限 Delaunay 三角剖分约束拓扑、用可微渲染联合优化几何与外观,使神经渲染结果能直接进 AR/VR 与游戏引擎;做新视角合成或网格重建的人可借鉴其「泼溅式优化 + 网格输出」的管线。
定位、结构化与渲染:连接3D与2D视觉-语言-动作模型用于机器人操作
Localizing, Structuring, and Rendering: Bridging 3D and 2D Vision-Language-Action Models for Robotic Manipulation
将可微渲染作为连接3D几何推理与2D视觉语义的桥梁,通过生成可微图像并让2D VLA的梯度回传到3D表示,为视觉研究者提供了一种融合显式3D空间关系与图像级语义的通用手段,可借鉴到需要空间推理的视觉任务中。
基于光照的视频生成:以渲染器为支撑的智能体推理
Lighting-grounded Video Generation with Renderer-based Agent Reasoning
把布局、光照、相机轨迹等显式3D场景属性通过渲染器转成控制信号,再用轻量条件模块注入视频扩散模型,为可控视频生成提供了可复用的解耦条件注入范式;其场景智能体把高层指令翻译成3D控制信号的思路也可迁移到其他条件生成任务。
运动中的光照:时空 HDR 光照估计
Lighting in Motion: Spatiotemporal HDR Lighting Estimation
用扩散先验从单目视频/图像序列回归时空变化的光探针(镜面球+漫反射球多曝光),再经可微渲染合成 HDRI 环境图;其「深度不足以做空间条件、需显式相对位置几何条件」的结论对做光照估计、逆渲染与场景重光照的视觉研究者可直接复用。
在神经形状表示上学习求解偏微分方程
Learning to Solve PDEs on Neural Shape Representations
提出一种无需网格、直接在神经形状表示上求解表面偏微分方程的可微局部更新算子,可替代传统网格提取+残差训练流程,为几何处理、物理仿真与神经渲染提供端到端可微工具。
学习3D高斯泼溅中的可微层次结构
Learning Differentiable Hierarchies in 3D Gaussian Splatting
提出可微的层次化高斯表示与调制渲染,使3DGS支持任意数量的LoD渲染和模型剪枝,可直接用于需要动态精度调整的实时渲染与压缩场景。
三维网格的图像引导几何风格化
Image-Guided Geometric Stylization of 3D Meshes
把预训练扩散模型当作图像风格的抽象先验,配合近似 VAE 编码器从网格渲染中回传稳定梯度,再用粗到细的变形流程驱动网格顶点位移——这套「渲染-编码-引导」的可微管线可直接迁移到任何需要图像监督的三维几何优化任务(如单图建模、形状编辑)。
基于可微渲染的 Hermite 径向基函数表面重建
Hermite Radial Basis Function for Surface Reconstruction via Differentiable Rendering
用局部 RBF 及其导数构造全局 Hermite 隐式函数,并通过可微渲染端到端学习场景几何;对做隐式表面重建的人,这提供了一种兼顾精确几何表示与快速渲染(BVH 加速求交)的替代 3DGS/RayGauss 方案。
GaussianPile:面向切片式体数据重建的统一稀疏高斯泼溅框架
GaussianPile: A Unified Sparse Gaussian Splatting Framework for Slice-based Volumetric Reconstruction
将各向异性 3D 高斯与成像系统点扩散函数结合,用于切片式体数据的压缩与重建,其可微投影算子和紧凑编码管线可迁移到其他需要物理感知渲染的 3D 重建任务。
GHPT:基于混合路径追踪的实时可重光照高斯泼溅
GHPT: Real-Time Relightable Gaussian Splatting using Hybrid Path Tracing
把高斯泼溅与基于网格的硬件加速路径追踪结合,用 PGSR 重建表面网格与 G-buffer,再做可微逆渲染恢复材质与环境光照,为需要重光照、物体插入合成的 3DGS 场景提供实时可用的分解式表示。
DualPrim:基于正负基元的紧凑三维重建
DualPrim: Compact 3D Reconstruction with Positive and Negative Primitives
用正/负超二次曲面基元作为显式几何表示,配合可微渲染从多视图图像联合优化,为视觉研究者提供了一条绕开 SDF/网格、直接得到紧凑且拓扑灵活网格的重建路线,可复用于物体级重建与可解释几何建模。
面向高效高保真绘画创作的双参数化可微笔画规划
Differentiable Stroke Planning with Dual Parameterization for Efficient and High-Fidelity Painting Creation
提出离散折线与连续贝塞尔控制点的双向映射,使可微优化能同时利用局部梯度与结构感知的笔画提议;其受高斯泼溅启发的初始化策略支持高度并行的笔画优化,可迁移到其他基于笔画的矢量生成任务(如草图生成、字体设计)。
面向形状与反射率联合采集的可微自适应四维结构光照
Differentiable Adaptive 4D Structured Illumination for Joint Capture of Shape and Reflectance
把「下一次投什么光」变成可微优化问题:用像素级深度不确定性直方图模型驱动自适应结构光图案选择,再用测量-仿真一致性微调联合恢复深度与反射率,可复用到主动式三维扫描与光度立体采集策略设计。
DiffBMP:基于位图图元的可微渲染
DiffBMP: Differentiable Rendering with Bitmap Primitives
提供了一种可微的位图图元渲染引擎,视觉研究者可将其用于图像/视频的图层分解、基于位图的场景表示优化,或作为可微渲染管线中处理位图元素的替代方案。
复制-变换-粘贴:视觉语言与几何约束引导的零样本物体-物体对齐
Copy-Transform-Paste: Zero-Shot Object-Object Alignment Guided by Vision-Language and Geometric Constraints
提出一种无需训练的测试时优化框架,利用 CLIP 梯度与可微渲染直接优化两个网格的相对位姿,并引入软 ICP 与穿透损失等几何约束,可复用于语言引导的三维场景组装与物体摆放任务。
明暗对照:一种光照感知的真实世界图像矢量化方法
Clair Obscur: an Illumination-Aware Method for Real-World Image Vectorization
将本征图像分解(albedo/shade/light)引入矢量域,用可微渲染做两阶段优化,为图像矢量化提供光照感知的表示,可复用于需要可编辑矢量表示或光照解耦的视觉任务。
AudioAvatar:个性化音频驱动的全身说话头像
AudioAvatar: Personalized Audio-driven Whole-body Talking Avatars
用3D高斯粒子变形场替代参数化姿态瓶颈,实现音频到全身高保真动画;特征级蒸馏从视频扩散模型迁移同步先验,可复用于其他音频驱动生成任务。
ArtPro:自适应整合可动性提案的自监督关节物体重建
ArtPro: Self-Supervised Articulated Object Reconstruction with Adaptive Integration of Mobility Proposals
把可动部件分割当作可优化的过分割提案,在可微渲染优化中按空间邻域运动一致性动态合并,并用碰撞感知的运动剪枝避免错误运动学估计;这套「提案+动态合并」思路可直接迁移到基于 3DGS 的关节物体建模、部件级场景分解与机器人交互仿真。
AniMimic:从视频先验中模仿三维动画
AniMimic: Imitating 3D Animation from Video Priors
把视频扩散模型当作运动先验,通过可微渲染反推网格的骨骼与关节参数,再用可微软体仿真细化形变;这条「视频先验→可微渲染监督→物理细化」的管线可直接迁移到单目视频驱动网格动画、4D 重建与角色动画生成。