Tag · 10 篇
剪枝
面向极速动作扩散的测试时稀疏性
Test-time Sparsity for Extreme Fast Action Diffusion
把「测试时稀疏化 + 跨去噪步/跨 rollout 的特征复用」做成可插拔的加速范式,对视觉里做扩散 Transformer 推理加速(如视频/图像扩散的 few-step 与缓存复用)可直接迁移;其并行化去噪时间步、剪枝器与解码器异步重叠的流水线设计,也是降低非主干延迟的通用工程思路。
SpeeDe3DGS:基于时序剪枝与运动分组的快速可形变三维高斯泼溅
SpeeDe3DGS: Speedy Deformable 3D Gaussian Splatting with Temporal Pruning and Motion Grouping
对做动态 3DGS 的人,这篇给出了一套把逐高斯神经推理换成共享 SE(3) 群变换 + 时序敏感剪枝的加速范式,可直接迁移到任何带神经运动场的可形变场景表示上,在几乎不掉画质的前提下把渲染提速一个数量级。
SODA:面向敏感性的扩散 Transformer 动态加速
SODA: Sensitivity-Oriented Dynamic Acceleration for Diffusion Transformer
对做扩散 Transformer 采样加速的人,这篇给出了一个可复用的思路:用离线敏感性误差建模(跨时间步、层、模块)作为代价函数,用动态规划求最优缓存间隔,并在剪枝与缓存复用时按 token 敏感性自适应决定剪枝时机与比例,可直接嵌入现有 DiT 推理管线以在可控加速比下提升保真度。
剪痕之下的根须:揭示扩散模型剪枝式遗忘中概念复活的隐患
Roots Beneath the Cut: Uncovering the Risk of Concept Revival in Pruning-Based Unlearning for Diffusion Models
对做扩散模型安全与机器遗忘的视觉研究者,本文指出剪枝位置本身构成侧信道:攻击者仅凭权重为零的位置即可无数据、无训练地恢复被抹除的概念,因此设计剪枝式遗忘方法时必须同时隐藏剪枝掩码,而不能只关注遗忘效果。
RAP:面向高效 3D 高斯泼溅处理的快速前馈无渲染属性引导基元重要性分数预测
RAP: Fast Feedforward Rendering-Free Attribute-Guided Primitive Importance Score Prediction for Efficient 3D Gaussian Splatting Processing
用轻量 MLP 从高斯本征属性与局部邻域统计直接回归每个基元的重要性分数,完全绕开多视角渲染与可微光栅化,可作为即插即用剪枝模块嵌入 3DGS 重建、压缩与传输流程,替代渲染式贡献评估。
Proxy-GS:面向结构化三维高斯泼溅训练与推理的统一遮挡先验
Proxy-GS: Unified Occlusion Priors for Training and Inference in Structured 3D Gaussian Splatting
用快速代理表示生成遮挡深度图,为高斯泼溅的训练致密化与推理剔除提供统一遮挡先验,可直接迁移到大规模场景的 LOD 与加速渲染管线中。
GS^2:基于图的空间分布优化用于紧凑三维高斯泼溅
GS^2: Graph-based Spatial Distribution Optimization for Compact 3D Gaussian Splatting
提出基于图的空间分布优化与不透明度感知渐进剪枝,可在保持渲染质量的同时将高斯点数压缩至约12.5%,为3DGS的轻量化部署提供了可复用的稠密化控制与剪枝策略。
基于 Fisher 信息剪枝的领域敏感联邦学习
Domain Sensitive Federated Learning with Fisher-Informed Pruning
把 Fisher 信息当作逐域通道重要性信号,在联邦场景下生成共享剪枝掩码并按域重激活通道,可迁移到视觉模型的多域个性化压缩与结构对齐;结构对比损失利用域原型增强域内一致性与域间可分性,对多域视觉表征学习有直接参考价值。
偏见进,偏见出?在原始模型中发现无偏子网络
Bias In, Bias Out? Finding Unbiased Subnetworks in Vanilla Models
提出通过剪枝从标准训练模型中提取无偏子网络,无需额外数据或重训练,为视觉模型去偏提供高效的结构化方法,可复用于其他公平性任务。
AdaRadar:面向雷达感知的率自适应谱压缩
AdaRadar: Rate Adaptive Spectral Compression for Radar-based Perception
提出一种基于检测置信度代理梯度的自适应压缩框架,利用零阶梯度近似解决不可微操作(剪枝、量化)的梯度回传问题,可复用于视觉任务中需要动态调整压缩率或传输带宽的场景。