Tag · 2 篇
零阶梯度估计
01 02
ZOO-Prune:视觉语言模型中基于零阶梯度估计的免训练词元剪枝
ZOO-Prune: Training-Free Token Pruning via Zeroth-Order Gradient Estimation in Vision-Language Models
用零阶扰动在投影层估计每个视觉词元的敏感度,无需反向传播即可决定剪枝对象,可直接移植到任意 VLM 的视觉编码器—投影层之间做免训练加速。
AdaRadar:面向雷达感知的率自适应谱压缩
AdaRadar: Rate Adaptive Spectral Compression for Radar-based Perception
提出一种基于检测置信度代理梯度的自适应压缩框架,利用零阶梯度近似解决不可微操作(剪枝、量化)的梯度回传问题,可复用于视觉任务中需要动态调整压缩率或传输带宽的场景。