Tag · 3 篇
自适应压缩
分布 视觉语言模型2高效模型与推理加速1
01 02 03
SeD-UD:面向多模态意图识别的、影响驱动且分层解耦的信息瓶颈
SeD-UD: An Influence-Driven and Hierarchically-Decoupled Information Bottleneck for Multimodal Intent Recognition
论文提出的影响驱动自适应瓶颈(IDAB)模块可根据样本级冗余/噪声因子动态调整瓶颈维度,这一思路可直接迁移到视觉-语言模型的多模态特征融合环节,用于按样本抑制视觉与文本模态中的冗余信息。
FluxMem:面向流式视频理解的自适应分层记忆
FluxMem: Adaptive Hierarchical Memory for Streaming Video Understanding
提出免训练的分层视觉词元压缩方法(TAS+SDC),通过自适应压缩率减少冗余视觉词元,可直接用于视频语言模型的高效推理,降低延迟和显存。
AdaRadar:面向雷达感知的率自适应谱压缩
AdaRadar: Rate Adaptive Spectral Compression for Radar-based Perception
提出一种基于检测置信度代理梯度的自适应压缩框架,利用零阶梯度近似解决不可微操作(剪枝、量化)的梯度回传问题,可复用于视觉任务中需要动态调整压缩率或传输带宽的场景。