Tag · 1 篇
ApET: Approximation-Error Guided Token Compression for Efficient VLMs
用线性近似重构误差衡量视觉词元信息量并据此剪枝，摆脱对 [CLS] 注意力或文本-视觉交叉注意力的依赖，从而兼容 FlashAttention，可直接用于任意 VLM 的视觉编码器输出端做免训练或轻量加速。