KV-Cache-压缩

重访多模态 KV 缓存压缩：一种频域引导的离群 KV 感知方法

Revisiting Multimodal KV Cache Compression: A Frequency-Domain-Guided Outlier-KV-Aware Approach

对做多模态大模型视觉侧推理的人来说，这篇给出了一个绕开注意力分数、直接对 KV 矩阵做频域主成分建模来识别并保留离群 KV 的压缩思路，且与 FlashAttention 等高效注意力核兼容，可直接用于视觉 token 极长的多图/视频输入场景降低解码延迟与显存。