高效模型与推理加速 / CVPR2026
CAR-SAM:面向分割一切模型训练后量化的交叉注意力重建
CAR-SAM: Cross-Attention Reconstruction for Post-Training Quantization of the Segment Anything Model
针对 SAM 解码器中交叉注意力结构做训练后量化,提出把 MatMul 激活量化误差转移到前置线性权重的补偿机制,以及联合重建双向耦合注意力分支的策略,可直接迁移到其他含交叉注意力的视觉 Transformer 模型(如检测、分割解码器)的低比特部署。
训练后量化低比特量化交叉注意力重建