高效模型与推理加速 / CVPR2026
MASQuant:面向多模态大模型的模态感知平滑量化
MASQuant: Modality-Aware Smoothing Quantization for Multimodal Large Language Models
为多模态大模型(视觉-语言)提供可直接套用的训练后量化方案:按模态分别学习平滑因子,并用 SVD 白化把跨模态激活差异压成低秩,从而在视觉 token 与文本 token 分布差异大时仍能统一量化,适合需要把 VLM 部署到低比特推理的场景。
训练后量化多模态大语言模型SVD-白化