Tag · 1 篇
VLM-PTQ: Efficient Post-Training Quantization for Large Vision-Language Models
为视觉-语言大模型提供了一种非对称训练后量化框架,通过闭式修正项和模态感知的通道重要性区分,在低比特下显著提升量化性能,可直接用于压缩部署VLM。