Tag · 12 篇
训练后量化
VLM-PTQ：面向大型视觉语言模型的高效训练后量化
VLM-PTQ: Efficient Post-Training Quantization for Large Vision-Language Models
为视觉-语言大模型提供了一种非对称训练后量化框架，通过闭式修正项和模态感知的通道重要性区分，在低比特下显著提升量化性能，可直接用于压缩部署VLM。
SegQuant：面向扩散模型的语义感知可泛化量化框架
SegQuant: A Semantics-Aware and Generalizable Quantization Framework for Diffusion Models
对做扩散模型落地的人，SegQuant 提供了一套免训练、免数据的 PTQ 流程：用图分割把线性层按结构语义分组再定量化粒度，并用双路径硬件原生计算处理极性不对称激活，可直接套到自己的扩散骨干上压缩显存与延迟。
S2D：选择性谱衰减，用于神经激活的量化友好调理
S2D: Selective Spectral Decay for Quantization-Friendly Conditioning of Neural Activations
对做视觉大模型部署的人，S2D 给出一个在微调阶段抑制激活离群值的正则手段：只对权重最大奇异值对应的分量做谱衰减，就能让 CLIP/SigLIP 类骨干在 W4A4 PTQ 下少掉点，可直接接到自己的量化流水线前。
重新审视非对称量化：视觉模型权重中的隐藏对称性
Rethinking Asymmetric Quantization: Hidden Symmetry in Vision Model Weights
对需要在边缘/FPGA上部署视觉模型的读者，DASQ 给出了一条可复用的权重分解思路：先用稀疏分量剥离少量离群值，使剩余稠密权重近似对称，从而用无零点的对称量化替代非对称量化，在分类、检测、实例分割上同时降低 BOPs 与硬件开销。
QuantVLA：面向视觉-语言-动作模型的尺度校准训练后量化
QuantVLA: Scale-Calibrated Post-Training Quantization for Vision-Language-Action Models
为视觉-语言-动作模型提供无需训练的训练后量化方案，可复用于扩散Transformer动作头的低比特部署，并给出注意力温度匹配与输出头平衡等校准技巧。
Quant Experts：面向大型视觉语言模型量化的 token 感知自适应误差重建与混合专家
Quant Experts: Token-aware Adaptive Error Reconstruction with Mixture of Experts for Large Vision-Language Models Quantization
对需要在有限显存下部署 VLM 的视觉研究者，这篇论文给出了一个可直接套用的 PTQ 误差补偿范式：按 token 与模态区分重要通道，用共享低秩适配器加路由低秩适配器（MoE）分别补偿全局与局部量化误差，可迁移到任意 VLM 的量化部署流程中。
QVGGT：训练后量化的视觉几何基础 Transformer
QVGGT: Post-Training Quantized Visual Geometry Grounded Transformer
对需要在边缘设备部署前馈式三维重建模型的研究者，本文给出了按 Transformer 块敏感度分配精度的混合精度量化方案，以及用 PCA 全局补偿词元处理相机/寄存器离群词元的校准策略，可直接迁移到其他大规模几何 Transformer 的压缩。
MASQuant：面向多模态大模型的模态感知平滑量化
MASQuant: Modality-Aware Smoothing Quantization for Multimodal Large Language Models
为多模态大模型（视觉-语言）提供可直接套用的训练后量化方案：按模态分别学习平滑因子，并用 SVD 白化把跨模态激活差异压成低秩，从而在视觉 token 与文本 token 分布差异大时仍能统一量化，适合需要把 VLM 部署到低比特推理的场景。
LS-ViT：面向视觉 Transformer 低比特训练后量化的最小二乘 Hessian 块重建
LS-ViT: Least-Squares Hessian Based Block Reconstruction for Low-Bit Post-Training Quantization of Vision Transformers
对需要在边缘设备部署 ViT 的视觉研究者，这篇给出了一个即插即用的 4-bit 以下 PTQ 块重建方案：用最小二乘显式最小化跨样本的 Hessian 近似误差（补上被忽略的协方差项），可直接替换 APHQ-ViT/FIMA-Q 中的 Hessian 估计环节，且量化耗时更低。
梯度知道最优：基于梯度引导位分配的混合精度量化用于超分辨率
Gradient Knows Best: Mixed-Precision Quantization via Gradient-Guided Bit Allocation for Super-Resolution
提出基于梯度的量化敏感度估计和动态激活范围归一化，可直接用于超分辨率模型的混合精度量化，在保持重建质量的同时降低计算和内存开销。
面向大型视觉语言模型的细粒度训练后量化：基于量化感知积分梯度
Fine-Grained Post-Training Quantization for Large Vision Language Models with Quantization-Aware Integrated Gradients
把量化敏感度的粒度从模态级下推到词元级，用积分梯度定量衡量每个词元对量化误差的贡献，可直接迁移到任意 LVLM 的 W4A8/W3A16 部署流程中，作为校准阶段的即插即用模块。
CAR-SAM：面向分割一切模型训练后量化的交叉注意力重建
CAR-SAM: Cross-Attention Reconstruction for Post-Training Quantization of the Segment Anything Model
针对 SAM 解码器中交叉注意力结构做训练后量化，提出把 MatMul 激活量化误差转移到前置线性权重的补偿机制，以及联合重建双向耦合注意力分支的策略，可直接迁移到其他含交叉注意力的视觉 Transformer 模型（如检测、分割解码器）的低比特部署。