Tag · 2 篇
混合精度量化
01 02
QVGGT:训练后量化的视觉几何基础 Transformer
QVGGT: Post-Training Quantized Visual Geometry Grounded Transformer
对需要在边缘设备部署前馈式三维重建模型的研究者,本文给出了按 Transformer 块敏感度分配精度的混合精度量化方案,以及用 PCA 全局补偿词元处理相机/寄存器离群词元的校准策略,可直接迁移到其他大规模几何 Transformer 的压缩。
梯度知道最优:基于梯度引导位分配的混合精度量化用于超分辨率
Gradient Knows Best: Mixed-Precision Quantization via Gradient-Guided Bit Allocation for Super-Resolution
提出基于梯度的量化敏感度估计和动态激活范围归一化,可直接用于超分辨率模型的混合精度量化,在保持重建质量的同时降低计算和内存开销。