高效模型与推理加速 / CVPR2026
HeSS:用于 VGGT 稀疏性重分配的检测头敏感度分数
HeSS: Head Sensitivity Score for Sparsity Redistribution in VGGT
对做 3D 重建/前馈几何模型的人,这篇给出了一个可直接套用的检测头级稀疏预算再分配方案:用小型校准集上的 Hessian 近似给每个注意力检测头打敏感度分,再按分数非均匀分配注意力预算,从而在 VGGT 这类全局注意力主干上以训练-free 方式换取高稀疏下的精度保持。
稀疏化全局注意力Hessian-敏感度分析