全局注意力分析

AVGGT：重新审视全局注意力以加速 VGGT

AVGGT: Rethinking Global Attention for Accelerating VGGT

对做多视图三维重建的人，这篇给出了 VGGT/π³ 中全局注意力各层分工的实证结论（早层无对应、中层做跨视图对齐、末层仅微调），并据此提出免训练的两步加速：早层全局注意力改为帧内注意力、中层全局注意力对 patch token 的 K/V 做保对角子采样加均值填充，可直接套用到其他交替全局-帧注意力架构上。