块稀疏核

SparVAR：探索视觉自回归建模中的稀疏性以实现免训练加速

SparVAR: Exploring Sparsity in Visual AutoRegressive Modeling for Training-Free Acceleration

SparVAR 提出免训练的稀疏注意力机制，利用 VAR 模型中的注意力汇、跨尺度激活相似性和局部性，动态预测高分辨率尺度的稀疏模式，并实现高效块稀疏核，可将 8B 模型生成 1024x1024 图像的时间降至 1 秒，为视觉自回归生成模型提供通用加速方案。