Tag · 1 篇
Saliency-Driven Token Merging for Vision Transformers
提供了一种免训练的词元合并策略:利用输入图块的潜在视觉显著性统计量判断哪些词元与全局梯度方向不一致,从而安全合并,可直接插入任意 ViT 主干以降低浮点运算量,无需微调。