非线性激活

选择即非线性：通过联合博弈决策视角桥接注意力与激活，实现可解释、判别性的视觉表征

Selection-as-Nonlinearity: Bridging Attention and Activation via a Joint Game-Decision Lens for Interpretable, Discriminative Visual Representations

提出将注意力视为成本约束下的选择操作，为理解视觉Transformer中注意力与FFN的互补性提供新视角，并据此设计CSaN模块，可即插即用地增强Swin、ViT、Hiera等骨干网络，在视觉基准上以更小规模媲美两倍大的同族模型。