稀疏激活函数

用动态注意力改进稀疏自编码器

Improving Sparse Autoencoder with Dynamic Attention

对做视觉表征分析与模型可解释性的研究者，这篇提供了用 sparsemax 交叉注意力替代 ReLU/TopK 的 SAE 激活方案，可自适应决定每个神经元激活的概念数，从而在重建质量与特征解耦可解释性之间取得更好平衡，并可作为现有 SAE 的稀疏度调参指导。