Tag · 7 篇

稀疏自编码器

分布鲁棒性与安全3可解释性与可视化3图像分割1

Sparsity as a Key: Unlocking New Insights from Latent Structures for Out-of-Distribution Detection

把 Top-k 稀疏自编码器套在 ViT 的 [CLS] 词元上，将稠密特征解耦成结构化潜空间，并用类激活剖面（CAPs）的能量散度做 OOD 打分；做 ViT 特征分析或需要可解释 OOD 判据的工作可直接复用这套「稀疏解耦 + 剖面偏离」流程。

SegCompass: Exploring Interpretable Alignment with Sparse Autoencoders for Enhanced Reasoning Segmentation

用稀疏自编码器将思维链与视觉 token 映射到共享稀疏概念空间，为推理分割提供可解释、可微的对齐路径，可复用于需要透明推理的视觉-语言任务。

Language Models Can Explain Visual Features via Steering

对做视觉可解释性的人，这篇给出了一个不依赖输入样本的因果式特征解释范式：在视觉编码器里直接引导单个 SAE 特征、再让语言模型描述其语义，可作为探测视觉表征概念的新工具；Steering-informed Top-k 混合策略还能零额外算力提升解释质量。

Interpretable and Steerable Concept Bottleneck Sparse Autoencoders

为视觉语言模型与图像生成模型提供了一种事后可插拔的稀疏自编码器改造方案：先剪除低效用神经元，再用对齐用户概念集的轻量概念瓶颈扩充潜空间，从而让潜变量既可解释又可被定向操控，可直接用于扩散模型的概念级编辑与生成控制。

Interpretable Debiasing of Vision-Language Models for Social Fairness

用稀疏自编码器在多模态编码器上定位可解释的「社会属性神经元」，再通过选择性关闭这些神经元实现去偏，为视觉研究者提供了一种无需重训练、可审计的模型内部干预手段，可直接迁移到人脸属性识别、跨群体公平性分析等场景。

Improving Sparse Autoencoder with Dynamic Attention

对做视觉表征分析与模型可解释性的研究者，这篇提供了用 sparsemax 交叉注意力替代 ReLU/TopK 的 SAE 激活方案，可自适应决定每个神经元激活的概念数，从而在重建质量与特征解耦可解释性之间取得更好平衡，并可作为现有 SAE 的稀疏度调参指导。

Dictionary-Aligned Concept Control for Safeguarding Multimodal LLMs

对做多模态视觉语言模型的人，这篇给出了一个推理时无需重训的激活干预方案：用图像-描述刺激构建的概念词典初始化 SAE，并对 SAE 原子自动语义标注，从而在冻结模型上做细粒度概念级引导，可直接迁移到视觉模型的安全对齐或概念编辑。