Tag · 2 篇
自动化可解释性
01 02
语言模型可通过引导解释视觉特征
Language Models Can Explain Visual Features via Steering
对做视觉可解释性的人，这篇给出了一个不依赖输入样本的因果式特征解释范式：在视觉编码器里直接引导单个 SAE 特征、再让语言模型描述其语义，可作为探测视觉表征概念的新工具；Steering-informed Top-k 混合策略还能零额外算力提升解释质量。
超越最高激活：高效可靠的自动化可解释性众包评估
Beyond Top Activations: Efficient and Reliable Crowdsourced Evaluation of Automated Interpretability
提出模型引导的重要性采样（MG-IS）和贝叶斯评分聚合（BRAgg），可高效、可靠地众包评估视觉网络神经元的自动化解释方法，为机制可解释性研究提供可复用的评估流程。