Tag · 1 篇
Select, Hypothesize and Verify: Towards Verified Neuron Concept Interpretation
为视觉模型神经元概念解释引入「生成后验证」环节:用激活分布筛选最能代表神经元功能的样本,再检验生成的概念能否高激活对应神经元,可直接用于排查冗余/误导性神经元,提升特征归因与概念瓶颈模型的可信度。