Tag · 2 篇
特征引导
分布 视觉语言模型1可解释性与可视化1
01 02
先定位后稀疏化：归因引导的稀疏策略用于视觉幻觉缓解
Locate-then-Sparsify: Attribution Guided Sparse Strategy for Visual Hallucination Mitigation
提出基于因果干预的逐层归因方法，量化各层与幻觉的相关性，并据此稀疏化特征引导强度；该思路可迁移到其他需要定位关键层或模块的视觉-语言任务中，如视觉定位、图像描述生成中的错误分析。
语言模型可通过引导解释视觉特征
Language Models Can Explain Visual Features via Steering
对做视觉可解释性的人，这篇给出了一个不依赖输入样本的因果式特征解释范式：在视觉编码器里直接引导单个 SAE 特征、再让语言模型描述其语义，可作为探测视觉表征概念的新工具；Steering-informed Top-k 混合策略还能零额外算力提升解释质量。