Tag · 1 篇
Lyapunov Probes for Hallucination Detection in Large Foundation Models
把 MLLM 的表征空间当作动力系统,用带导数稳定性约束的轻量探针在输入扰动下检测置信度是否单调衰减,从而区分事实稳定区与幻觉易发边界;这套扰动+稳定性探针可直接接到任意视觉语言模型的隐层特征上做幻觉判别。