注意力重分配

跨层重分配注意力以减少多模态幻觉

Reallocating Attention Across Layers to Reduce Multimodal Hallucination

提出一种免训练、轻量级的注意力重分配插件，通过识别感知与推理功能头并类条件缩放其层间贡献，可直接用于缓解多模态大模型在视觉问答等任务中的幻觉，提升视觉忠实度。