Tag · 4 篇
模态解耦
通过隐式模态分解实现多模态大模型的参数高效适配
Parameter-Efficient Adaptation for MLLMs via Implicit Modality Decomposition
把 LoRA 的可学习参数按模态拆成文本专属、非文本专属与模态共享三部分,并加解耦/对齐约束,可直接迁移到视觉-语言模型(如 LLaVA 类)的 PEFT 微调中,缓解文本模态主导更新、视觉表征学不充分的问题。
MoD-DPO:利用模态解耦偏好优化缓解全模态大模型中的跨模态幻觉
MoD-DPO: Towards Mitigating Cross-modal Hallucinations in Omni LLMs using Modality Decoupled Preference Optimization
给做多模态大模型(尤其是视听/视觉-语言模型)的研究者提供了一种可复用的偏好优化正则化思路:通过对无关模态加扰动、对相关模态加敏感度约束,显式解耦模态间虚假关联,可直接迁移到视觉-语言模型的视觉定位与幻觉抑制训练中。
面向多模态情感分析的冲突感知自适应交叉重建
Conflict-Aware Adaptive Cross-Reconstruction for Multimodal Sentiment Analysis
对做多模态(视觉-音频-文本)融合的视觉研究者,这篇提供了用「跨模态重建」替代相似度损失来做共享表征隐式对齐的思路,并给出按模态冲突程度自适应加权、抑制冲突模态的具体机制,可直接迁移到视觉主导的多模态融合任务中。
超越静态世界:面向一体化医学图像复原的终身学习
Beyond the Static-World: Lifelong Learning for All-in-One Medical Image Restoration
把「解耦-优化-巩固」范式用于多模态医学图像复原:用对抗平衡在内容保持与模态擦除之间解耦出模态不变特征流形,再用预测网络定位特征巩固点配合多样性损失抵抗域增量下的灾难性遗忘,可直接迁移到多模态视觉模型的持续学习场景。