Tag · 14 篇
模型合并
基于超网络的稀疏任务向量混合用于全切片图像预后中的高效知识迁移
Sparse Task Vector Mixup with Hypernetworks for Efficient Knowledge Transfer in Whole-Slide Image Prognosis
提出基于任务向量混合与超网络稀疏聚合的模型合并方案，可高效地将多个源域模型的知识迁移到目标域模型，无需联合训练或多模型推理，为医学影像中的跨癌种知识迁移提供了可复用的技术路径。
偏好对齐的低秩适配合并：保持子空间覆盖与解决方向各向异性
Preference-Aligned LoRA Merging: Preserving Subspace Coverage and Addressing Directional Anisotropy
TARA-Merging 提供了一种无需额外训练即可合并多个 LoRA 模块的方法，视觉研究者可将其用于多任务模型融合、领域自适应或个性化模型集成，尤其适合需要保持各任务性能的场景。
本质子空间中的模型合并
Model Merging in the Essential Subspace
对需要把多个任务微调模型（如多个下游视觉任务的 LoRA/全参微调权重）零训练合成一个多任务模型的场景，提供基于 PCA 特征偏移子空间投影 + 低秩分解 + 极化缩放的可复用合并流程，可直接用于视觉基础模型的多任务部署。
MergeVLA：面向通用视觉-语言-动作智能体的跨技能模型合并
MergeVLA: Cross-Skill Model Merging Toward a Generalist Vision-Language-Action Agent
提出面向模型合并的VLA架构设计：用任务掩码稀疏激活LoRA适配器保持VLM骨干参数一致，并将动作专家中的自注意力替换为纯交叉注意力块以保持技能模块化，为多技能机器人策略合并提供可复用方案。
无标签跨任务 LoRA 合并与零空间压缩
Label-Free Cross-Task LoRA Merging with Null-Space Compression
提出一种无需标签、基于适配器几何的 LoRA 合并方法，可直接用于视觉任务中多个微调模型的高效融合，避免联合训练开销。
Globscope：迈向损失景观的全局视图
Globscope: Toward a Global View of the Loss Landscape
为视觉研究者提供一种在低维非线性流形上全局可视化并重建完整模型权重的手段，可直接用于分析模型合并、模式连通性与置换对称性（re-basin），帮助判断不同视觉模型解之间的连通路径与低损失通道。
DuetMerging：协同动态与静态策略以缓解模型合并中的任务干扰
DuetMerging: Synergizing Dynamic and Static Strategies for Mitigating Task Interference in Model Merging
对需要把多个视觉专家模型（如不同域/任务的检测、分割模型）合并成单一多任务网络的研究者，提供了一套可复用的合并流程：先用 Tucker 分解在共享核心张量上构建统一专家池，再用任务特定神经元激活模式生成掩码保留残差关键信息，可直接替换 TIES/DARE 等任务向量合并步骤。
DiffGraph：面向真实场景文本到图像生成的自动化智能体驱动模型合并框架
DiffGraph: An Automated Agent-driven Model Merging Framework for In-the-Wild Text-to-Image Generation
提出基于图结构的自动化模型合并框架，通过节点注册与校准组织在线专家模型，并根据用户需求动态激活子图，为视觉生成中的模型复用与组合提供可扩展方案。
通过双阶段权重保护防御未授权模型合并
Defending Unauthorized Model Merging via Dual-Stage Weight Protection
对做模型合并、多任务权重插值（如 task arithmetic、TIES-merging）的视觉研究者，这篇给出了一个可复用的防御视角：通过 L2 正则化重分布层间任务信息并注入结构化扰动错开任务子空间，使合并后的权重落入破坏性干涉区；反过来也可用于诊断自己合并流程对权重几何的敏感性。
DC-Merge：利用方向一致性改进模型合并
DC-Merge: Improving Model Merging with Directional Consistency
对做多任务/多领域视觉模型部署的人，DC-Merge 提供了一种无需额外训练、仅靠奇异值平滑与共享正交子空间投影就能把多个微调模型（含 LoRA）合并成一个的通用后处理手段，可直接用于把多个视觉任务适配器压成单模型。
通过子空间感知的模型合并跨越领域
Bridging Domains through Subspace-Aware Model Merging
对视觉研究者而言，这是一种无需额外训练即可把多个领域微调模型（如不同成像域、不同风格数据上微调的 ViT）合并为单一模型的手段：通过 SVD 提取各任务矩阵的主奇异向量并构造共享正交基，再剪掉投影后的非对角分量来消除子空间冲突，可直接用于多域视觉模型的部署与跨域泛化提升。
超越逐层合并：面向视觉语言模型的链式合并
Beyond Layer-Wise Merging: Chain-of-Merging for Vision-Language Models
为视觉研究者提供一种免训练的参数级融合手段：把数学/推理专精的 LLM 参数按结构+语义匹配分数自适应地注入 VLM 的不同层，可在不重训的情况下提升 VLM 的数学推理与通用视觉理解，适合作为多模态模型能力扩展的轻量后处理方案。
BD-Merging：证据引导对比学习的偏差感知动态模型合并
BD-Merging: Bias-Aware Dynamic Model Merging with Evidence-Guided Contrastive Learning
对做多任务视觉模型部署的人，这篇给出了一套在测试时分布偏移下仍可靠的无监督模型合并方案：用证据检测头建模统一标签空间上的不确定性，再用邻域证据差异分数（ADS）驱动对比学习训练去偏路由器，按样本动态分配任务/层权重。可直接复用到多任务检测、分割等模型的免数据合并与测试时自适应场景。
ACE-Merging：基于自适应协方差估计的无数据模型合并
ACE-Merging: Data-Free Model Merging with Adaptive Covariance Estimation
对视觉研究者而言，这是一种无需原始训练数据即可把多个视觉专家（如不同下游任务的微调模型）合并为单一模型的闭式方法，利用微调更新估计输入协方差来抑制任务间干扰，可直接用于多任务模型部署与权重融合。