路由正则化

论词元的困境：面向大型视觉语言模型持续学习的漂移感知词元分配动态混合专家

On Token's Dilemma: Dynamic MoE with Drift-Aware Token Assignment for Continual Learning of Large Vision Language Models

对做 LVLM 持续指令微调的人，这篇给出了 token 级诊断视角：用路由分数分布区分歧义/旧任务词元，并对它们施加定向正则，避免被新专家吸走；这套「漂移感知词元分配」可直接插到任何增量扩专家的 MoE-LVLM 上。