Tag · 2 篇
互信息正则化
分布 视觉语言模型1鲁棒性与安全1
01 02
MoE-VLM 中软模态引导的专家特化
Soft Modality-Guided Expert Specialization in MoE-VLMs
对做多模态大模型的人来说，这篇给出了一个可复用的路由改造思路：用随层变化的软模态分数（注意力或高斯统计得到）驱动专家分配，并加互信息正则化让专家按模态分工，同时按专家并行部署做分箱以降低通信；可直接迁移到任意 MoE-VLM 的专家路由设计中。
基于时序互信息的鲁棒脉冲神经网络
Robust Spiking Neural Networks by Temporal Mutual Information
把信息瓶颈推广到时序维度，用输入与脉冲潜变量之间的互信息作为正则项来收紧鲁棒误差界；做脉冲网络或时序动态模型对抗鲁棒性的人可以直接复用这一正则化思路与理论分析框架。