Tag · 2 篇
网络剪枝
分布 自监督与表征学习1高效模型与推理加速1
01 02
基于最优传输的子模型提取实现高效个性化联邦学习
Submodel Extraction for Efficient and Personalized Federated Learning via Optimal Transport
提出基于最优传输的服务器端个性化剪枝框架,可在不访问原始数据的情况下为异构客户端生成定制子模型,并利用自适应正则化缓解参数发散,为视觉模型在边缘设备上的高效个性化部署提供可复用方案。
以文本为主、视觉为辅:面向大型视觉语言模型的非对称文本-视觉剪枝
Mostly Text, Smart Visuals: Asymmetric Text-Visual Pruning for Large Vision-Language Models
针对多模态大模型提出非对称剪枝策略,视觉研究者可借鉴其按模态分别校准重要性的思路,用于压缩视觉-语言模型或设计模态感知的稀疏化方法。