Tag · 1 篇
A Unified Framework for Knowledge Transfer in Bidirectional Model Scaling
把模型权重当作连续信号、用 DWT/IDWT 的分解层级作为缩放因子,可在不重新预训练的情况下把 ViT/DeiT 类视觉骨干在大小之间迁移,为视觉模型扩容或压缩提供免训练的参数初始化手段。