重参数化训练

OmniZip：学习一个统一且轻量的多模态数据无损压缩器

OmniZip: Learning a Unified and Lightweight Lossless Compressor for Multi-Modal Data

其模态统一分词器把图像可逆地映射为 token 序列，配合模态路由的上下文建模，为视觉研究者提供了一种把图像压缩/编码与轻量 Transformer 骨干结合的思路，可用于端侧图像存储与传输、以及作为生成模型分词器设计的参考。