Tag · 1 篇
OpenVision 2: A Family of Generative Pretrained Visual Encoders for Multimodal Learning
去掉文本编码器和对比损失、仅用captioning loss训练视觉编码器,可作为一种更省显存和时间的视觉表征预训练方案,直接用于多模态大模型的视觉塔初始化。