Tag · 2 篇
多粒度对齐
01 02
b-CLIP:面向多粒度视觉-语言对齐的文本条件对比学习
b-CLIP: Text-Conditioned Contrastive Learning for Multi-Granular Vision-Language Alignment
用交叉注意力把图像 patch 按不同文本粒度(整句、句子、短语)动态池化成上下文视觉嵌入,并给出可调的多粒度对比损失,可直接用于需要密集图文对应的检索、grounding 与区域-短语匹配任务。
从面板到像素:面向生物医学科学文献的放大式视觉语言预训练
From Panel to Pixel: Zoom-In Vision-Language Pretraining from Biomedical Scientific Literature
把多面板科研图拆成 figure/panel/region 三级图文对,为视觉语言预训练提供细粒度、可复用的数据构造与多粒度目标统一思路,可直接迁移到任何含密集标注结构的图文语料(如说明书、海报、UI 截图)。