聚类式自监督学习

Franca：面向可扩展视觉表征学习的嵌套 Matryoshka 聚类

Franca: Nested Matryoshka Clustering for Scalable Visual Representation Learning

嵌套 Matryoshka 多头部聚类投影器可在不增大模型规模的前提下把特征逐级细化为更细粒度的簇，配合从稠密表征中显式剥离位置偏置的策略，可直接用于改进 DINO 类自监督预训练的稠密特征质量，对分割、深度估计等下游密集预测任务有直接迁移价值。