Tag · 2 篇

表征聚合

FedRE: A Representation Entanglement Framework for Model-Heterogeneous Federated Learning

对视觉研究者而言，这是一种在客户端模型架构不一致时仍能聚合表征的联邦训练范式：用归一化随机权重把本地特征与 one-hot 标签编码分别聚合成单一纠缠表征与纠缠标签编码，再上传服务器训练全局分类器，可作为异构端侧视觉模型协同训练与隐私友好表征共享的可复用方案。

Convolutional Neural Networks Driven by Content Similarity

提出一种基于内容相似度的卷积聚合机制，通过排序操作将特征相似度转化为相对位置信息，使卷积能像自注意力一样聚合信息，为改进CNN的表征能力提供了可复用的技术思路。