Tag · 1 篇
OS-Fed: One Snapshot Is All You Need
把每轮累积梯度编码成一张紧凑的类图像快照（图像加可学习标签）来传输，这种「用图像式表示承载梯度/更新」的思路可迁移到视觉模型的分布式训练与梯度压缩，也可反向用于从图像式表示重建更新信号的表征学习研究。