Tag · 6 篇
超网络
解锁预训练权重：面向零样本初始化的参数继承
Unlocking Pre-trained Weights: Parameter Inheritance for Zero-Shot Initialization
对视觉研究者而言，这是一种无需微调即可为任意配置的 ViT 等骨干网络生成可用初始权重的参数投影机制，可直接用于新架构的快速冷启动与预训练权重复用。
基于超网络的稀疏任务向量混合用于全切片图像预后中的高效知识迁移
Sparse Task Vector Mixup with Hypernetworks for Efficient Knowledge Transfer in Whole-Slide Image Prognosis
提出基于任务向量混合与超网络稀疏聚合的模型合并方案，可高效地将多个源域模型的知识迁移到目标域模型，无需联合训练或多模型推理，为医学影像中的跨癌种知识迁移提供了可复用的技术路径。
渐进式超网络训练用于高效视觉自回归建模
Progressive Supernet Training for Efficient Visual Autoregressive Modeling
提出一种基于超网络的动态深度调整方法，通过渐进式训练策略在单个模型内实现不同深度的子网络，从而在视觉自回归生成中大幅减少KV缓存和推理时间，为资源受限场景下的高效生成提供了可复用的技术方案。
LoFA：学习预测个性化先验以实现视觉生成模型的快速适配
LoFA: Learning to Predict Personalized Prior for Fast Adaptation of Visual Generative Models
把 LoRA 微调从「逐任务优化数小时」变成「超网络秒级预测」，视觉生成模型做个性化时可直接复用其两阶段超网络（先预测相对分布模式、再回归 LoRA 权重）作为免优化适配器。
HyperNAS：通过超网络增强 NAS 预测器的架构表征
HyperNAS: Enhancing Architecture Representation for NAS Predictor via Hypernetwork
对做视觉模型选型的人，HyperNAS 提供了一种用共享超网络作为辅助任务来增强架构编码、从而在极少代理样本下预测 ViT/CNN 精度的方法，可直接用于低预算的架构筛选与搜索。
CryoHype：用基于 Transformer 的超网络重建上千个冷冻电镜结构
CryoHype: Reconstructing a thousand cryo-EM structures with transformer-based hypernetworks
把超网络与隐式神经表示结合，用输入结构索引动态生成 INR 权重，为视觉中「一次前向重建大量不同实例」的摊销式重建提供了可复用范式；固定位姿下从混合粒子图像中分离上千个结构，也可迁移到多目标、多实例的逆渲染与神经场重建。