Tag · 9 篇
双层优化
词汇缩放定律:调整开放词表预测器以提升其开放性
Vocabulary Scaling Law: Tuning Open-vocabulary Predictors for Their Openness
提出词汇缩放定律,指导开放词表预测器的微调应覆盖整个词汇表、调整类名嵌入并强制提示词嵌入正交;SVFT 通过子模最大化选择信息量大的类名子集进行高效微调,可直接用于提升 CLIP 在开放世界中的稳定性和可扩展性。
UniFusion:兼具鲁棒表征与源感知保持的统一图像融合框架
UniFusion: A Unified Image Fusion Framework with Robust Representation and Source-Aware Preservation
用 DINOv3 冻结特征构建跨模态共享语义空间,并用重建-对齐损失约束融合输出与各源图的一致性,这套「基础模型特征 + 重建约束」的组合可直接迁移到多曝光/多聚焦/红外-可见光等任意多源融合与复原任务,双层优化解耦融合与重建目标的思路也适用于其他多目标耦合的低层视觉训练。
保持冻结:面向多域视觉 Transformer 的域路由条件残差调制
Keep It Frozen: Domain-Routed Conditional Residual Modulation for Multi-Domain Vision Transformers
提出一种冻结骨干网络、通过域路由和参数合成网络动态生成低秩残差调制块的方法,为视觉 Transformer 在多域(医学+自然)场景下提供参数高效的自适应方案,可复用于需要跨域泛化且计算开销敏感的任务。
通过收缩优化动力学使模型免疫于有害长时程微调
Immunizing Models Against Harmful Long-Horizon Fine-Tuning via Contractive Optimization Dynamics
为视觉基础模型(分类、生成、自回归)提供一种在发布前注入的免疫机制:通过让有害微调的优化动力学局部收缩,使攻击者即使跑数千步更新也无法有效适配有害任务,可直接用于开源视觉大模型的安全发布流程。
以人为中心的多曝光融合:基准与双层认知蒸馏框架
Human-Centric Multi-Exposure Fusion: Benchmark and Bi-level Cognition Distillation Framework
把EEG认知信号作为教师端的先验来监督低层视觉特征学习,再蒸馏到只用图像输入的轻量学生网络,为「用生理信号定义感知质量、但推理时不需要生理信号」提供了一套可复用的双层优化范式,可直接迁移到去噪、增强等其它低层任务的主观质量对齐。
用于真实图像去雾的双层层级定位低秩适配
Bilevel Layer-Positioning LoRA for Real Image Dehazing
将CLIP的跨模态语义对齐作为无参考图像复原的无监督损失,并用双层优化自动搜索LoRA注入层,为真实场景去雾等底层视觉任务提供了一种参数高效且无需成对数据的微调范式。
BiProLoRA:面向真实场景复原的双层提示低秩适配
BiProLoRA: Bilevel Prompt LoRA for Real Scene Recovery
把预训练生成模型通过双层优化(超参数优化)联合调 LoRA 与提示词,并用自监督分布保真校准自编码通路,可直接迁移到去雨/去雾/低光照等真实退化复原任务中做合成到真实的适配。
BiPA:面向水下实例分割的双层提示词适配
BiPA: Bilevel Prompt Adaptation for Underwater Instance Segmentation
把 SAM 的稠密提示词学习建模成双层优化,并用贝叶斯优化在冻结主干的前提下先搜提示词、再微调模型,这套「先优化提示词、后调参数」的两阶段流程可直接迁移到其他严重域偏移场景(如医学、遥感)的 SAM 适配。
BiEvLight:面向低光照图像增强的任务感知事件精炼双层学习
BiEvLight: Bi-level Learning of Task-Aware Event Refinement for Low-Light Image Enhancement
将事件去噪建模为受增强任务约束的双层优化问题,使去噪网络学习到面向下游增强的事件表征,这一思路可迁移到其他多模态融合任务中,避免静态预处理带来的过/欠去噪权衡。