Tag · 3 篇
门控机制
分布 视觉语言模型1图像编辑与可控生成1高效模型与推理加速1
01 02 03
为开放词表稠密感知重构 CLIP
Reconstructing CLIP for Open-Vocabulary Dense Perception
对做开放词表稠密感知的人,这篇给出了如何从 CLIP 全局 cls token 的多层 value embedding 构造稠密特征、并用轻量门控模块按 head 异质性重加权以缓解空间聚合带来的语义错位的具体做法,可直接迁移到开放词表检测与分割的稠密-全局对齐流程中。
混合风格专家用于多样图像风格化
Mixture of Style Experts for Diverse Image Stylization
将混合专家(MoE)架构引入扩散风格化,通过相似度感知门控动态路由风格到专门专家,可复用于其他需要多风格控制的生成任务,提升语义和材质细节保持能力。
效率源于全局-局部解耦
Efficiency Follows Global-Local Decoupling
把全局上下文聚合与局部特征提取拆成两条分支、用轻量 token 上的神经记忆做全局推理,可作为一种即插即用的骨干设计,在分类/检测/分割中替代全全局注意力以换取更优的精度-延迟权衡。