Tag · 2 篇
轻量化架构
分布 高效模型与推理加速1可解释性与可视化1
01 02
mVLM：面向 mNPU 的视觉语言模型
mVLM: A Vision Language Model for mNPUs
面向 NPU 端侧部署的轻量 VLM 架构：用纯 NPU 友好算子构建动态卷积编码器（全局空间调制）与 SSM 解码器，并配合编码器-解码器全参数协同量化，为视觉研究者提供在极端内存约束下压缩 VLM 并保持生成质量的工程与架构思路。
选择即非线性：通过联合博弈决策视角桥接注意力与激活，实现可解释、判别性的视觉表征
Selection-as-Nonlinearity: Bridging Attention and Activation via a Joint Game-Decision Lens for Interpretable, Discriminative Visual Representations
提出将注意力视为成本约束下的选择操作，为理解视觉Transformer中注意力与FFN的互补性提供新视角，并据此设计CSaN模块，可即插即用地增强Swin、ViT、Hiera等骨干网络，在视觉基准上以更小规模媲美两倍大的同族模型。