Tag · 8 篇
量化
mVLM：面向 mNPU 的视觉语言模型
mVLM: A Vision Language Model for mNPUs
面向 NPU 端侧部署的轻量 VLM 架构：用纯 NPU 友好算子构建动态卷积编码器（全局空间调制）与 SSM 解码器，并配合编码器-解码器全参数协同量化，为视觉研究者提供在极端内存约束下压缩 VLM 并保持生成质量的工程与架构思路。
TWEO：无极端离群值的 Transformer 实现 FP8 训练与傻瓜式量化
TWEO: Transformers Without Extreme Outliers Enables FP8 Training And Quantization For Dummies
TWEO 通过一个简单的损失项消除激活离群值，使 ViT 和 LLM 无需工程技巧即可进行全模型 FP8 预训练，并支持硬件友好的 W8A8 静态量化，为视觉 Transformer 的低精度训练与部署提供了可直接复用的方法。
面向扩散模型的采样感知量化
Sampling-Aware Quantization for Diffusion Models
针对扩散模型在低延迟场景下的部署，提出采样感知量化策略，通过混合阶轨迹对齐约束每步采样误差，使量化后的模型仍能保持高阶采样器的快速收敛特性，为视觉生成模型的端侧加速提供可复用方案。
S2D：选择性谱衰减，用于神经激活的量化友好调理
S2D: Selective Spectral Decay for Quantization-Friendly Conditioning of Neural Activations
对做视觉大模型部署的人，S2D 给出一个在微调阶段抑制激活离群值的正则手段：只对权重最大奇异值对应的分量做谱衰减，就能让 CLIP/SigLIP 类骨干在 W4A4 PTQ 下少掉点，可直接接到自己的量化流水线前。
渐进式神经架构生成
Progressive Neural Architecture Generation
对做视觉模型设计的读者，PNAG 提供了一种用多尺度子架构量化加逐步一致性约束来直接生成有效架构的范式，可替代贝叶斯优化中的随机采样环节，把架构搜索的生成时间降低约 1300 倍，并可直接生成 Transformer 类视觉骨干。
面向移动设备极低光照超高清视频的高效实时 raw-to-raw 去噪
Efficient Real-Time Raw-to-Raw Denoising for Extreme Low-Light Ultra HD Video on Mobile Devices
面向移动端 ISP 前端的 raw-to-raw 视频去噪方案：把重参数化、结构重排与量化组合进训练后优化流程，在 <33ms、<250mA 的约束下跑 4K/8K 视频，可直接迁移到其他需要在端侧实时部署的低层视觉模型压缩与部署流程。
DeltaQuant：基于时空差分平滑的 4 比特视频扩散模型
DeltaQuant: 4-bit Video Diffusion Models with Spatiotemporal Delta Smoothing
DeltaQuant 将视频扩散模型中的激活值按 3D 时空立方体分组，仅对差分词元做 4-bit 量化，核心词元保留 FP8，为视频生成模型在消费级 GPU 上的低比特推理提供了可复用的量化范式。
AdaRadar：面向雷达感知的率自适应谱压缩
AdaRadar: Rate Adaptive Spectral Compression for Radar-based Perception
提出一种基于检测置信度代理梯度的自适应压缩框架，利用零阶梯度近似解决不可微操作（剪枝、量化）的梯度回传问题，可复用于视觉任务中需要动态调整压缩率或传输带宽的场景。