Tag · 2 篇
动态分辨率
分布 视觉语言模型1高效模型与推理加速1
01 02
OneCAT：面向统一理解与生成的纯解码器自回归模型
OneCAT: Decoder-Only Auto-Regressive Model for Unified Understanding and Generation
用模态专属 MoE 加统一自回归目标，在纯 decoder-only Transformer 内同时做理解、生成与编辑，推理时不再依赖 ViT 和视觉分词器，对高分辨率输入输出尤其省算力；scale-aware adapter 把多尺度视觉自回归塞进 LLM，给做统一多模态生成的人一条低延迟、可原生支持动态分辨率的替代路线。
IF-Prune：信息流引导的词元剪枝用于高效视觉语言模型
IF-Prune: Information-Flow Guided Token Pruning for Efficient Vision-Language Models
提出基于变分信息瓶颈的视觉词元剪枝方法，利用小型VLM估计词元熵作为剪枝指导，可复用于动态分辨率视觉编码器的高效推理。