高效模型与推理加速 / CVPR2026
ThinkingViT:面向弹性推理的套娃式思考视觉 Transformer
ThinkingViT: Matryoshka Thinking Vision Transformer for Elastic Inference
把 Matryoshka 式嵌套 ViT 与按输入难度自适应的渐进式推理结合:先用少量注意力头出预测,置信度不足再在同一骨干内激活更多头重跑,并用词元回收融合上一阶段嵌入,可直接作为现有 ViT 骨干的即插即用加速方案。
嵌套子网络动态推理注意力头剪枝