Tag · 3 篇
核心集选择
分布 数据集与评测2视觉语言模型1
01 02 03
VisRef:思考时视觉重聚焦提升多模态大推理模型的测试时扩展
VisRef: Visual Refocusing while Thinking Improves Test-Time Scaling in Multi-Modal Large Reasoning Models
提出一种无需额外强化学习微调的测试时扩展框架,通过选择与推理上下文语义相关且全局多样的视觉令牌核心集并重新注入,缓解多模态大模型在长文本推理中对视觉信息的注意力衰减,可复用于视觉问答、视觉推理等任务。
重新审视数据集蒸馏:关于软标签的硬真相
Rethinking Dataset Distillation: Hard Truths about Soft Labels
论文揭示了软标签评估下数据集蒸馏方法性能饱和的问题,并提出计算感知的样本难度选择指标 CAD-Prune 与对齐方法 CA2D,为视觉数据高效训练提供了可复用的样本筛选与评估协议。
分箱生成不可或缺吗?一种基于语义视角的免分箱数据集量化方法
Is Bin Generation Indispensable? A Bin-Generation-Free Dataset Quantization via Semantic Perspective
做大规模视觉数据集训练时,可用这套免分箱的 KNN 近邻识别加自适应图像块丢弃流程替代 bin generation 来压缩核心集,在 CIFAR-100 上最多提升 5% 验证精度,并能扩展到 10^5 同类样本规模。