Tag · 11 篇
数据筛选
为什么RL比SFT泛化更好?基于数据视角的VLM后训练分析
Why Does RL Generalize Better Than SFT? A Data-Centric Perspective on VLM Post-Training
提出基于样本难度的数据筛选策略(DC-SFT),可替代RL微调以更低成本提升VLM的OOD泛化,为视觉语言模型后训练提供数据侧改进思路。
SearchAD:面向自动驾驶的大规模稀有图像检索数据集
SearchAD: Large-Scale Rare Image Retrieval Dataset for Autonomous Driving
为视觉研究者提供了一个面向长尾/稀有类别的语义图像检索基准,可用于评测文本-图像与图像-图像检索模型在极稀有类别上的零样本与微调表现,并支撑检索驱动的数据筛选与长尾感知研究。
MatAnyone 2:通过学习型质量评估器扩展视频抠图
MatAnyone 2: Scaling Video Matting via a Learned Quality Evaluator
提出无真值质量评估器(QE)生成像素级评估图,可用于训练时在线抑制错误区域或离线筛选数据构建大规模视频抠图数据集,为视频抠图提供可复用的质量反馈与数据扩展方案。
HoneyBee:面向视觉语言推理器的数据配方
HoneyBee: Data Recipes for Vision-Language Reasoners
论文系统研究了视觉语言推理数据集的构建策略,包括上下文来源、数据干预和维度扩展,并提出了测试时扩展方法,可直接用于构建高质量多模态推理训练数据。
通过视觉基础模型探究医学图像分割中的偶然不确定性
Delving Aleatoric Uncertainty in Medical Image Segmentation via Vision Foundation Models
利用视觉基础模型解码特征的奇异值能量定义语义感知尺度来量化偶然不确定性,可迁移到其他密集预测任务中做样本筛选和损失加权。
反事实 VLA:具备自适应推理的自反思视觉-语言-动作模型
Counterfactual VLA: Self-Reflective Vision-Language-Action Model with Adaptive Reasoning
把反事实自反思作为 VLA 执行前的推理环节,并配合 rollout-filter-label 数据挖掘管线,可为视觉驱动的端到端规划提供「先想后做」的可复用范式,尤其适合需要安全约束的轨迹生成任务。
概念感知批采样改进语言-图像预训练
Concept-Aware Batch Sampling Improves Language-Image Pretraining
CABS 把「批采样」当作可在线定制的数据筛选手段:按目标概念分布动态组批(多样性最大化或频次最大化),可直接嵌入 CLIP 类对比学习训练循环,用于缓解长尾概念偏置,且无需额外模型过滤器。
CRAFT:对齐扩散模型,微调比你想象的更容易
CRAFT: Aligning Diffusion Models with Fine-Tuning Is Easier Than You Think
用复合奖励过滤构造小而一致的偏好数据集,再做增强版 SFT,就能以 100 个样本超越数千对偏好数据的 DPO 类方法;做扩散模型人类偏好对齐时,可把数据筛选环节当作主要杠杆,而不是堆偏好对数量。
类 CLIP 模型作为基础密度比估计器
CLIP-like Model as a Foundational Density Ratio Estimator
把 CLIP/SigLIP 的对比学习目标重新解释为预训练密度比估计器,可直接用于多模态数据筛选(KL 引导的 LAION2B 过滤替代)和少样本提示词下的重要性加权,为视觉-语言数据处理与提示词工程提供可复用工具。
超越黄金数据:通过时间步选择性训练解决运动-视觉质量困境
Beyond the Golden Data: Resolving the Motion-Vision Quality Dilemma via Timestep Selective Training
对做视频扩散训练的人,这篇给出了一个可直接复用的数据使用策略:不必筛掉运动强但画质差(或反之)的样本,而是按时间步把不同质量倾向的数据分配到模型学习的不同阶段,从而在数据受限时仍能提升生成质量。
在极小预算下加速扩散模型训练:基于数据集蒸馏的视角
Accelerating Diffusion Model Training under Minimal Budgets: A Condensation-Based Perspective
把数据集蒸馏引入扩散模型训练:用扩散难度分数加区间采样挑出极小子集,再用语义/视觉表征增强条件信号,可在 0.8% ImageNet 上把 SiT-XL/2 训练步数压到 40k,为低预算下的扩散训练提供可直接复用的数据侧加速方案。