Tag · 6 篇
音频驱动动画
UniLS:面向统一听与说的端到端音频驱动虚拟人
UniLS: End-to-End Audio-Driven Avatars for Unified Listening and Speaking
两阶段训练范式(先无音频自回归学习内在运动先验,再用双轨音频微调调制)为音频驱动的人脸/头部生成提供了可复用思路,尤其适合解决弱音频驱动信号下生成僵硬的问题;双轨音频端到端设定也可直接用于交互式数字人。
SyncDreamer:超越说话头部的可控且富有表现力的虚拟人生成
SyncDreamer: Controllable and Expressive Avatar Generation Beyond the Talking Head
用 Diffusion Transformer 直接从单图+语音+文本提示词生成全身说话数字人,其视觉适配器与注意力定位损失可复用于任何需要身份保持的条件生成任务;音频动力学编码器把节奏/能量等连续语音特征注入扩散过程,为语音驱动的细粒度运动控制提供了可借鉴的条件注入方式。
InfinityHuman:迈向长期音频驱动的人体动画
InfinityHuman: Towards Long-Term Audio-Driven Human Animation
提出粗到细框架,利用解耦的姿态序列作为稳定视觉锚点来抑制长视频生成中的误差累积,并引入手部特定奖励机制提升手势真实感,可复用于其他长时序人体动画任务。
FlashLips:基于重建而非扩散或 GAN 的 100 FPS 免掩码潜空间唇形同步
FlashLips: 100-FPS Mask-Free Latent Lip-Sync using Reconstruction Instead of Diffusion or GANs
用纯重建损失的单步潜空间编辑器替代 GAN/扩散做唇形编辑,并以嘴部篡改变体自监督生成伪真值来免除推理期 mask,这套「重建式编辑 + 伪标签定位」思路可迁移到其他局部可控编辑任务。
EmoTaG:基于高斯泼溅与少样本个性化的情感感知说话头合成
EmoTaG: Emotion-Aware Talking Head Synthesis on Gaussian Splatting with Few-Shot Personalization
把运动预测从直接形变 3D 高斯改为在 FLAME 参数空间回归,为少样本音频驱动说话头提供显式几何先验;其门控残差运动网络用音频情感韵律补全音频缺失的头部姿态与上半脸线索,可直接迁移到其他音频驱动的人脸/人体动画管线。
AudioAvatar:个性化音频驱动的全身说话头像
AudioAvatar: Personalized Audio-driven Whole-body Talking Avatars
用3D高斯粒子变形场替代参数化姿态瓶颈,实现音频到全身高保真动画;特征级蒸馏从视频扩散模型迁移同步先验,可复用于其他音频驱动生成任务。