东莞有什么做网站的公司,网页设计总结报告,wordpress免费好用主题,彭山住房和城乡建设局网站1 以DiffusionVideoEditing为baseline#xff1a;
改进方向
针对于自回归训练方式可能导致的漂移问题#xff1a;
训练时#xff0c;在前一帧上引入小量的面部扭曲#xff0c;模拟在生成过程中自然发生的扭曲。促使模型查看身份帧以进行修正。在像VoxCeleb或LRS这样的具…1 以DiffusionVideoEditing为baseline
改进方向
针对于自回归训练方式可能导致的漂移问题
训练时在前一帧上引入小量的面部扭曲模拟在生成过程中自然发生的扭曲。促使模型查看身份帧以进行修正。在像VoxCeleb或LRS这样的具有不受限制条件的训练集中训练更多样化的说话人数据。
针对训练速度慢算力消耗大的问题 作者尝试在潜空间中进行训练以加快训练速度但是样本质量下降因此在像素空间中操作且只能训练128x128大小的数据。改进模型的训练速度对我们来说是首要任务这将使我们能够在更大、更多样化的“野外”数据集上进行训练如VoxCeleb [45]或LRS [12]。 希望尝试用LDM的方法训练看如何在latent space训练且不降低样本质量。 语音条件计划探索使用更广泛的语音特征作为模型条件的潜力例如使用预训练的音频编码器如Wav2Vec2 [3]、Whisper [52]或DeepSpeech2 [1]。相信结合这些特征可能会提高我们模型的唇部同步性能并生成更逼真、表现力更强的唇部运动。 针对生成的说话头的抖动问题
时间一致性确保生成的说话头在时间上是连续和平滑的。在模型中引入时间依赖性使用前一帧或前几帧的信息作为输入增加生成的连贯性。噪声注入在输入数据中添加噪声或随机性帮助减少生成结果中的抖动。通过在训练过程中或生成过程中引入适量的噪声可以使模型更具鲁棒性。重复惩罚在生成过程中通过记录已生成的特征或帧并在后续生成中降低其权重可以减少重复出现的特征或帧。这有助于生成更加平稳和多样化的说话头。额外的约束或先验知识对说话头进行进一步控制。例如可以限制嘴唇形状的变化范围、语音速度的变化范围等以减少不自然的抖动。数据增强和多样性用更多的训练数据、数据增强技术和多样性增强方法使模型更好地学习说话头的多样性并减少抖动。 用到的方法
1.Palette: Image-to-image diffusion models通过将前一帧和身份帧连接到遮挡帧上来训练模型生成所需的帧。
2.可以在我们的解决方案之上应用诸如[Learning trajectory-aware transformer for video superresolution]的视频超分辨率技术以获得高分辨率的样本。
3.在U-Net内的条件残差块中发送音频特征来驱动面部动画对unet的改动详见[Diffused heads: Diffusion models beat gans on talking-face generation. ] 2 以DreamTalk为baseline
改进方向
1. 风格与内容分离研究如何将说话头的风格和内容进行有效地分离和控制。通过引入额外的约束或正则化项来实现在保持风格一致的同时灵活地修改或替换内容。
一种方法是条件生成模型将风格信息作为附加输入使模型能够根据给定的风格生成相应说话头。通过调整风格输入可以改变生成结果的风格例如从正式到随意的转变。
另一种方法是风格迁移通过将源样本具有某种风格与目标样本希望采用的另一种风格进行对齐和学习从而将源样本的内容转移到目标样本的风格中从而在不改变内容的情况下修改风格。 用到的方法
1.人脸运动由渲染器 [Pirenderer: Controllable portrait image generation via semantic neural rendering] 渲染成视频帧并对其微调使渲染器具有情感表达生成能力。还负责将将输出的人脸运动渲染为视频。
2. 人脸运动被参数化为来自3D可变形模型[A morphable model for the synthesis of 3d faces.]的表情参数序列。
3.仅使用标准扩散模型中的去噪损失会导致不准确的唇部运动。补救方法由预训练的唇部专家[A lip sync expert is all you need for speech to lip generation in the wild]提供唇动指导。然而唇部专家只关注一般的说话风格这导致生成统一风格的面部运动。
4.为了从人脸运动m中获取唇动信息首先将m转换为相应的人脸网格并选择嘴巴区域的顶点作为唇部运动表示[Styletalk: One-shot talking head generation with controllable speaking styles]。嘴唇运动和音频编码器分别主要由MLPs和1d卷积实现。
5.开发了一个去噪网络创建富有表现力的、音频驱动的面部动作。风格感知嘴唇专家优化口型同步同时不影响风格表达。风格预测器直接从音频中推断说话风格从而消除了对视频参考的需要。
基线方法MakeitTalk[105]、Wav2Lip[49]、PCAVS[104]、AVCT[84]、GC-AVT[37]、EAMM[30]、StyleTalk[46]、DiffTalk[58]、SadTalker[100]、PDFGC[78]和EAT[20]。 3 其他论文及方法 有效利用隐空间DAE (Diffusion Autoencoder) DAE-Talker的前置文章。将DDIM的控制信息编码到类似StyleGAN的隐空间借此实现与StyleGAN类似的可控图像生成。它将latent code分为两部分分别是有语义意义的线性隐码和捕捉随机细节的“Noise”。 DAE-talker
解决视频抖动的方法使用相同噪声做起始点保证latent code的平滑性。增强音频的表征能力选择预训练Wav2vec 2.0提取音频特征。平滑latent code使用堆叠的Comformer[7]来构建局部和全局的上下文关联以生成变化更加平滑的latent code。学习音频和姿态之间的对应关系在Conformer的Encoder和Decoder之间加入了姿态控制器(Pose Adaptor)用来学习音频和姿态之间的对应关系。语音驱动动画的问题是一个一对多的问题。在头部姿态的情况下尤其如此同一段音频很容易对应许多不同的姿态。为了缓解这个问题作者提出在speech2latent网络中添加一个特定的组件来建模姿态。姿态预测器从语音中预测姿态而姿态投影器将姿态添加回网络的中间特征中。通过在此阶段添加姿态损失可以更好地建模姿态。由于姿态被投影到特征中可以使用预测的姿态或真实的姿态。是否可以将latent code进一步拆分为id, pose, expression的latent representation局限性模型仅在单个演讲者的12分钟数据上进行训练没有环境变化。实验仅限于一个数据集。除了奥巴马之外没有其他人的实验结果。且不易训练。 LAUGHING MATTERS
Video diffusion models采用了可分解的时空U-Net架构扩展了图像扩散模型中使用的标准2D U-Net。由四个通过残差连接连接的下采样和上采样块组成。Make-a-video用伪3d卷积层和注意力层来平衡计算效率和网络中的信息共享。对于每一层不使用完整的3D卷积而是对空间维度应用2D卷积然后通过合并其他维度对时间维度应用1D卷积。对注意力层应用类似的策略。 提高分辨率加入metaportrait之类的超分算法或最后接gfpgan进行图像修复高清细节恢复。
插帧RIFE可以改善说话头生成效果Real-Time Intermediate Flow Estimation for Video Frame Interpolation
利用面部先验Talking Head Generation with Probabilistic Audio-to-Visual Diffusion Priors
TH-PAD (zxyin.github.io)
端到端无监督运动迁移框架Thin-Plate Spline Motion Model for Image AnimationTPSMMcodeGitHub - yoyo-nb/Thin-Plate-Spline-Motion-Model: [CVPR 2022] Thin-Plate Spline Motion Model for Image Animation.
高清从GFPGAN 改为 ONNX / TensorRT.
