声音象形词的舞蹈生成
我们提出了一个框架,使非人形代理能够从人类视频中学习跳舞,通过训练一个奖励模型,该模型可以感知光流(视觉节奏)和音乐之间的关系,并通过生成与音乐匹配的视觉节奏的动作来学习跳舞。
May, 2024
TypeDance 是一种 AI 辅助工具,它将设计理念与生成模型相结合,用于个性化的语义排版 logo 设计,支持从上传的图像范例中提取可组合的设计先验,并在各种结构粒度上支持类型 - 图像映射,实现灵活控制的多样美学设计。
Jan, 2024
该论文提出了一种基于自回归生成模型的新方法 DanceNet,以音乐的风格、节奏和旋律为控制信号生成具有高度真实感和多样性的 3D 舞蹈动作,并通过专业舞者捕捉了多组同步的音乐舞蹈配对数据集以提高模型性能,实验结果表明所提出的方法达到了最先进的效果。
Feb, 2020
本研究探索了实现在给定舞蹈的情况下生成音乐的可能性,并基于搜索算法和深度神经网络开发了两种不同的方法,并通过与强启发法基准模型的比较,证明了这些方法的有效性。
Jul, 2021
本文提出了一种以音乐驱动的舞蹈合成框架,能够在保证特定舞蹈风格总体结构一致的同时,生成长期与节拍同步的多样运动,包括连贯的姿势,按特定分布的相连动作和整个舞蹈的运动顺序。该框架是一个分层系统,包括位姿、动作图案和编舞级别。其中,LSTM 组件生成时间上连续的姿势序列,动作图案级别利用新颖的动态感知丢失来引导一组连续的姿势形成属于特定分布的运动,编舞级别驱动系统遵循舞蹈总体结构,选择表演动作的顺序。实验表明,该以音乐驱动的框架能够在各种舞蹈类型上生成自然、一致的运动,并能控制合成运动的内容。
Nov, 2021
本文提出了一种用于生成 3D 舞蹈动作的创新任务,该任务同时加入了文本和音乐模态。本文通过使用基于 3D 人类运动 VQ-VAE 的交叉模态变压器,将这两个数据集的运动投影到由量化向量组成的潜在空间中,并引入 Motion Prediction Distance 和 Freezing Score 两个新指标,成功生成了健康的、连贯的舞蹈动作。
Apr, 2023
通过使用自回归编码解码网络设计了一种音乐驱动舞蹈编排生成系统,该网络利用音乐和对应的舞蹈运动,运用多媒体片段进行训练,能够在只有音乐输入的情况下生成新的舞蹈运动。经过用户研究,结果表明该方法可以生成富有音乐感和自然的新舞蹈动作。
Nov, 2018
本文介绍了一种生成高质量、多样化舞蹈序列的系统,使用包括 YouTube 视频在内的大量数据集进行训练,并引入了用于评价舞蹈动作质量的新指标。此系统可用于虚拟音乐会的动画生成和专业动画制作的参考。
Aug, 2020