Feb, 2020

FastWave：在 FPGA 上加速自回归卷积神经网络

PDF
TL;DR本文开发了第一个加速器架构 FastWave 用于自回归卷积神经网络，实现了针对 WaveNet 的快速推理模型，通过优化和并行设计，FPGA 实现的 WaveNet 相较于 CPU 和 GPU 实现具有更高的生成速度和资源利用率。
autoregressive convolutional neural networksfastwavewavenetinferencefpga
发现论文，激发创造
  • 快速 Wavenet 生成算法

    本文介绍了一种有效的 Wavenet 生成过程实现方法 Fast Wavenet，通过缓存前面的计算结果，去除冗余卷积操作，将算法复杂度从 O (2^L) 减少到 O (L)，提高了生成速度。虽然该方法是针对 Wavenet 的，但任何带有扩张卷积层的模型都可以采用同样的方案进行自回归生成或在线预测。代码公开。

    Nov, 2016

  • FloWaveNet：用于原始音频的生成流

    本文提出了 FloWaveNet，一种基于可逆流的生成模型，使用单阶段训练程序和单个最大似然损失函数，无需附加的辅助项，能实时高效地输出与先前两阶段并行模型相媲美的清晰音频

    Nov, 2018

  • 卷积自回归模型的快速生成

    该研究提出了一种基于缓存隐藏状态避免冗余计算的方法来加速卷积自回归模型的生成，将其应用于 Wavenet 和 PixelCNN++ 模型可实现高达 21 倍和 183 倍的加速。

    Apr, 2017

  • WaveNet：原始音频的生成模型

    该研究介绍了 WaveNet，一种用于生成原始音频波形的深度神经网络，该模型是完全概率的和自回归的，应用于文本到语音，产生了最先进的性能，用于模拟音乐，生成新颖且高度逼真的音乐片段，并可作为一种判别模型返回有希望的语素识别结果。

    Sep, 2016

  • 基于 FPGA 的混合高效卷积算法的人脸识别

    本研究通过探索多种快速卷积算法，包括 Winograd 和 FFT，并发现了一种将它们应用于不同类型卷积的最佳策略；实现在基于高级综合的可配置 IP 人脸识别加速系统中使用 FaceNet，并利用并行化的优化方案在新型 CNN 体系结构上，实现比高端 NVIDIA GPU 快 3.75 倍的延迟加速，并显著超过先前的 FPGA 结果。

    Mar, 2018

  • ClariNet: 端到端文本到语音平行波形生成

    本文提出了一种新的并行波形生成的解决方案，使用自回归 WaveNet 通过最小化高峰输出分布之间的 KL 散度的正则化来辨别来自自回归 WaveNet 的高斯逆自回归流。此外，我们还介绍了一种全卷积的文本到波形神经架构，能够从头开始进行快速端到端培训，极大地优于以前的流程。

    Jul, 2018

  • WaveFlow: 面向原始音频的紧凑流模型

    本文介绍了一种小型的 WaveFlow 产生式流，可以训练原始音频并合成高保真语音，只需几个步骤即可生成成千上万个时间步长的波形，并具有比 WaveGlow 小 15 倍的参数和 42.6 倍的音频合成速度。

    Dec, 2019

  • Parallel WaveGAN：基于多分辨率频谱图的生成对抗网络快速波形生成模型

    本文提出了一种新型的声波生成方法，名为 Parallel WaveGAN，采用生成对抗网络作为模型，通过优化多分辨率的频谱图和对抗损失函数来训练非自回归 WaveNet，可以很好地捕捉现实语音信号的时频分布，在不需要常规师生框架中的密度蒸馏的情况下，整个模型容易训练且生成的语音高保真，适用于 Transformer-based 文本转语音框架 且与最佳的基于蒸馏的 Parallel WaveNet 系统相媲美。

    Oct, 2019

  • Parallel WaveNet: 快速高保真语音合成

    采用概率密度蒸馏技术，从 WaveNet 模型中训练一个并行前向网络，实现语音样本的超过 20 倍实时生成速度，目前已部署在 Google 助手中支持多种不同英文和日语语音。

    Nov, 2017

  • 咖啡因 FPGA：用于卷积神经网络的 FPGA 框架

    本文介绍了一种修改版 CNN 框架 Caffe，该框架支持 FPGA 实现，并使用 Xilinx SDAccel 环境实现了基于 FPGA 的 Winograd 卷积引擎，能够与其他运行在主机处理器上的层一起运行几个流行的 CNN 模型，取得了 50 GFLOPS 的成果。

    Sep, 2016