Mar, 2020

使用 FFT 分裂卷积加速卷积神经网络

PDF
TL;DR该论文提出了一种新的卷积神经网络快速傅立叶变换域处理方法，该方法基于输入分割，可以有效地解决卷积神经网络中小核计算的问题，并通过硬件实现和复杂性分析验证了其性能。
convolutional neural networksfast fourier transforminput splittingcomputational complexityfft
发现论文，激发创造
  • 通过 FFT 快速训练卷积神经网络

    本文提出了一种使用 Fourier 变换和 GPU 架构，加速卷积网络的训练和推理的算法，并在现有技术的基础上取得了数量级上的改善。

    Dec, 2013

  • 使用快速傅里叶变换和重叠相加的卷积神经网络极其高效训练

    使用 “重叠相加” 技术和快速傅里叶变换来减少卷积神经网络中卷积层的计算时间，实现了更高效的向前和向后传播。

    Jan, 2016

  • 基于相量驱动的快速傅里叶变换卷积神经网络加速

    通过使用极相表达形式作为替代传统方法的更高效的选择，我们的方法在 CIFAR-10 和 CIFAR-100 数据集上相较于现代 CNN 架构采用的矩形形式，实现了训练和推断速度的最高提升分别达到 1.376 和 1.390。同时，我们的方法可应用于任何基于卷积的深度学习模型，而无需进行设计更改。

    Jun, 2024

  • 使用 FBFFT 的快速卷积神经网络：GPU 性能评估

    本文研究了卷积神经网络在当前 NVIDIA 图形处理器上的性能，介绍了两种新的快速傅立叶变换卷积实现，对于整个 CNN，fbfft 比 cuFFT 快 1.5 倍以上，并且对于许多普通的卷积层，速度也比 NVIDIA 的 cuDNN 实现 快（达到了一些合成内核配置的 23.5 倍）。

    Dec, 2014

  • 现代 CPU 上 FFT 卷积比 Winograd 更快，这是为什么

    比较了三种高度优化的实现方式（常规 FFT、Gauss-FFT 和 Winograd-based convolution）在现代多核和众核 CPU 上的效果，并使用 Roofline 性能模型对三种方法的计算阶段进行了详细的分析，结果显示 FFT-based 实现通常优于 Winograd-based approach。

    Sep, 2018

  • FFCNN：基于 FPGA 的卷积神经网络推理快速加速

    本文介绍了一种基于 OpenCL 的卷积神经网络加速器设计，称为 FFCNN，它包括数据重用和任务映射技术，这些技术可以在大规模图像分类中提高性能和资源利用率。

    Aug, 2022

  • 用快速傅立叶变换优化卷积神经网络在目标识别中的应用

    该研究提出使用基于 FFT 的 U-Net 对卷积神经网络中的图像卷积成本进行改进，并应用于 BBBC 数据集，成功地将训练时间从 600-700ms / 步缩短至 400-500ms / 步，以及在 IoU 指标上取得了显著的提高。

    Oct, 2020

  • 基于 FPGA 的混合高效卷积算法的人脸识别

    本研究通过探索多种快速卷积算法，包括 Winograd 和 FFT，并发现了一种将它们应用于不同类型卷积的最佳策略；实现在基于高级综合的可配置 IP 人脸识别加速系统中使用 FaceNet，并利用并行化的优化方案在新型 CNN 体系结构上，实现比高端 NVIDIA GPU 快 3.75 倍的延迟加速，并显著超过先前的 FPGA 结果。

    Mar, 2018

  • 卷积神经网络的快速算法

    研究使用 Winograd 最小滤波算法加速卷积神经网络在 GPU 上的训练，以满足自动驾驶汽车行人检测和移动电话图像识别的低延迟和有限资源处理要求。

    Sep, 2015

  • FFC-SE: 语音增强的快速傅里叶卷积

    本文设计了以 Fast Fourier convolution 为核心的神经网络结构，用于语音增强，实验证实大的接受域使其优于普通卷积模型，并展示结果强于或与其他语音增强基线相当。

    Apr, 2022