Jan, 2016

使用快速傅里叶变换和重叠相加的卷积神经网络极其高效训练

PDF
TL;DR使用 “重叠相加” 技术和快速傅里叶变换来减少卷积神经网络中卷积层的计算时间，实现了更高效的向前和向后传播。
convolutional neural networkshadamard productfast fourier transformoverlap-and-add techniquecomputational complexity
发现论文，激发创造
  • 通过 FFT 快速训练卷积神经网络

    本文提出了一种使用 Fourier 变换和 GPU 架构，加速卷积网络的训练和推理的算法，并在现有技术的基础上取得了数量级上的改善。

    Dec, 2013

  • 使用 FFT 分裂卷积加速卷积神经网络

    该论文提出了一种新的卷积神经网络快速傅立叶变换域处理方法，该方法基于输入分割，可以有效地解决卷积神经网络中小核计算的问题，并通过硬件实现和复杂性分析验证了其性能。

    Mar, 2020

  • 卷积神经网络的快速算法

    研究使用 Winograd 最小滤波算法加速卷积神经网络在 GPU 上的训练，以满足自动驾驶汽车行人检测和移动电话图像识别的低延迟和有限资源处理要求。

    Sep, 2015

  • 用快速傅立叶变换优化卷积神经网络在目标识别中的应用

    该研究提出使用基于 FFT 的 U-Net 对卷积神经网络中的图像卷积成本进行改进，并应用于 BBBC 数据集，成功地将训练时间从 600-700ms / 步缩短至 400-500ms / 步，以及在 IoU 指标上取得了显著的提高。

    Oct, 2020

  • 卷积神经网络的效率研究

    通过优化卷积神经网络架构和使用融合块核心技术，实现了计算效率和准确性的提升。

    Apr, 2024

  • 基于 FPGA 的混合高效卷积算法的人脸识别

    本研究通过探索多种快速卷积算法，包括 Winograd 和 FFT，并发现了一种将它们应用于不同类型卷积的最佳策略；实现在基于高级综合的可配置 IP 人脸识别加速系统中使用 FaceNet，并利用并行化的优化方案在新型 CNN 体系结构上，实现比高端 NVIDIA GPU 快 3.75 倍的延迟加速，并显著超过先前的 FPGA 结果。

    Mar, 2018

  • 利用哈达玛积方法实现低能耗的卷积神经网络（CNN）

    该研究论文提出基于 Hadamard 方法的物体识别，以减少卷积层的能源消耗，在 MNIST 数据集上与卷积方法表现相似，而在 CIFAR10 数据集上由于数据复杂性和多通道性能下降，该方法可应用于其他计算机视觉任务，当卷积层的内核大小小于输入图像大小时。

    Sep, 2022

  • 使用前向 - 前向算法训练卷积神经网络

    探索了前馈算法在卷积神经网络中的应用，并使用新的标记技术，在 MNIST 手写数字数据集上实现了 99％的分类准确率，并比较了不同超参数对算法性能的影响。

    Dec, 2023

  • 使用 FBFFT 的快速卷积神经网络：GPU 性能评估

    本文研究了卷积神经网络在当前 NVIDIA 图形处理器上的性能，介绍了两种新的快速傅立叶变换卷积实现，对于整个 CNN，fbfft 比 cuFFT 快 1.5 倍以上，并且对于许多普通的卷积层，速度也比 NVIDIA 的 cuDNN 实现 快（达到了一些合成内核配置的 23.5 倍）。

    Dec, 2014

  • 卷积神经网络像素分类的高效前向和后向传播

    提出了一种使用稀疏核的卷积神经网络算法，用于像素分类任务，避免了传统的图像切片造成的冗余计算，提高了前向和反向传播速度。

    Dec, 2014