ICMLOct, 2020

用快速傅立叶变换优化卷积神经网络在目标识别中的应用

PDF
TL;DR该研究提出使用基于 FFT 的 U-Net 对卷积神经网络中的图像卷积成本进行改进，并应用于 BBBC 数据集，成功地将训练时间从 600-700ms / 步缩短至 400-500ms / 步，以及在 IoU 指标上取得了显著的提高。
发现论文，激发创造
  • 通过 FFT 快速训练卷积神经网络

    本文提出了一种使用 Fourier 变换和 GPU 架构，加速卷积网络的训练和推理的算法，并在现有技术的基础上取得了数量级上的改善。

    Dec, 2013

  • 使用快速傅里叶变换和重叠相加的卷积神经网络极其高效训练

    使用 “重叠相加” 技术和快速傅里叶变换来减少卷积神经网络中卷积层的计算时间，实现了更高效的向前和向后传播。

    Jan, 2016

  • 使用 FBFFT 的快速卷积神经网络：GPU 性能评估

    本文研究了卷积神经网络在当前 NVIDIA 图形处理器上的性能，介绍了两种新的快速傅立叶变换卷积实现，对于整个 CNN，fbfft 比 cuFFT 快 1.5 倍以上，并且对于许多普通的卷积层，速度也比 NVIDIA 的 cuDNN 实现 快（达到了一些合成内核配置的 23.5 倍）。

    Dec, 2014

  • 卷积神经网络的快速算法

    研究使用 Winograd 最小滤波算法加速卷积神经网络在 GPU 上的训练，以满足自动驾驶汽车行人检测和移动电话图像识别的低延迟和有限资源处理要求。

    Sep, 2015

  • 基于 FPGA 的混合高效卷积算法的人脸识别

    本研究通过探索多种快速卷积算法，包括 Winograd 和 FFT，并发现了一种将它们应用于不同类型卷积的最佳策略；实现在基于高级综合的可配置 IP 人脸识别加速系统中使用 FaceNet，并利用并行化的优化方案在新型 CNN 体系结构上，实现比高端 NVIDIA GPU 快 3.75 倍的延迟加速，并显著超过先前的 FPGA 结果。

    Mar, 2018

  • 使用 FFT 分裂卷积加速卷积神经网络

    该论文提出了一种新的卷积神经网络快速傅立叶变换域处理方法，该方法基于输入分割，可以有效地解决卷积神经网络中小核计算的问题，并通过硬件实现和复杂性分析验证了其性能。

    Mar, 2020

  • 蝴蝶变换：一种基于 FFT 的高效神经架构设计

    本文借鉴蝴蝶算法思想，提出了一种可应用于 CNN 架构中的通道融合算法 BFT，该算法能够在保证一定精度的情况下，大幅降低计算复杂度。实验表明，相较于现有的基于最优化搜索的方法，本文提出的算法在一定的计算复杂度范围内能够获得更高的 Top-1 准确率。

    Jun, 2019

  • 使用全卷积网络进行快速图像处理

    使用全卷积网络进行运算符逼近可以显著提高逼近精度，降低运行时间和内存开销。在输入输出对上的训练可以将原始运算符逼近，并且可以对多种不同的高级图像处理运算符进行逼近，包括多种变分模型、多尺度调节和明暗细节操作等。

    Sep, 2017

  • FFC-SE: 语音增强的快速傅里叶卷积

    本文设计了以 Fast Fourier convolution 为核心的神经网络结构，用于语音增强，实验证实大的接受域使其优于普通卷积模型，并展示结果强于或与其他语音增强基线相当。

    Apr, 2022

  • 被遮挡视频预测的快速傅里叶 Inception 网络

    为了解决视频帧预测任务中的连续复杂运动和场景遮挡问题，我们开发了基于全卷积快速傅里叶 Inception 网络（FFINet）的视频预测方法，该方法包括遮挡修复器和时空转换器等两个组件，并将恢复损失纳入目标函数进行模型优化来生成更逼真、高质量的未来帧。

    Jun, 2023