Jun, 2023

FFCV：排除数据瓶颈以加速培训

PDF
TL;DRFFCV 是一个用于简单快捷地进行机器学习模型训练的库，通过消除训练过程中的数据瓶颈来加速模型训练，结合有效的文件存储格式、缓存、数据预处理、异步数据传输和即时编译等技术，以使数据加载和传输更加高效，确保 GPU 可以达到完全利用率，并异步地将尽可能多的数据处理卸载到 CPU，从而释放 GPU 周期进行训练。
发现论文，激发创造
  • FFCNN：基于 FPGA 的卷积神经网络推理快速加速

    本文介绍了一种基于 OpenCL 的卷积神经网络加速器设计，称为 FFCNN，它包括数据重用和任务映射技术，这些技术可以在大规模图像分类中提高性能和资源利用率。

    Aug, 2022

  • 通过 FFT 快速训练卷积神经网络

    本文提出了一种使用 Fourier 变换和 GPU 架构，加速卷积网络的训练和推理的算法，并在现有技术的基础上取得了数量级上的改善。

    Dec, 2013

  • 使用 FBFFT 的快速卷积神经网络：GPU 性能评估

    本文研究了卷积神经网络在当前 NVIDIA 图形处理器上的性能，介绍了两种新的快速傅立叶变换卷积实现，对于整个 CNN，fbfft 比 cuFFT 快 1.5 倍以上，并且对于许多普通的卷积层，速度也比 NVIDIA 的 cuDNN 实现 快（达到了一些合成内核配置的 23.5 倍）。

    Dec, 2014

  • 超级计算机规模的图像分类

    本文介绍了三个与系统相关的优化方案 —— 分布式批量归一化控制每个副本批量大小、输入管道优化维持模型吞吐量和二维鼓形约减加速梯度求和 —— 将这些优化相结合，在 1024 芯片 TPU v3 Pod 上以超过 105 万张 / 秒的训练吞吐量，在 2.2 分钟内将 ResNet-50 在 ImageNet 上训练到 76.3％的准确度，且没有精度降低。

    Nov, 2018

  • 通过迁移学习实现移动计算机视觉的高效硬件 FixyNN

    本文介绍一种名称为 FixyNN 的方案， 采用固定权重的特征提取器和传统可编程 CNN 加速器相结合，在保证高准确率的前提下实现能耗控制

    Feb, 2019

  • FrankenSplit: 基于显著性引导的神经特征压缩与浅层变分瓶颈注入

    本文提出了一种面向资源的压缩模型框架，旨在提高机器解释性能，解决边缘设备和服务器之间资源分配不对称的问题，实验结果表明，相比现有的编解码标准任务，本方法可以获得 60％的比特率降低，同时不降低准确性，并可以比离线处理快 16 倍。

    Feb, 2023

  • 可塑性框架网络

    提出了一种名为 Frame Flexible Network（FFN）的通用框架，旨在解决现有视频识别算法只针对不同帧数的输入进行不同训练流程的问题以及通过 Multi-Frequency Alignment（MFAL）和 Multi-Frequency Adaptation（MFAD）技术学习时间频率不变表示来加强其表示能力，从而实现模型在不同帧上进行评估和减少存储多个模型的内存成本。在各种体系结构和流行基准上进行的全面实证验证充分证明了 FFN 的有效性和通用性。

    Mar, 2023

  • 图像在第二层之后价值为 1/2 令牌：大型视觉语言模型的即插即用推理加速

    通过学习自适应注意力模式和精简视觉标记，FastV 可显著降低计算成本并在各种图像和视频理解任务中保持优秀性能，有助于在边缘设备和商业模型中部署大规模视觉 - 语言模型。

    Mar, 2024

  • 人脸识别的 Web 规模训练

    本文研究了深度卷积网络在人脸识别中的性能，发现网络的 “瓶颈” 结构对于迁移学习具有重要作用，并提出了一种解决方法，即用自助法取代随机子采样；同时还发现了表示范数和目标域判别能力之间的联系，并基于这些发现，在目前最流行的人脸识别数据集 LFW 上取得了优秀的性能，甚至超越了商用系统。

    Jun, 2014

  • FVC：基于特征空间的深度视频压缩新框架

    本文介绍了一种在特征空间内实现运动估计、压缩、补偿和残差压缩的视频编码网络，通过多帧特征融合模块，并利用非局部注意力机制融合多帧参考特征提高帧重建效果，该网络在四个基准数据集上达到了最先进的性能。

    May, 2021