训练比特全卷积网络以实现快速语义分割

Dec, 2016

训练比特全卷积网络以实现快速语义分割

Training Bit Fully Convolutional Network for Fast Semantic Segmentation

He Wen, Shuchang Zhou, Zhe Liang, Yuxiang Zhang, Dieqiao Feng...

TL;DR我们提出了一种用于训练 Bit Fully Convolutional Network（BFCN）的方法，在训练完一个低比特宽度的权重和激活的全卷积神经网络之后，并使用有效率的比特卷积实现进行加速，结果显示，我们使用的 BFCN 在 PASCAL VOC 2012 语义分割任务和 Cityscapes 上均能获得比 32 位计算相当的性能，并且与 32 位对照组相比，可以在 CPU 上提高 7.8 倍的性能或在 FPGA 上使用不到 1％的资源。

Abstract

Fully convolutional neural networks give accurate, per-pixel prediction for input images and have applications like semantic segmentation. However, a typical FCN usually requires lots of floating point computatio

convolutional neural networks semantic segmentation low bit-width weights bitwise operations pascal voc

发现论文，激发创造

FracBNN：具有分数激活的准确和 FPGA 高效二值神经网络

研究提出了一个名为 FracBNN 的新型二进制神经网络模型，利用分数激活方法，通过双精度激活方案和新型冷却器编码等技术解决旧模型在现实数据集（如 ImageNet）表现不佳的问题。FracBNN 可以实现同等规模的 MobileNetV2 的精准率，且模型尺寸减少了 2.5 倍。在嵌入式 FPGA 设备上，FracBNN 显示出实时图像分类的能力。

Dec, 2020

精度生物医学图像分割的完全卷积网络量化

本文旨在探讨量化技术在深度神经网络（DNN）和全卷积神经网络（FCN）的生物医学图像分割中的应用，而不是仅仅将其用于降低内存和计算复杂度。实验结果表明，在 MICCAI Gland 数据集上，我们的方法不仅优于现有的技术，而且可以使内存使用降低多达 6.4 倍。

Mar, 2018

基于分块定点算术的卷积神经网络加速器设计中的计算误差分析

本文在不重新训练的情况下测试了几种经典的卷积神经网络 (CNN) 模型，验证了使用块浮点算法 (BFP) 在 CNN 加速器中定义字宽的效果，并探究了理论计算误差，提出了噪声信号比（NSR）的上限，为基于 BFP 的 CNN 引擎设计提供了有价值的指导。

Sep, 2017

历史文献图像页面分割的全卷积神经网络

本文提出了一种基于像素级别处理的高性能全卷积神经网络，用于历史文献图像分割，并引入了一种独立于模糊真实度量的前景像素准确度评价指标，该指标仅计算二值化页面中的前景像素，从而使研究人员可以比较不同的分割方法在文本或图像分割方面的成功能力。

Nov, 2017

二进制神经网络中的数据流优化

通过引入剪裁块，减少二元神经网络层的数据宽度和内部累加器大小，同时优化批标准化层的实现和 ARM 指令集的二值化卷积，提高了推理速度和准确度。

Apr, 2023

贝叶斯优化的 1 比特卷积神经网络

提出一种新颖的方法，名为 Bayesian optimized 1-bit CNNs（简称 BONNs），利用贝叶斯优化后的 1-bit CNNs 极大程度地改善了其性能，能够在资源受限的环境中获得最佳分类性能，尤其在 ImageNet 上。

Aug, 2019

全卷积网络用于语义分割

该研究证明，卷积网络可以通过端到端的训练，从像素到像素地训练，超越先前的语义分割最先进方法，通过自适应大小输入和高效学习来生成相应大小的输出。该研究还详细介绍了全卷积网络的应用于空间密集预测任务，并将 AlexNet、VGG 网和 GoogLeNet 等现代分类网络改进成全卷积网络，并将它们学习到的表示通过微调应用于语义分割任务。最后，该研究提出了一种新的网络架构，将深层次粗糙层和浅层外观信息相结合以生成准确和详细的分割结果，在 PASCAL VOC、NYUDv2 和 SIFT Flow 数据集上实现了最先进的语义分割（2012 年的 mean IU 相较前一方法提高 20％），对典型图像的推理时间仅需三分之一秒。

Nov, 2014

PixelNet：通向通用像素级架构

通过采用分层抽样和多尺度特征的方法，优化以卷积预测器为基础的像素级预测问题的神经网络结构，显著提高了模型在低级边缘检测、中级表面法线估计和高级语义分割中的性能.

Sep, 2016

可再配置逻辑上二值神经网络的扩展

该论文研究了如何在 BNN 网络中使用 padding 提高分类准确率的同时，仍然保持 1 位数据通路。作者展示了该方法的灵活性和可扩展性，并在 ADM-PCIE-8K5 平台上实现了大型 BNN 分类的快速和精确。

Jan, 2017

全卷积神经网络用于语义分割

本文提出了一种基于卷积神经网络的 Fully Convolutional Networks（FCN）方法，可以用于图像的深度语义分割。通过该方法，我们成功地提高了 PASCAL VOC、NYUDv2、SIFT Flow 和 PASCAL-Context 等公开数据集上的 segmentation 模型的性能，并且推断速度远快于之前的相关工作。

May, 2016