本文介绍了一种利用 MobileNet 二值化来进行激活函数和模型权重处理的简单而高效的方案，同时提出了一个新的神经网络结构 MoBiNet，通过跳连接来防止信息丢失和梯度消失，以便更好地进行训练，并在 ImageNet 数据集上进行了实验。结果表明，MoBiNet 在大大减少计算成本的情况下，实现了 54.40％的 top-1 准确率和可比较的准确性。

Jul, 2019

本研究关注二值神经网络的训练精度问题，提出了一些新的设计原则，设计出了一种新的二值神经网络体系结构 BinaryDenseNet，并在 ImageNet 数据集上获得 18.6% 和 7.6% 的精度改进。

Jun, 2019

本文介绍了一种使用对比学习和最大化互信息的方法来使用二进制神经网络实现更好的分类和分割结果，以减少因为二值化操作而导致的信息丢失。

Jul, 2022

通过三个互补的角度：创新设计一个基于全方位研究后的二进制结构 BNext、提出一种新的知识蒸馏技术以缓解训练极精确二进制模型时出现的过拟合问题、并使用来自全精度模型的最新技术现代化二进制网络的数据增强管线，我们让二进制神经网络在 ILSVRC-2012 ImageNet 上达到了至关重要的准确度水平 (例如 80.57%)，并且明显优于所有现有的二进制网络。

Nov, 2022

本文提出了一种名为 BoolNet 的二值神经网络（BNN）架构，该架构不使用常见的 32 位组件，能够在不影响准确性的情况下减少能源消耗，并且与现有的 BNN 架构 Bi-RealNet 相比，能够获得高达 1.2% 的额外准确性和 4.6 倍的能量降低。

Jun, 2021

本文提出了一种改进的训练方法来提高具有更高准确性的紧凑型二值化 CNN，其中可训练的权重和激活的比例因子被引入以增加值范围，并通过反向传播与其他参数一起进行训练。通过这些改进，与前人工作相比，本文二值化 CNN 在 CIFAR-10 上的准确度达到 92.3％，在 ImageNet 上，我们的方法用 AlexNet 获得 46.1％的 top-1 准确度，用 Resnet-18 获得 54.2％的 top-1 准确度。

Sep, 2019

对二元神经网络进行了广泛的实验以了解其表示能力、速度及偏差 / 方差。提出了一种二元集成神经网络，通过集成方法来提高二元神经网络的性能，从而更快、更鲁棒，甚至能够超越具有相同结构的完全精确的浮点数网络的准确性。

Jun, 2018

本文介绍了一种对二值化神经网络进行训练的方法，并在 Torch7 和 Theano 两个框架下，对 MNIST、CIFAR-10 和 SVHN 数据集进行了实验，取得了近乎领先水平的结果。通过在前向传递过程中使用二值化的权重和激活值，可以大幅减少内存消耗，用位运算取代大多数算术运算，并且使用二进制矩阵乘法 GPU 内核可以比未优化的 GPU 内核快 7 倍，而不会损失分类准确度。

Feb, 2016

本文提出了一种基于转移学习的架构，首先在 Imagenet 上训练二元网络，然后重新训练网络的部分部分用于不同的任务，同时保持网络的大部分部分固定。

Nov, 2017

本文提出了一种名为 AdaBin 的自适应二值化方法，它通过使用符号函数难以准确地将全精度值二值化的事实，使得我们获得了一组自适应的最优二进制集合，进一步提高了二值特征的表示能力。实验结果表明，AdaBin 在大量基准模型和数据集上达到了 state-of-the-art 的性能。

Aug, 2022