本文提出了一种方法，通过二进制掩码的方式嫁接在已有的神经网络上，从而实现在新任务上达到较好性能的同时不影响旧任务的性能，该方法基于网络量化和剪枝的思想，以端对端可微的方式学习掩码，能够像微调网络一样学习大量的滤波器，适用于大规模分类，性能稳定、无遗忘现像，且任务顺序不影响性能。

Jan, 2018

深度学习模型在计算机视觉中的一个主要缺点是它们无法以模块化的方式保留多个信息源。本研究结合了深度学习和权重掩码方法，研究了三种权重掩码方法，并分析了其在源任务上减少 “遗忘” 并在目标任务上进行高效微调的能力。发现不同的掩码技术在保留源任务知识的同时不会对目标任务性能产生不利影响。

Aug, 2023

通过 HyperMask 方法，利用受 Lottery Ticket Hypothesis 影响的超网络产生适应新任务的半二值掩码，从而解决了人工神经网络在连续训练多个任务时遇到的灾难性遗忘问题。

Sep, 2023

本文提出了一种基于三元掩码和任务特定功能归一化的持续学习方法，旨在避免灾难性遗忘、反向传递，并在不影响之前任务的情况下掌握新任务，该方法在减少内存开销的同时表现出优于现有方法的最新技术水平。

Jan, 2020

本篇论文提出一系列工程技术来改善二值化神经网络的准确性，包括更合适的激活函数、反向初始化、渐进式量化、网络叠加等，并在人体姿态估计和 ImageNet 大规模图像识别任务中验证了其优越性。此外，还首次探讨了二值化神经网络和知识蒸馏相结合的效果。

Apr, 2019

本文研究二值神经网络在生成模型中的应用，通过开发一类新的二值权重规范化方法和提供针对这些二值化生成模型的架构设计，成功地训练出使用二值神经网络的生成模型，使得模型的计算成本大幅降低，但损失函数的值接近于原模型，模型体积更小且速度更快。

Oct, 2020

本文引入了一种新颖的方案来训练二值卷积神经网络，使用多个二元权重基的线性组合逼近完全精度权重，并采用多个二元激活来减轻信息丢失的问题，最终实现了一个二值卷积神经网络（ABC-Net），能够在适当的二元权重和激活函数基础上，取得与全精度神经网络相当的预测准确性。

Nov, 2017

本文提出了一种名为 BWNH 的新方法，旨在通过哈希训练二进制权重网络，以实现高效的网络推理。实验证明，该方法在 CIFAR10、CIFAR100 和 ImageNet 数据集上的性能均优于当前状态 - of-the-art 方法。

Feb, 2018

本文提出了一种新颖的方法，通过权重选择和反转来训练神经网络，达到高达 99% 的剪枝率，而仍然可以匹配或超过各种基线和以前的模型的性能。

Jan, 2022

本研究针对网络二值化技术领域的准确度损失问题，提出了三种新方法：1）使用专家二值卷积提高模型容量，2）引入宽度扩展机制以提高表示容量，3）提出了一种可行的网络增长机制以获得良好的网络拓扑结构，通过实验在 ImageNet 分类任务上取得了超过以往方法 6% 的精度提升。

Oct, 2020