本研究介绍了一种基于任务分解的并行算法ZNN，它能够在计算机视觉中应用广泛的卷积神经网络中实现PRAM模型下的线性加速，通过时间局部化和一种几乎无等待的并发方法，此算法能够在共享内存机器上达到与物理核心数量相当的加速效果，适用于宽网络结构。此算法基于CPU的任务并行性，与GPU的SIMD并行性相比，ZNN的开发和维护成本相对较低。

Oct, 2015

本文提出了一种通过使用卷积滤波器的低秩表示来创建计算有效卷积神经网络的新方法，该方法通过学习一组小的基础过滤器从头开始进行训练，使网络有效地初始化连接权重。通过使用该方法，我们在CIFAR、ILSVRC和MIT Places数据集上训练了几种现有的CNN体系结构，并证实其优异的性能。

Nov, 2015

本文提出了两种卷积神经网络的高效近似方案：二进制权重网络和XNOR-网络，其中XNOR-网络既将卷积层输入又将滤波器二值化，主要利用二值运算来近似卷积，这使得卷积速度快58倍且内存占用仅为原来的1/32，而且其分类性能在ImageNet数据集上也优于其他网络二值化方法。

Mar, 2016

本文提出了一种名为BWNH的新方法，旨在通过哈希训练二进制权重网络，以实现高效的网络推理。实验证明，该方法在CIFAR10、CIFAR100和ImageNet数据集上的性能均优于当前状态-of-the-art方法。

Feb, 2018

本研究提出了一个深度哈希框架，用于人类涂鸦数据集的多重万级别检索，探索了前期文献中未被研究的涂鸦专有特征，并通过一个两支CNN-RNN的设计进行了独特人类涂鸦的特征嵌入，并开发出一个新的哈希丢失功能来适应涂鸦数据的时态和抽象特征，实现了相比静态图像的现有哈希模型更优异的表现。

Apr, 2018

该研究提出了一种利用注意力机制和神经网络实现端到端学习的新型 freehand sketching 认知方法，相比于现有技术更加鲁棒和有效，能够在大规模的手绘图像识别竞赛中获得更好的性能表现。

Nov, 2018

本文提出了一种改进的训练算法，用于针对二元神经网络的权重和激活二进制数的训练，提出了一种新的比XNOR-Net更优的方法，通过反向传播学习判别式融合激活和权重缩放因子。实验表明，与分析计算的结果相比，我们的方法更加准确，且在相同的计算预算下，可在 ImageNet 分类任务中提供高达 6% 的准确性提升。

Sep, 2019

本研究针对网络二值化技术领域的准确度损失问题，提出了三种新方法：1）使用专家二值卷积提高模型容量，2）引入宽度扩展机制以提高表示容量，3）提出了一种可行的网络增长机制以获得良好的网络拓扑结构，通过实验在ImageNet分类任务上取得了超过以往方法6%的精度提升。

Oct, 2020

本研究通过张量网络对卷积进行了全新的视角探讨，通过图表述来研究其基础性质，证明了该方法的表达能力，并通过实验证明了其对于多种卷积操作的适用性和有效性。

Jul, 2023

提出了一种基于草图的算法，其训练时间和内存随着图的大小而亚线性增长，通过在少量紧凑的图草图上训练GNN，避免了与图大小线性相关的复杂性增长，并通过局部敏感哈希（LSH）技术提高草图的质量，实验证明了该算法在大规模图上的可扩展性和竞争性能与完整规模的GNN相比。

Jun, 2024