Nov, 2023

QuasiNet：具备可训练的乘积层的神经网络

PDF
TL;DR我们提出了一种灵感来自现有神经网络模型的新的神经网络模型，该模型具有所谓的乘积神经元和源自传统误差反向传播的学习规则，优雅地解决了互斥情况的问题。与现有的乘积神经元不同，我们的神经元层的乘积层也可以学习。我们对模型进行了测试，并将其成功率与经典多层感知机在上述问题以及其他难题（如两个螺旋）中进行了比较。结果表明我们的模型明显比经典的多层感知机更成功，并且具有在许多任务和应用中使用的潜力。
neural networksproduct neuronslearning rulemutually exclusive situationsmultilayer perceptron
发现论文，激发创造
  • 计算高效的二次神经网络

    通过引入高阶人工神经元，本论文介绍了具有增强的学习能力的二次神经元、解决 XOR 问题的方法以及应用于前向神经网络的全矢量化方程。与隐藏层神经元数量相比，仅利用一层二次神经元可以使网络在更少的隐藏层神经元的情况下实现更高的准确性，从而在基准分类数据集上取得了显著的成果。

    Oct, 2023

  • 关于二次网络的表达能力和可训练性

    本研究探讨了一种新型的神经元 —— 二次人工神经元，在深度学习模型中取代了传统神经元的内积运算，研究了其模型表达能力、训练稳定性等问题，提出了一种名为 ReLinear 的训练策略，发现二次人工神经元在机器学习任务中具有最优表现。

    Oct, 2021

  • 用于编程量子退火机的神经网络

    量子机器学习与经典机器学习中的核方法有相似之处，本研究探索了将经典神经网络与量子退火机连接的设置，并模拟了其在分类问题上的性能，发现加入小型量子退火机并不能显著提高性能。

    Aug, 2023

  • 通过经典神经网络学习量子神经网络的学习方法

    本文提出一种使用经典神经网络协助量子学习的元学习方法，通过训练经典递归神经网络对 Quantum Approximate Optimization Algorithm (QAOA) for MaxCut，QAOA for Sherrington-Kirkpatrick Ising model 以及 Hubbard model 的参数进行快速优化，以减少优化迭代次数。同时，发现该方法可以推广到其他问题类型，使得量子学习更加高效。

    Jul, 2019

  • 量子与经典神经网络模型在图像分类任务中的比较

    研究了用于手写数字 MNIST 数据集分类问题的混合量子 - 经典神经网络的性能，结果表明虽然模拟时间较长，但是该模型优于传统网络，达到更好的收敛性和高的训练和测试精度。

    Aug, 2021

  • 深度神经网络作为拓扑量子神经网络的半经典极限：泛化问题

    基于拓扑量子场论的监督学习新框架被应用于理解深度神经网络的泛化问题。从拓扑量子神经网络的半经典极限解释了深度神经网络在训练阶段的过度拟合行为及相应的泛化能力。

    Oct, 2022

  • 近期处理器上的量子神经网络分类

    我们介绍了一个可以通过监督学习表示带有标签的数据（经典或量子）并进行训练的量子神经网络。该网络由一系列参数相关的酉变换组成，作用于输入的量子态，可以进行二元分类。我们展示了如何对经典数据集进行分类，并使用实际数据集的例子展示了该网络的应用。

    Feb, 2018

  • 量子机器学习用于图像分类

    本研究提出了两种混合量子 - 经典模型：具有平行量子层的神经网络和具有量子卷积层的神经网络，它们解决了图像分类问题。其中我们提出的混合量子方法在 MNIST 数据集上展现了超过 99% 的准确率。这表明将量子效应应用于传统经典模型可以进一步提高图像识别和分类的能力，并为医疗保健、安全和市场营销等各个领域提供有前途的方法。

    Apr, 2023

  • 准循环神经网络

    本文介绍了一种新型的神经序列建模方法 - 准循环神经网络（QRNNs），通过卷积层与最小化的循环池化函数的交替使用，QRNNs 可以在高度并行的情况下完成对序列数据的建模，并且在语言建模、情感分类和字符级神经机器翻译等任务中显示出比基于 LSTM 的架构更优异的性能。

    Nov, 2016

  • HadaNets: 神经网络的灵活量化策略

    该研究论文介绍了一种名为 HadaNets 的新型神经网络模型，可以在不占用太多内存和训练时间的情况下有效地训练和推理深度神经网络，同时具有优秀的模型压缩性能。

    May, 2019