May, 2024

量化生成模型解决伊辛模型的泛化能力的方法

PDF
TL;DR通过设计一个 Hamming 距离约束器来量化生成模型的泛化能力，本研究对几种常见的神经网络架构（前馈神经网络、递归神经网络和图神经网络）结合变分自回归网络（VAN）的泛化能力进行了数值实验，并发现网络在小规模问题上的泛化能力可以预测其在大规模问题上的性能，这对于神经架构搜索中搜索大规模 Ising 模型的最佳网络架构具有重要意义。
ising modelsneural networksgenerative modelsvangeneralization capabilities
发现论文，激发创造
  • 消息传递变分自回归网络求解棘手伊辛模型

    我们提出了一种具有消息传递机制的变分自回归体系结构，在一个退火框架下进行训练。该网络在解决几个典型的伊辛自旋哈密顿量方面表现优于现有方法，尤其是在低温下的更大自旋系统。我们的方法将无监督神经网络在解决组合优化问题方面推广到了当前的计算限制的范围内。

    Apr, 2024

  • 从人工神经网络中推出广义传输矩阵状态

    提出并研究了一种名为广义转移矩阵状态（GTMS）的新型量子态，桥接了深度人工神经网络的两种方法，GTMS 包含了通用矩阵积态，并能够捕捉超越张量网络区域定律纠缠性质的更多长程量子关联。通过数值模拟和显式例子，表明 GTMS 是研究临界和动力学量子多体系统的有前途的候选方案。

    Aug, 2018

  • 理解量子机器学习需重新思考常规泛化

    通过系统随机实验，我们展示了目前理解广义学习的传统方法无法解释量子模型的行为，并揭示出量子神经网络具有记忆随机数据的能力。同时，我们展示了量子神经网络可以适应任意标签的量子状态，并且这些结果阐明了量子机器学习中广义学习理解的基本挑战。

    Jun, 2023

  • 基于受限玻尔兹曼机的有效耦合推断

    通过在受限玻尔兹曼机的能量函数和包括自旋之间高阶相互作用的有效伊辛自旋哈密顿量之间建立直接映射，我们提出了一种简单的解决方案，可以描述复杂数据集，实现学习正确的交互网络，并为其在建模有趣数据集中的应用铺平了道路。

    Sep, 2023

  • 使用深度生成网络的量子问题变分优化

    基于生成模型的变分生成优化网络（VGON）是一个通用方法，用于设计变分优化算法，并在量子任务中得到广泛应用。

    Apr, 2024

  • 基于可分离性的泛化量化方法：哪一层最佳？

    评估深度学习模型在新颖数据上的泛化能力，通过对神经网络各层的性能评估，发现高分类准确性并不意味着高泛化能力，深层网络不总是最好的泛化模型，对模型不同层的泛化能力进行了探讨。

    May, 2024

  • GAN 的最佳精度

    研究深度生成模型的潜在空间几何结构及优化条件，通过实验提出限制方法，提高生成对抗网络的性能。

    Jul, 2022

  • 经典和量子伊辛机的通用学习方案

    提出了一个基于 Ising 结构的新型机器学习模型，可以通过梯度下降进行高效训练，实验证明了 Ising 机器在不同的学习任务中的新可能性，尤其在量子机器学习领域中，量子资源被用于模型的执行和训练，提供了有希望的前景。

    Oct, 2023

  • 在 Ising 机上训练多层神经网络

    该研究提出了一种用于训练量化神经网络（QNN）的 Ising 学习算法，该算法通过二进制编码网络拓扑和损失函数的降阶，实现了在 Ising 机器上训练多层前馈神经网络。该算法的空间复杂度约为 O (H^2L + HLNlogH)，通过模拟 Ising 机器在 MNIST 数据集上验证了其有效性。

    Nov, 2023

  • 神经数据的伊辛模型：模型质量和提取功能连接的近似方法

    使用模拟皮层网络的数据，探究描述多神经元尖峰列统计学的成对 Ising 模型的最优耦合的优化方法和它们的统计特性，并通过比较不同的近似方法从一定程度上找到了这些最优耦合，但发现从小规模子集中提取耦合常常高估其大小，而且随着子集大小的增长，所用模型的拟合效果逐渐恶化，需要引入高阶相关性来描述大型网络的统计特性。

    Feb, 2009