神经网络的统计力学表述探究

Jul, 2014

A walk in the statistical mechanical formulation of neural networks

Elena Agliari, Adriano Barra, Andrea Galluzzi, Daniele Tantari, Flavia Tavani

TL;DR通过统计力学的视角，提出了在吸引子网络方面的 Hopfield 网络和 Boltzmann 机之间的相似性，并给出了恢复 Hebbian 范式的两种替代方法。同时，强调了铁磁体和运算放大器以及反铁磁体和触发器之间的映射。

Abstract

neural networks are nowadays both powerful operational tools (e.g., for pattern recognition, data mining, error correction codes) and complex theoretical models on the focus of scientific investigation. As for the research branch, →

neural networks statistical mechanics hopfield networks boltzmann machines spontaneous cognition

发现论文，激发创造

统计力学与人工神经网络：原理，模型和应用

神经科学，人工神经网络，统计力学，Hopfield 网络和 Boltzmann 机器是人工神经网络领域的主要研究课题。通过研究人工神经网络中的丢失函数的几何特征和可视化方法，可以提高其优化行为、泛化能力和整体性能。

Apr, 2024

复杂神经系统与高维数据的统计力学

这篇论文介绍了在统计物理学、计算机科学和神经生物学交叉领域中涌现的模型统计方法，如关联复制和空腔方法，信息传递的概念和其在神经计算和学习中的应用，以期提供更好的理论和技术支持解决神经网络中的复杂计算问题。

Jan, 2013

神经符号大脑

使用少量的稀疏随机噪声训练成为一种自持续的吸引子来制造符号，并将这些吸引子存储在寄存器中，利用这种机制，可以实现工作记忆，并可用于深度学习网络结构的设计。

May, 2022

量子系统的神经网络表示

通过使用神经网络的通用逼近定理，本文提出了一种新的映射方法，将广义的量子力学系统转化为带有网络参数统计求和的神经网络形式，从而将机器学习与量子世界更加紧密地联系起来。

Mar, 2024

一个用于真实神经元网络的自旋玻璃模型

本文通过 Ising 模型描述 40 个神经元之间的相关触发活动，发现神经元之间的配对相互作用影响高阶相关性；作者构建神经网络的基础上，增加规模进一步研究其热力学特性和编码能力，并对 2 种与神经编码相关的现象进行深入研究。

Dec, 2009

有限连通性吸引子神经网络

本文研究有限平均对称神经元连接的稀释吸引子神经网络，通过秩一对称（RS）逼近导出与有限连通性自旋玻璃相似的平衡性质，进行了秩对称的积分方程的分支分析，揭示了相图中的铁磁到扰动和铁磁到自旋玻璃的转化线的位置，计算了回忆相与自旋玻璃相之间的分界线。所有的相变均为连续的。

Apr, 2003

神经生物学和机器学习中的大型关联记忆问题

提出了一种微观理论，其中只需两体相互作用，就可以有效地描述大型关联内存，具有一定的生物可信度，并实现了能量最小化的动力学。

Aug, 2020

高效优化和可解释的量子神经网络

我们提出一种基于费米模型的量子神经网络，其物理特性作为输出，并建立了与反向传播相媲美的高效优化，在具有挑战性的经典机器学习基准上具有竞争力的准确度，并且在量子系统上实现高精度且不需要预处理的机器学习，此外研究结果可用于量子纠缠分析和可解释的机器学习。

Nov, 2022

生物可信神经网络的研究：大脑启发机制在持续学习中的作用和交互

通过生物学上的神经元网络组合中的多种互补机制，可以在人工神经网络中实现连续学习。

Apr, 2023

生物连接组作为人工神经网络架构的表征

本文通过将矛线虫的运动回路转化为具有不同生理真实性水平的人工神经网络，评估这些网络在动态和非动态行为任务上的训练结果。研究表明，即使不保持生物特性的真实性，也可以获得使用生物电路的优势。建立生物电路结构的统计学提供了有价值的先验知识。同时，矛线虫的运动回路对于运动问题具有强大的归纳偏差，但其结构可能会妨碍其他与运动无关的任务。

Sep, 2022