Apr, 2017

互信息、神经网络与重整化群

PDF
TL;DR利用人工神经网络和信息理论模型的非模型化特点，实现不需要系统的先验知识，识别重要的物理自由度，并演示自然系统中的重要且普遍存在的学习算法。通过对经典统计物理的问题在一维和二维的应用，演示了 RG 流和提取的 Ising 临界指数。说明了机器学习可以提取抽象的物理概念，并成为理论建模的一个重要组成部分。
renormalization groupmachine learningstatistical physicsrg flowising model
发现论文，激发创造
  • 神经网络重整化群

    本文介绍了一种变分重整化群方法，使用基于归一化流的深度生成模型。该模型通过变量变换从物理空间到潜在空间进行分级，从而生成近似相互独立的潜在变量，同时具有精确和可处理的似然度。本研究展示了该方法在 Ising 模型中的互相独立的集体变量识别和混合蒙特卡罗抽样的实际应用，并讨论了该方法与重整化群的小波分析和信息保存 RG 的联系。

    Feb, 2018

  • 神经网络高斯过程的威尔逊重整化

    通过在高斯过程回归的背景下，系统地积掉不可学习的高斯过程核的模式，实现了威尔逊 RG 在实践上的方法，其中数据扮演能量尺度的角色，研究这样的流可以改善我们对深度神经网络中特征学习的理解，识别出这些模型中的潜在普适类。

    May, 2024

  • 深度学习与重整化群

    本文比较分析了重整化群方法与深度机器学习方法的相似之处，讨论了多尺度纠缠重整化算法在生成式分层贝叶斯网络中的应用，并证明了该算法仅涉及概率的明确评估，消除了采样的需要。

    Jan, 2013

  • 重探 Renormalization Group 和 Ising 模型中的深度学习连接深入

    使用 Restricted Boltzmann Machines（RBM）进行深度学习，研究了量子场论和统计物理中的重整化群（RG）与无监督深度学习之间的联系，并通过 1D 和 2D Ising 模型的研究验证了这种联系。

    Aug, 2023

  • 通过统计推理的重整化群

    本研究发展了一种操作方法来识别状态的等价类，并且说明了重整化群的作用和信息在其中的作用，为量子场论中的区分度计算提供了一种方法。同时，本文也为不基于传统量子场理论的有效模型扩展重整化技术提供了途径，并阐明了不同类型重整化群之间的关系。

    Feb, 2014

  • 神经网络与重整化群流的尺度不变特征提取

    基于玻尔兹曼机和伊辛模型，利用模型参数流的方式，研究深度神经网络特征提取的层次性以及与统计物理中重整化群的关系。通过分析训练后的玻尔兹曼机的权重矩阵性质，解释其向临界温度 $T_c=2.27$ 流动的原因以及学习提取自旋构型特征的方式。

    Jan, 2018

  • 信息论下的最优重整化群变换

    本文探讨了粗粒化过程的信息理论特性，证明了 RSMI 粗粒化不会增加简化哈密顿量中相互作用的范围，并抑制了规范化扰动分布中相关性的产生，通过实证验证了信息保留与压缩相关的减小复杂度的度量，以及在一般 RG 过程中粗粒化的度数和类型的限制所产生的影响。

    Sep, 2018

  • 重正化图神经网络

    该论文提出了一种新的方法，即将重整化群理论应用于设计一种新颖的图重连策略，以提高图神经网络在图形相关任务上的性能，结果表明这种方法的有效性和其挖掘各种系统固有复杂性潜力的能力。

    Jun, 2023

  • 变分重整化群与深度学习之间的精确映射

    本文研究深度学习的理论基础，发现其与理论物理中的重整化群技术密切相关，提供了一种新的理解思路，解释了深度学习技术在数据特征学习和压缩方面的成功，同时探究抽取相关特征的机制和算法。

    Oct, 2014

  • 重新标度作为一个推断问题

    通过量子区别度量，建立信息理论公式对统计物理学和量子场论中的重要的自由度进行分类。

    Oct, 2013