May, 2023

贝叶斯重整化

PDF
TL;DRBayesian Renormalization uses the Fisher metric to define an emergent RG scale and prepare an effective model for a system up to a precision bounded by that scale, which makes it an ideal approach for renormalization in data science contexts. It relates to existing methods for data compression and data generation like the information bottleneck and the diffusion learning paradigm.
发现论文，激发创造
  • 重新标度作为一个推断问题

    通过量子区别度量，建立信息理论公式对统计物理学和量子场论中的重要的自由度进行分类。

    Oct, 2013

  • 互信息、神经网络与重整化群

    利用人工神经网络和信息理论模型的非模型化特点，实现不需要系统的先验知识，识别重要的物理自由度，并演示自然系统中的重要且普遍存在的学习算法。通过对经典统计物理的问题在一维和二维的应用，演示了 RG 流和提取的 Ising 临界指数。说明了机器学习可以提取抽象的物理概念，并成为理论建模的一个重要组成部分。

    Apr, 2017

  • 深度学习与重整化群

    本文比较分析了重整化群方法与深度机器学习方法的相似之处，讨论了多尺度纠缠重整化算法在生成式分层贝叶斯网络中的应用，并证明了该算法仅涉及概率的明确评估，消除了采样的需要。

    Jan, 2013

  • 通过统计推理的重整化群

    本研究发展了一种操作方法来识别状态的等价类，并且说明了重整化群的作用和信息在其中的作用，为量子场论中的区分度计算提供了一种方法。同时，本文也为不基于传统量子场理论的有效模型扩展重整化技术提供了途径，并阐明了不同类型重整化群之间的关系。

    Feb, 2014

  • 信息论下的最优重整化群变换

    本文探讨了粗粒化过程的信息理论特性，证明了 RSMI 粗粒化不会增加简化哈密顿量中相互作用的范围，并抑制了规范化扰动分布中相关性的产生，通过实证验证了信息保留与压缩相关的减小复杂度的度量，以及在一般 RG 过程中粗粒化的度数和类型的限制所产生的影响。

    Sep, 2018

  • 神经网络重整化群

    本文介绍了一种变分重整化群方法，使用基于归一化流的深度生成模型。该模型通过变量变换从物理空间到潜在空间进行分级，从而生成近似相互独立的潜在变量，同时具有精确和可处理的似然度。本研究展示了该方法在 Ising 模型中的互相独立的集体变量识别和混合蒙特卡罗抽样的实际应用，并讨论了该方法与重整化群的小波分析和信息保存 RG 的联系。

    Feb, 2018

  • 神经网络高斯过程的威尔逊重整化

    通过在高斯过程回归的背景下，系统地积掉不可学习的高斯过程核的模式，实现了威尔逊 RG 在实践上的方法，其中数据扮演能量尺度的角色，研究这样的流可以改善我们对深度神经网络中特征学习的理解，识别出这些模型中的潜在普适类。

    May, 2024

  • 神经网络场论中的贝叶斯 RG 流

    通过将神经网络架构映射到统计场理论空间，构建了神经网络场论对应（NNFT）；利用信息论粗粒化方案（BRG）与粒子物理准确重整化群（ERG）的原则，形成了一个探索神经网络和统计场理论空间的强大新框架，称为 BRG-NNFT；通过 BRG-NNFT，可以将神经网络训练动力学解释为从信息论上的 “红外” 到 “紫外” 的 SFT 空间中的流动。

    May, 2024

  • 信息论泛化界的统一框架

    文中提出了一种利用概率去相关引理、对测度空间中的的概率测度进行对称化、配对和链化等技术来获得学习算法信息论泛化界限的一般性方法，进而得到新的期望值和高概率条件下泛化误差的上界，特别地，还包括了基于互信息、条件互信息、随机链和 PAC-Bayes 不等式等现有泛化界限的特例。此外，Fernique-Talagrand 上界也是一个特例。

    May, 2023

  • 重整化群和概率论

    本文简要介绍重整化群在相变理论中的应用及其概率学解释.

    Sep, 2000