随机热力学是将经典热力学的概念(如功、热以及熵的产生)扩展到非平衡集合的个体轨迹的框架,主要应用于单胶体颗粒、聚合物、酶和分子电机、小型生化网络以及热电器件等系统中,各种波动定理限制着功、热和熵产生的概率分布,并可以通过一个主定理来规定。
May, 2012
该论文研究了如何使用局部结构设计热力学的好的近似框架,并阐述了广义信念传播算法如何求解自由能、熵和变分自由能的局部变分原理。
Jul, 2022
从观察到的噪声数据中恢复动力学方程是系统辨识的核心挑战,我们开发了一种统计力学方法来分析稀疏方程发现算法,它通常通过试错选择超参数来平衡数据拟合和简洁性。在这种框架下,统计力学提供了工具来分析复杂性和适应性之间的相互作用,类似于熵和能量之间的分析。通过将优化过程定义为二级贝叶斯推断问题,将变量选择与系数值分离,并能够通过闭合形式计算后验参数分布,从而建立这种类比。运用统计力学的概念,如自由能和配分函数,在低数据限制下尤其能够量化不确定性,这在实际应用中经常遇到。随着数据量的增加,我们的方法类似于热力学极限,导致明确区分正确和错误辨识的不同疏松度和噪声诱导的相变。这种对稀疏方程发现的观点是多功能的,可以适应各种其他方程发现算法。
Mar, 2024
透明物理分析推导了扩散模型中的涨落定理、熵产生、Franz-Parisi 势函数,从非平衡物理的角度理解了最近发现的内在相变现象,该统一原理预计将引导机器学习从业者设计更好的算法,也将把机器学习与非平衡热力学联系起来。
May, 2024
通过研究发现,生成扩散模型可以用平衡统计力学的工具进行理解,并且这些模型经历了与对称性破缺现象相对应的二阶相变。作者还探讨了最近有关扩散模型与联想记忆网络的研究,并从热力学的角度进行了论述。
Oct, 2023
通过 replica formalism,研究了具有可微激活函数和单个线性输出单元的大型分层神经网络的平衡状态。在学习完全匹配复杂度规则的非常多的隐藏单元的学生网络的基础上,计算了定量的冻结自由能,发现系统在训练集的临界大小下从不专业化到专业化的学生配置的一级相变。通过固定的训练集进行随机梯度下降的计算机模拟表明,平衡结果在实际训练过程中的平台状态中得到了定量描述。
Dec, 1998
本文介绍了如何使用随机量子化动力学来进行信息投影或 E 投影的统计操作,并且应用于人工细胞环境推断问题。
Apr, 2017
提出一种基于达尔文自然选择原理的计算模型,通过决策树和值函数树重建实体的轨迹,提供了一种通过机器学习学习观测历史数据、发现自然法则的算法模型。
Mar, 2023
本文研究了非平衡态下存在的集体系统,详细探讨了个体材料组分内部能量以及小扰动对整个系统流变性质的全球影响,利用模拟推断方法依据少量图像数据提取了集体系统参数的可行性,着重强调了复杂集体系统内部的结构关系是生成模型和数据更精确匹配的重要因素。
Apr, 2023
物理学自发自组织问题的历史、现状和挑战,以及两种现代数学形式化方法的概述,展示了如何通过统计力学得出结构化状态的生成原理。
Nov, 2023