混沌多体系统的新兴智能行为可以通过统计物理学来表征，探索学习机制与物理动力学之间的关系，以设计适用于人工智能应用的智能系统。

Aug, 2023

本研究利用玻璃系统在统计物理学上所开发的方法对深度神经网络 (DNN) 的训练动态进行了数值分析，在地址复杂度的损失面貌和网络结构等方面取得了一些独到的发现。

Mar, 2018

我们通过对于耦合的人工神经网络系统中集体学习的出现进行解析，引入了一个最小模型，通过考虑每个神经网络单元参数的本地学习动态和单元之间的扩散耦合之间的竞争来凝结几个最近的分散算法。

Oct, 2023

通过数据驱动算法和高性能计算，我们构建了一个基于时空光锥的框架，用于实现新现象的自组织，并且本文指出局部因果状态可以在复杂的时空系统中捕捉有序行为和一致结构。在二维湍流方面，我们证明了局部因果状态捕捉了涡旋及其幂律衰减行为，而在应用方面，我们演示了局部因果状态可用于识别已知（飓风和大气河流）和新的极端天气事件，并且可以通过高分辨率气候数据进行时间跟踪。

Apr, 2023

本文回顾了关于玻璃状态动力学的最新理论进展，重点讨论了与许多实验情况相关的 “老化区域” 的重要性和普遍性。文章涵盖了三个主要话题：老化的现象学模型（粗化，陷阱模型）、均场模型的低温动力学的分析结果（对应于模式耦合方程）；以及具有玻璃状态动力学的简单无序模型。文章讨论了这些方法之间的相互关系，以及与此前该领域的研究工作的关系。值得注意的是，几个未解决的问题已经被突出强调，特别是均场说明（或模式耦合说明）和有限维问题之间的精确关系。

Feb, 1997

通过 replica formalism，研究了具有可微激活函数和单个线性输出单元的大型分层神经网络的平衡状态。在学习完全匹配复杂度规则的非常多的隐藏单元的学生网络的基础上，计算了定量的冻结自由能，发现系统在训练集的临界大小下从不专业化到专业化的学生配置的一级相变。通过固定的训练集进行随机梯度下降的计算机模拟表明，平衡结果在实际训练过程中的平台状态中得到了定量描述。

Dec, 1998

通过分析神经网络在学习线性动力系统时的训练动态，我们发现在数据分布和权重初始化方案等方面可能会导致不稳定性和学习困难，并提出了相关的缓解策略。同时，我们探讨了离散时间和连续时间动力系统学习之间的重要区别以及对非线性系统的拓展。

Jun, 2024

通过设计合适的损失函数，利用变分逆问题方法，我们提出了一系列学习方法，用于识别动态系统的结构，以了解相互作用代理系统中的新兴行为，能够有效处理高维观测数据，包括一阶和二阶动态系统的观测数据，考虑观测 / 随机噪声、复杂的相互作用规则、缺失的相互作用特征和实际世界观测，在学习方法中固有地提供了降维能力。

Nov, 2023

本文研究表明，相较于静态网络，动态生长的神经网络在增量学习场景中表现更好，无监督学习使得训练更具挑战性，同时增加了研究的现实性，同时结构可塑性是防止非静态环境中的灾难性遗忘的有效方法。

Nov, 2018

现代生成式机器学习模型展示出令人惊讶的能力，能够创造出超越其训练数据的逼真产出，如逼真的艺术作品、精确的蛋白结构或对话文本。这些成功表明生成模型学会了有效地参数化和采样任意复杂的分布。本文旨在将经典作品与大规模生成统计学习中的新兴主题联系起来，包括经典吸引子重构、隐空间模型中的潜在表示学习等。还介绍了早期利用符号近似进行比较的努力，与现代努力进行黑盒统计模型的精简和解释相关。新兴的跨学科研究桥接了非线性动力学和学习理论，如用于复杂流体流动的算子理论方法，或者检测生物数据集中打破了详细平衡的情况。我们预计未来的机器学习技术可能会重新审视非线性动力学中的其他经典概念，如信息传输衰减和复杂性 - 熵权衡问题。

Nov, 2023