引入了一种基于术语重写的动力系统的代数模拟，证明了递归函数应用于迭代重写系统的输出定义了一类模型，其中包括循环神经网络、图神经网络和扩散模型等所有主要的动态机器学习模型架构。从范畴论的角度来看，这些代数模型也是描述动态模型组成性的一种自然语言。此外，我们提出这些模型为将上述动态模型推广到结构化或非数值数据（包括 “混合符号 - 数值” 模型）的学习问题提供了一个模板。

Nov, 2023

通过 replica formalism，研究了具有可微激活函数和单个线性输出单元的大型分层神经网络的平衡状态。在学习完全匹配复杂度规则的非常多的隐藏单元的学生网络的基础上，计算了定量的冻结自由能，发现系统在训练集的临界大小下从不专业化到专业化的学生配置的一级相变。通过固定的训练集进行随机梯度下降的计算机模拟表明，平衡结果在实际训练过程中的平台状态中得到了定量描述。

Dec, 1998

在这篇论文中，我们讨论了如何利用机器学习在自然科学中获得严谨性，通过猜想生成或通过强化学习进行验证，可以使用非严谨的方法得到严谨的结果。我们还描述了受神经网络理论启发的场论新方法，以及通过神经网络梯度下降诱导的黎曼度量流理论，其中包含了 Perelman 的黎曼流公式，该公式用于解决 3D Poincaré 猜想。

Feb, 2024

这篇论文证明了经典机器学习算法可以有效地预测有限空间维度内间隙哈密顿量的基态性质及其它相类哈密顿量的数据，并可以有效地分类一系列的量子相，在量子实验中可以通过构建经典影像来预测系统的多种属性。

Jun, 2021

本文探讨了在物理学和机器学习领域中，研究对称群等变机器学习结构所带来的深度投资和收益，并讨论了应用这些方法的潜在益处和限制以及对不同物理应用的各种评估指标。

Mar, 2022

机器学习与数学领域诸如统计学、概率论和线性代数等有着长期的合作传统。我们提出了机器学习研究的新方向：$C^*$- 代数机器学习。这是 $C^*$- 代数与机器学习的交叉授粉。$C^*$- 代数数学概念是复数空间的自然推广，它能够统一现有的学习策略，并构建一个更多样和信息丰富的数据模型框架。我们解释了为什么以及如何在机器学习中使用 $C^*$- 代数，并提供了在核方法和神经网络上设计 $C^*$- 代数学习模型的技术考虑。此外，我们讨论了 $C^*$- 代数机器学习中的未解问题和挑战，并提出了对未来发展和应用的思考。

Feb, 2024

近年来，机器智能在预测电子结构、分子力场以及各种凝聚系统的物理化学性质方面得到了显著增长。然而，对于处理广泛的原子组成和热力学条件的全面框架仍面临重大挑战。本文展望了液态理论在利用最新功能性机器学习进展方面的潜在未来发展。通过发挥理论分析和机器学习技术的优势，包括代理模型、降维和不确定性量化，我们预见液态理论将在准确性、可扩展性和计算效率方面取得显著改进，从而实现在各种材料和化学体系中的广泛应用。

Nov, 2023

神经科学，人工神经网络，统计力学，Hopfield 网络和 Boltzmann 机器是人工神经网络领域的主要研究课题。通过研究人工神经网络中的丢失函数的几何特征和可视化方法，可以提高其优化行为、泛化能力和整体性能。

Apr, 2024

使用符号回归及 Alpha Zero 算法的物理分析方法研究框架，展示了其在 Floquet 系统中获得高频扩展的潜力，可能发展出物理学的新理论框架。

Nov, 2023

当前人工智能的最新技术在语言方面非常出色，但在数学推理方面则相对不足。本文以数学家的思维方式为参考，建立在当前深度学习在直觉和习惯性行为等方面取得成功的基础上，指出其在推理和稳健性不确定性估计等方面仍存在重要缺陷。文中以信息论的观点探讨了什么样的数学陈述是有趣的，这可能为塑造高级数学家人工智能的未来工作提供指导。重点不是证明给定的定理，而是发现新奇的猜想。核心假设是，一个有用的定理组应更好地总结所有可证陈述的集合，例如通过具有较小的描述长度，同时在推导步骤的数量上接近许多可证陈述。

Mar, 2024