我们提出了一种理论和方法论框架，以解决在将深度学习应用于物理系统时的一个关键挑战：在预测 SO (3)- 等变量（如电子结构哈密顿量）时，非线性表达能力与 SO (3)- 等变性的协调问题。在物理学中协变理论的启发下，我们通过探索 SO (3)- 不变量和 SO (3)- 等变量及其表示之间的数学关系来解决这个问题。我们首先构造了从 SO (3)- 等变回归目标得出的理论 SO (3)- 不变量，并将这些不变量作为监督标签来指导学习高质量的 SO (3)- 不变特征。由于非线性操作能保持 SO (3)- 不变性，因此不变特征的编码过程可以广泛利用非线性映射，从而充分捕捉物理系统中固有的非线性模式。在此基础上，我们提出了一种基于梯度的机制，从学习到的 SO (3)- 不变特征中诱导出各种程度的 SO (3)- 等变编码。该机制能将非线性表达能力合并到 SO (3)- 等变表示中，并在理论上保持它们的等变性质，我们通过数学证明了这一点。我们的方法为解决深度学习方法中等变性和非线性表达能力之间的关键困境提供了一个有前景的通用解决方案。我们将理论和方法应用于电子结构哈密顿量的预测任务，并在六个基准数据库上展示了最先进的性能。

May, 2024

本文提出了一种称为 QHNet 的 SE（3）- 等变网络，其利用创新的 QHNet 体系结构实现了效率和等变性，并在 MD17 数据集上表现出可比较于最先进方法的性能，同时消耗 50％的内存。

Jun, 2023

使用数据学习 Hamilton 系统的框架，基于 lifting 假设，将非线性 Hamilton 系统用具有三次 Hamilton 量的非线性系统表示，并通过强制施加 Hamilton 结构和辛自编码器来学习二次动力系统，实现了系统的长期稳定性和相对较低的模型复杂度。

Aug, 2023

该研究介绍了一个统一的神经网络架构，Deep Equilibrium Density Functional Theory Hamiltonian (DEQH) 模型，它结合了 Deep Equilibrium Models (DEQs) 来预测 Density Functional Theory (DFT) Hamiltonians。DEQH 模型固有地捕捉了 Hamiltonian 的自洽性质，解决了传统机器学习方法在 Hamiltonian 预测中常忽略的关键问题。在多个数据集上测试，DEQHNet 显著提高了预测准确性，除了预测器外，DEQH 模型还是一个 Hamiltonian 求解器，利用深度平衡模型的固定点求解能力迭代求解 Hamiltonian，对 DEQHNet 的消融研究进一步阐明了网络的有效性，揭示了 DEQ 集成网络在 Hamiltonian 学习中的潜力。

Jun, 2024

本文通过应用 Hamilton 神经网络来学习和利用物理系统中保守量的对称约束，通过适当的损失函数来实现周期坐标的强制，从而在简单的经典动力学任务中实现了更高的准确性，进而拟合出网络中的隐向量的解析式，从中发现利用了保守量，如角动量。

Apr, 2021

本文利用黎曼几何和高维混沌的平均场理论相结合，研究了具有随机权重的通用深度神经网络中信号传播的性质。我们的研究结果揭示了从秩序相到混沌相的表达能力相变，并证明了浅层网络无法高效地计算这种深度随机函数族。此外，我们定量证明了深度网络可以将输入空间中高度曲率的流形分解成隐藏空间中的平坦流形。

Jun, 2016

本论文提出了一种新颖的等变神经网络体系结构，用于 Kondo 晶格模型的大规模自旋动力学模拟，并应用于二维正方形和三角形晶格上的模型。该网络确保平移和自旋旋转等同，并且可以准确复现磁性相变，通过训练模型优于使用不变描述符的模型，并证明其在三角晶格中晶体天鹅石的自旋晶体相变也得到准确复现。

May, 2023

本论文提出利用晶体图卷积神经网络 (CGCNN) 可直接从晶体原子之间的联系学习材料物性，有效提高了晶体材料设计的效率，并能够提取局部化学环境对全局物性的贡献，为晶体材料的设计提供了经验规则。

Oct, 2017

本文提出了一种构建 SE (3) 等变图神经网络的框架，该框架可以在保证性能的前提下实现计算效率的提升，并在牛顿力学建模和平衡分子构型生成两个任务中展示了优异的性能。

Oct, 2021

使用辛神经网络构建灵活、强大的 Langevin 方程式的变换重现器， 并使用两种方法进行训练

Sep, 2019