使用 KineticNet 深度神经网络对轨道自由密度泛函理论中的动能能量进行建模，通过分子平面网格预测分子的动能能量函数，以获得具有化学准确性的模型，从而实现轨道自由密度泛函理论的密度优化，以及对小分子的基态分子属性计算。

May, 2023

本文探讨将角度特征直接纳入分子属性预测的实际价值，通过对 e3nn 与 QM9 数据集进行消融研究，发现旋转等变层相对于增加网络深度来说更为参数有效。在保持网络深度和参数数量稳定的情况下，加入角度特征可以平均降低测试误差 23%，特别是在偶极矩方面表现得更好。

Aug, 2020

本研究提出了一种新的基于机器学习的数值模拟工作流，通过深度神经网络构建局部态密度来计算一系列相关量，包括可用作原子的 Born-Oppenheimer 势能面的总自由能，从而实现了在计算速度和规模上远超传统方法的多尺度材料建模。

Oct, 2020

对图像进行极坐标变换后，利用卷积神经网络进行太阳辐射预测比进行数据旋转增广的方法具有更高的预测准确率和更短的训练时间。

Nov, 2021

基于不可学习算子（梯度、排序、局部二值模式、最大值等），本研究设计了一套旋转不变卷积操作（RIConvs），与传统卷积操作具有相同数量的可学习参数和类似的计算过程，可相互替换。在不同数据集上的实验证明，RIConvs 明显提高了卷积神经网络的准确性，尤其是在训练数据有限的情况下，RIConvs 能进一步提升模型性能。

Apr, 2024

我们提出了一种很简单的方法来修改 GIN 卷积，以便使网络可以检测到很小的环，这对于在化学上下文中对图形子结构进行分析的下游任务非常重要。在真实的分子属性数据集上进行测试，我们的模型始终改善了大型多任务数据集的性能，无论是在全局还是在每个任务的设置中。

Nov, 2020

本文提供了一种基于群表示理论和非交换谐波分析的方法来学习球面图像的创新性的构架，对于构建对紧致群的操作不变的神经网络具有普适性。

Jun, 2018

本文研究深度神经网络的训练动态，提出旋转变量优化器，通过移除传递相应收敛期可达到与原始变量优化器类似的性能，降低了对学习率热身的需求，并改善了对网络归一化不足的优化。

May, 2023

我们提出了一种新颖的 Transformer 架构 Moleformer，它将节点（原子）和边（键和非键原子对）作为输入，并使用旋转不变性和平移不变性的几何感知空间编码来模拟它们之间的相互作用。我们在 OC20 和 QM9 数据集上进行了基准测试，Moleformer 在 OC20 的初始状态到松弛能量预测方面实现了最先进的水平，并且在预测量子化学性质方面与其他 Transformer 和图神经网络方法相比非常有竞争力，证明了所提出的几何感知空间编码在 Moleformer 中的有效性。

Feb, 2023

本文通过应用 Hamilton 神经网络来学习和利用物理系统中保守量的对称约束，通过适当的损失函数来实现周期坐标的强制，从而在简单的经典动力学任务中实现了更高的准确性，进而拟合出网络中的隐向量的解析式，从中发现利用了保守量，如角动量。

Apr, 2021