基于机器学习的原子间势函数已经在原子级材料建模领域产生了巨大的影响，但是这些势函数的质量和数量对应的量子力学参考数据至关重要，因此开发数据集和训练流程成为一个日益重要的挑战。我们在这篇论文中展示了利用合成的原子级数据作为神经网络原子间势函数的预训练任务是有益的。经过大规模的合成数据集的预训练后，这些模型可以在更小的量子力学数据集上进行微调，提高计算实践中的数值精度和稳定性。我们通过一系列与碳相关的等变图神经网络势函数进行可行性验证，并进行了初步实验来测试该方法的局限性。

Jul, 2023

本文提出一种新的三维分子预训练方法，该方法采用等变能量基模型作为主干网络，以预测节点力信息为目标进行节点级预训练损失计算，并采用高斯分布以保证其 E（3）不变性，同时通过图层级噪声缩放预测任务来进一步提高模型性能，实验结果表明，该方法在两个挑战性的三维基准测试上均取得了比当前最先进的预训练方法更佳的表现。

Jul, 2022

本文基于统一的 2D 和 3D 预训练，提出了一种新的基于图神经网络的表示学习方法，将原子坐标和原子间距编码，并通过图神经网络将其与原子表示融合。在 11 个下游分子属性预测任务中进行评估，其在 10 项任务中都获得了最先进的结果，2D 任务平均改进了 8.3％，同时在 2 个三维构象生成任务中也取得了显着的改进。

Jul, 2022

本研究提出了可推广和可转移的分层图卷积神经网络（MGCN）以预测分子性质。研究中将每个分子表示为图以保留其内部结构，并且通过多级交互从构象和空间信息直接提取特征，从而可以利用多级总体表示来进行预测。实验结果显示 MGCN 具有显著的泛化能力和可转移性。

Jun, 2019

我们提出了一种预训练方法，使用现有的分子构形数据集生成适用于多个构形的潜在向量，从而解决了获取多个构形的计算成本高的问题，并展示了我们的模型在分子性质预测方面优于使用分子图和三维分子结构的现有预训练方法。

Dec, 2023

该论文描述了一种基于去噪自编码的预训练技术，通过利用大量的 3D 分子结构数据学习下游任务的有意义的表示，从而实现分子属性预测的最新技术；实验证明，使用这种预训练目标显著提高了多个基准测试的性能，在广泛使用的 QM9 数据集中取得了新的最新技术成果。

May, 2022

介绍了基于量子力学的分子表示层次结构，使用多体展开式控制目标相似性，并使用高阶贡献提高预测准确性和速度的 BAML 模型在数千种小有机分子的性质计算中表现出了前所未有的预测准确性和速度。

Aug, 2016

本研究提出了 MoCoP 框架来学习分子图和细胞形态的多模态表示，并将其应用于 QSAR 模型以提高其性能。实验结果表明将细胞形态与分子图相融合能显著提高 QSAR 模型的性能。

Apr, 2023

本研究使用基于深度图神经网络的方法，通过从二维分子图中直接学习，以及通过使用低成本构象集合，预测量子化学性质中的 HOMO-LUMO 能隙，并在 2021 KDD Cup 中表现出良好性能。

Jun, 2021

本文采用 Transformer 结构，具体为 BERT，来学习灵活高质量的分子表示，从预训练使用不同组合的自监督任务的影响、到提高所学表示的领域相关性，最终提高了我们模型 MolBert 在基准数据集上的性能，显示其在药物发现方面具有良好的应用前景。

Nov, 2020