使用 SE（3）不变去噪距离匹配进行分子几何预训练

Jun, 2022

使用 SE（3）不变去噪距离匹配进行分子几何预训练

Molecular Geometry Pretraining with SE(3)-Invariant Denoising Distance Matching

Shengchao Liu, Hongyu Guo, Jian Tang

TL;DR提出了利用 3D 几何结构进行预训练的方法，并提供了一种 3D 坐标去噪预训练框架以建模分子的平滑势能面。实验验证了该方法的效果和稳健性。

Abstract

Molecular representation pretraining is critical in various applications for drug and material discovery due to the limited number of labeled molecules, and most existing work focuses on pretraining on 2D molecul

pretraining 3d geometry potential energy surface denoising se(3) invariant score matching

发现论文，激发创造

使用三维几何预训练分子图表示

本研究提出了图多视角自编码（Graph Multi-View Pre-training）框架，使用自监督学习（self-supervised learning）通过 2D 拓扑和 3D 几何视图之间的对应和一致性提高了对分子图表示的学习能力，并通过实验证明其有效性高于现有的图自监督学习方法。

Oct, 2021

3D 去噪器是优秀的 2D 教师：通过去噪和跨模态蒸馏进行分子预训练

D&D 是一种自监督的分子表示学习框架，通过从 3D 去噪器中提炼的表示来预训练 2D 图形编码器，并在下游任务中无需准确的构象器获得 3D 信息和卓越的性能。

Sep, 2023

分子属性预测的自动化三维预训练

本文提出了一个名为 3D PGT 的新颖框架，它可以在无法获得几何结构的实际应用情况下，以 2D 结构为输入预测分子属性，实验证明与各种预训练基线相比，其具有更高的准确性，效率和泛化能力。

Jun, 2023

基于能量激发的等变预训练对 3D 分子图的研究

本文提出一种新的三维分子预训练方法，该方法采用等变能量基模型作为主干网络，以预测节点力信息为目标进行节点级预训练损失计算，并采用高斯分布以保证其 E（3）不变性，同时通过图层级噪声缩放预测任务来进一步提高模型性能，实验结果表明，该方法在两个挑战性的三维基准测试上均取得了比当前最先进的预训练方法更佳的表现。

Jul, 2022

一种分组对称随机微分方程模型用于分子多模态预训练

本文提出了一种基于分组对称（例如 SE（3）- 等变和反射反对称）随机微分方程模型的新方法 MoleculeSDE 来处理单个模态学习不足的问题，并解决了现有分子多模态预训练方法所遭遇到的分子的结构信息丢失问题，并通过与 17 个预训练基线的比较，实证验证了 MoleculeSDE 在 32 个下游任务中 26 个的领先表现。

May, 2023

分子性质预测的去噪预训练

该论文描述了一种基于去噪自编码的预训练技术，通过利用大量的 3D 分子结构数据学习下游任务的有意义的表示，从而实现分子属性预测的最新技术；实验证明，使用这种预训练目标显著提高了多个基准测试的性能，在广泛使用的 QM9 数据集中取得了新的最新技术成果。

May, 2022

分子表示的统一的 2D 和 3D 预训练

本文基于统一的 2D 和 3D 预训练，提出了一种新的基于图神经网络的表示学习方法，将原子坐标和原子间距编码，并通过图神经网络将其与原子表示融合。在 11 个下游分子属性预测任务中进行评估，其在 10 项任务中都获得了最先进的结果，2D 任务平均改进了 8.3％，同时在 2 个三维构象生成任务中也取得了显着的改进。

Jul, 2022

通过位置去噪预测易于获得的几何量子化学性质

本文提出了采用分层去噪方法预测量子化学性质的方法，以优化几何结构为输入，解决高级量子力学计算的不可行性问题，实现了在两个预测任务中取得了较高的准确性。

Mar, 2023

通过扩散蛋白质结构模拟的优化，实现高效蛋白质三维几何预训练

该研究提出了 3D 几何预训练的方法，通过使用专门为蛋白质设计的前置任务 RefineDiff 进行预训练，可以获得有效的蛋白质表征，适用于各种下游任务。

Feb, 2023

分子联合自编码：2D 和 3D 扩散下的轨迹预训练

该研究提出了一种面向分子联合自编码（MoleculeJAE）的预训练方法，该方法可以学习分子的二维键和三维构象信息，通过扩增轨迹的弥散过程模型，MoleculeJAE 能够以自我监督的方式学习分子的化学结构，优于与其相比的 12 个竞争基准，在 20 个任务中有 15 个任务达到了最先进的性能水平。

Dec, 2023