May, 2022

分子性质预测的去噪预训练

PDF
TL;DR该论文描述了一种基于去噪自编码的预训练技术，通过利用大量的 3D 分子结构数据学习下游任务的有意义的表示，从而实现分子属性预测的最新技术；实验证明，使用这种预训练目标显著提高了多个基准测试的性能，在广泛使用的 QM9 数据集中取得了新的最新技术成果。
molecular property predictionneural networkspre-training techniquedenoising autoencodersqm9 dataset
发现论文，激发创造
  • 非平衡分子的降噪预训练，用于准确和可转移的神经势

    本文提出了基于去噪预训练 (Equivariant Graph Neural Networks) 的新型神经势能预测方法，旨在解决对于大规模、复杂的分子体系建立准确、具有可迁移性的 GNN 神经势能预测模型的问题。实验结果表明，该方法具有很好的实用性，并成功地提高了神经势能预测的准确性。

    Mar, 2023

  • 3D 去噪器是优秀的 2D 教师：通过去噪和跨模态蒸馏进行分子预训练

    D&D 是一种自监督的分子表示学习框架，通过从 3D 去噪器中提炼的表示来预训练 2D 图形编码器，并在下游任务中无需准确的构象器获得 3D 信息和卓越的性能。

    Sep, 2023

  • 通过位置去噪预测易于获得的几何量子化学性质

    本文提出了采用分层去噪方法预测量子化学性质的方法，以优化几何结构为输入，解决高级量子力学计算的不可行性问题，实现了在两个预测任务中取得了较高的准确性。

    Mar, 2023

  • 推广去噪至非平衡结构改善等变原子力场

    本文提出了一种使用去噪非平衡结构（DeNS）作为辅助任务来更好地利用训练数据和提高性能的方法，通过对非平衡结构添加噪声并预测噪声来实现对非平衡结构的去噪，进而改善在 OC20、OC22 和 MD17 数据集上的训练效率并取得了新的最先进结果。

    Mar, 2024

  • 切片去噪：一种基于物理信息的分子预训练方法

    该论文提出一种名为 SliDe 的分子预训练新方法，利用切片去噪策略及随机切片方法，提高对分子力场的精确预测能力，从而优于传统基准模型在分子性质预测任务上的表现。

    Nov, 2023

  • 愿原力与你同在：基于力的统一预训练方法用于 3D 分子构象

    我们提出了一种力导向的预训练模型，用于涵盖平衡和非平衡数据的三维分子构象，通过直接学习非平衡数据的原子力，以及引入零力正规化和基于力的去噪技术来近似接近平衡力转化为近千其他鞠躬。我们的预训练模型对于三维分子表示具有统一的作用，通过预训练目标，力的准确性相比未经预训练的等变变压器模型提高了约 3 倍，同时通过在平衡数据上添加正规化项，解决了原始等变变压器中不稳定的分子动力学模拟问题，实现了与 NequIP 相比 2.45 倍更快的推理时间，并达到了与最先进的属性预测任务相当的性能。

    Aug, 2023

  • 使用 SE（3）不变去噪距离匹配进行分子几何预训练

    提出了利用 3D 几何结构进行预训练的方法，并提供了一种 3D 坐标去噪预训练框架以建模分子的平滑势能面。实验验证了该方法的效果和稳健性。

    Jun, 2022

  • 分子属性预测的自动化三维预训练

    本文提出了一个名为 3D PGT 的新颖框架，它可以在无法获得几何结构的实际应用情况下，以 2D 结构为输入预测分子属性，实验证明与各种预训练基线相比，其具有更高的准确性，效率和泛化能力。

    Jun, 2023

  • 基于能量激发的等变预训练对 3D 分子图的研究

    本文提出一种新的三维分子预训练方法，该方法采用等变能量基模型作为主干网络，以预测节点力信息为目标进行节点级预训练损失计算，并采用高斯分布以保证其 E（3）不变性，同时通过图层级噪声缩放预测任务来进一步提高模型性能，实验结果表明，该方法在两个挑战性的三维基准测试上均取得了比当前最先进的预训练方法更佳的表现。

    Jul, 2022

  • 关于预训练在分子性质预测中的数据不平衡问题

    本研究提出了一种有效的预训练方法，用于改善分子性质预测模型的预训练和最终预测准确性，并通过实验和评估使用分子性质预测模型的基准来调查和评估我们提出的不平衡补偿的影响。

    Aug, 2023