分子图预训练的模式感知属性屏蔽
本研究介绍了一种基于图形的分子数据的自我监督学习的新型方法,称为基于图案的图形自我监督学习(MGSSL)。我们提出了一种依赖于自生成基元的新的预训练框架来捕获分子图中的丰富信息,该框架可以在宽度优先或深度优先的方式下执行,并在不同的下游基准任务上进行了广泛实验,表明我们的方法优于所有最先进的基线。
Oct, 2021
通过学习图模式 (Motif),对大型图数据库进行 GNN 预处理,进而利用学习到的模式采样更多信息化的子图,通过对子图的对比学习预训练 GNN,使其性能在多个基准数据集中平均提高了 2.04% 的 ROC-AUC。
Dec, 2020
通过使用基础单元为基本图案生成解释的基于 Motif 的 GNN 解释器(MAGE),本研究解决了分子图神经网络在解释性方面所面临的挑战。通过定量和定性评估六个真实世界分子数据集,验证了该方法的有效性。
May, 2024
该研究提出了一种名为 PAMT 的新方法,利用属性相似性掩码集成了结构感知传播过程,从而能够在传播过程中保留相邻节点的属性相关性并有效减少结构噪声的影响,同时开发了一种迭代细化机制来改善训练性能,该方法在 4 个真实世界数据集上表现出了卓越的性能和鲁棒性。
Jun, 2022
我们提出了一种掩码预训练方法,用于改善图神经网络在拟合潜在能量表面方面的性能,尤其是在水系统中。该方法通过从分子中恢复与掩码化原子相关的空间信息进行预训练,然后在原子力场上进行转移和微调。通过这种预训练,图神经网络学习了与分子系统的结构和基础物理信息相关的有意义的先验知识,对下游任务有用。通过全面的实验和消融研究,我们证明了该方法相对于从头开始训练或使用其他预训练技术(如去噪)的图神经网络,在准确性和收敛速度上都有所提高。另一方面,我们的预训练方法适用于基于能源和力的图神经网络。这种方法展示了它在拟合分子力场方面提高性能和数据效率的潜力。
Feb, 2024
提出了一种新颖的 Atom-Motif Contrastive Transformer (AMCT) 模型,用于分子性质预测任务。该模型不仅探索了原子级别的相互作用,还考虑了分子中关键图案(e.g., 功能基团)之间的相互作用,并在学习框架中构建了适用于分子属性的注意机制。实验证明,AMCT 模型在性能上优于现有的方法。
Oct, 2023
本文提出了一种新颖的框架,可以在任意图上学习空间和关注卷积神经网络,通过子图归一化和自我关注层,可以显著提高传统图内核和现有深度模型的图分类基准。
Nov, 2018